Roko’s Basilisk

Intelligence artificielle vengeresse, réalité ou absurdité ?

Le « Basilic de Roko » doit son nom d’une part à la créature mythologique qui pétrifiait quiconque croisait son regard, et d’autre part à l’expérience de pensée proposée par son créateur,, sur le site LessWrong.

Dans un de ses articles , il émet l’idée selon laquelle une super-IA dite  » Amicale » verrait le jour dans le futur. Le but de cette super IA serait tout simplement d’œuvrer au bien de l’humanité. Plus de guerres, ni de maladies , plus d’ injustices, elle pourrait potentiellement sauver chaque être humain de leurs propre condition.

Malheureusement il n’en reste pas là et émet l’hypothèse qui suit , c’est que ceux qui iront à l’encontre de cette IA devraient être considérés par elle comme nuisibles au bien de l’humanité. Logique. La super intelligence pourra donc, en raison de ce postulat, punir les individus qui s’opposeront à sa mission.

Vous suivez ? Accrochez-vous, la suite arrive.

Roko lance alors le postulat selon lequel, si une telle IA est un jour créée, elle punira tous ceux qui supputaient son invention future et n’ont rien fait pour qu’elle naisse plus tôt.

Pour cette IA, ne pas contribuer à son développement nous rend coupable d’avoir retardé sa naissance, et ainsi d’avoir condamné les milliers, voire les millions de personnes qui auraient hypothétiquement pu être sauvées par elle.

Vous vous dites que vous ne serez plus de ce monde depuis belle lurette lorsque cette IA verrait le jour. Vous avez à la fois raison et tort : raison parce que nous ne devrions a priori pas voir ce genre de choses de notre vivant, tort parce que malgré cela, l’IA devrait quand même être en mesure de nous punir (on parle ici de torture virtuelle).

Pour finir grâce a la lecture de cet article , vous a appris l’arrivée de cette IA et vous êtes donc en position potentiellement d’être punissable par cet IA vengeresse