Superintelligence - I

Premier billet librement inspiré du Superintelligence de Nick Bostrom, reprenant, plagiant ou interprétant ses écrits.

 
  Superintelligence _ de Nick Bostrom, sous-titré  Paths, Dangers, Strategies  sur la version originale de 2014.

Superintelligence_ de Nick Bostrom, sous-titré Paths, Dangers, Strategies sur la version originale de 2014.

 

Je serai clair et direct : si vous ne deviez lire qu'un seul livre sur l'intelligence artificielle, ça ne serait pas celui-là. Ce serait les Robots d'Isaac Asimov ou Destination: Vide de Frank Herbert, de très loin. Ou 2001, à la rigueur, écrit par Arthur C. Clarke. Pas pour la rigueur, mais pour les idées.

Mais si vous deviez lire un livre complexe, aride, foisonnant sur le sujet, sans technique mathématique ou algorithmique, sans baratin médiatique, sans effets de manche, alors oui, achetez-le et lisez-le. Même si le titre et certains termes (superpowers) font plus penser aux franchises Marvel qu'à de la philosophie de l'IA. C'est d'ailleurs ce qui m'a un peu rebuté, au début.

N Bostrom explore les différentes formes conceptuelles pouvant mener à une super-intelligence, i.e. une intelligence nettement supérieure à celle de l'homme : l'intelligence artificielle basée sur le silicium, l'émulation totale de cerveau, les améliorations cognitives (=puces dans le cerveau), les interfaces entre cerveaux et machines, et enfin les intelligences collectives et en réseau. Ce panorama à lui seul justifie le livre, car N Bostrom y évite les délires pseudo-scientifiques en se montrant capable de nuance et de retenue, sans s'emballer ni tomber dans le catastrophisme.

L'intérêt réside toutefois dans les chapitres suivants : quelles seront les formes de cette super-intelligence ? Oracle, génie, souverain, outils ? Comment se passera la transition vers la super-intelligence ? Quelle domination instaurera-t-elle, quelle organisation : singleton ou multipolaires ? Etc. Enfin, quels seront ses buts, ses motivations ? Comment instiller des valeurs ? Quelles valeurs choisir ? Peut-on choisir, d'ailleurs ?

La grande question du livre ou, pour le dire autrement, la question qui m'a marqué et que je trouve tout à fait passionnante, est la suivante : comment peut-on espérer influencer, sinon contrôler, une intelligence par définition supérieure à la notre et qui peut, par construction, se reprogrammer ? Quels moyens sont envisageables ?

Bostrom donne beaucoup de pistes et nous livre le résultat de ses réflexions - ou de celles de la communauté. Je vous laisse cogiter et vous renvoie à la fable inachevée des moineaux.

La suite au prochain numéro.

Thomas GerbaudComment