idées

Jean-Gabriel Ganascia : « L'intelligence artificielle va transformer les valeurs humaines »

Written by Jean-Gabriel Ganascia | Apr 5, 2018 4:47:00 AM

L’homme supplanté par l’intelligence artificielle… selon vous, la singularité va-t-elle advenir ?

La singularité est un concept qui vient des mathématiques désignant un point critique, un moment particulier dans une fonction, qui peut s’appréhender de façon tout à fait abstraite et théorique. Ce qu’on appelle la singularité technologique, c’est l’idée que la technologie se développant extrêmement rapidement, il y a un moment où elle va nous dépasser. Et cela a un caractère inéluctable. C’est assez proche des théories de l’apocalypse telles qu’elles ont pu exister autour de l’an mil. On pourrait parler d’une prophétie de l’e-apocalypse. 

Sauf que d’autres approches possibles de la modernité ne conduisent pas à cette singularité, il faut envisager tous les scénarios. Actuellement, il n’y a pas de confrontation à cette idée émise d’abord des spécialistes de science-fiction puis des ingénieurs, des technologues... Les arguments qu’ils utilisent pour extrapoler la réalité du monde sont très discutables.

Par exemple, ils se basent sur la loi de Moore, selon laquelle les performances des machines doublent régulièrement, entraînant un développement exponentiel de la technologie.

C’est une loi d’observation, rien ne dit qu’elle va continuer à s’observer dans le futur. Des éléments assez forts permettent même de penser que ça va se freiner. Car ce doublement régulier de la puissance de calcul est lié à la technologie du silicium, qui sera limitée à un moment donné. On appelle cela le « mur du silicium », c’est-à-dire qu’on ne pourra plus multiplier le nombre de composants électroniques sur un petit pavé de silicium. Peut-être qu’il y aura une autre technologie, bien sûr, mais il n’est pas possible de le prévoir. C’est ça le futur : des impondérables que l’on ne peut anticiper. À l’instar de l’invention du Web, les révolutions scientifiques nous surprennent à chaque fois. Et heureusement d’ailleurs.

Et quand bien même la loi de Moore se poursuivrait, ce n’est pas parce que les machines seront extrêmement rapides qu’elles seront intelligentes. Certains envisagent de transférer notre intelligence sur une machine, un peu comme si nous étions des programmes d’ordinateur sur un substrat qui serait notre cerveau. Or, c’est très réducteur car notre esprit est intimement lié à ce que nous sommes physiologiquement.

Pour reprendre votre expression, ces « technoprophètes contemporains » ont-ils un intérêt à théoriser ainsi la singularité ?

Au début, très tôt dans les années 1950, il y avait des scientifiques rêveurs. Puis ce sont des auteurs de science-fiction qui ont pris le relais. À partir des années 1980, des scientifiques ou des ingénieurs reprennent le flambeau, se vantant de pouvoir réaliser une intelligence artificielle forte ou faire advenir la singularité technologique. Enfin, ces dernières années, les entrepreneurs, les leaders des grandes sociétés de l’Internet, soulignent à la fois les risques de l’intelligence artificielle et les solutions possibles, arguant qu’il s’agit d’une transformation de l’humanité. Par exemple, Elon Musk crie au danger et, dans le même temps, crée Neuralink, une société qui a pour objectif de greffer sur nos cerveaux des disques durs. Un cauchemar absolu !

Derrière ces fables extraordinaires (devenir immortel, transporter son esprit sur une machine…) qui à la fois font peur et fascinent, notre regard est détourné. C’est une forme de divertissement, au sens de Pascal, c’est-à-dire que notre attention se porte sur autre chose que la réalité complexe du monde. Ce qui est très intéressant, là, c’est que ça prend racine sur la littérature. Pendant de très nombreuses années, la science-fiction s’inspirait de la science pour imaginer des scénarios. Aujourd’hui, on a une sorte d’inversion. C’est la science qui s’inspire de la science-fiction.

Quelles sont les raisons à cela ?

Le financement actuel de la recherche est extrêmement compétitif. Et les organismes prêteurs demandent chaque fois une « percée technologique » (en anglais breakthrough), du nouveau. Or il est impossible de planifier la transformation. La seule solution est donc de faire rêver. En reprenant les vieux thèmes de science-fiction : Elon Musk, aux États-Unis, qui envoie une fusée sur Mars ou veut greffer un disque dur sur les cerveaux (il appelle sa firme Neuralink en référence à neural lace, le « lacet neuronal » de Iain Banks). Ou encore le consortium européen Human Brain Project qui veut dupliquer le cerveau sur une machine : c’est bien une histoire de science-fiction car conceptuellement, si l’on duplique quelque chose, ce n’est qu’un modèle et le modèle n’est jamais la réalité. Pour faire une analogie avec la nouvelle de Jorge Luis Borges, la carte n’est pas le territoire et le modèle du cerveau ne sera jamais le cerveau.

Cette théorie de la singularité remet-elle en cause les valeurs humanistes ?

Avec toutes ces transformations technologiques qui bouleversent le monde, naturellement l’éthique change car les habitudes sont modifiées, en particulier les concepts qui font le lien entre les personnes, le tissu social. Par exemple, la réputation. Elle existe depuis toujours mais maintenant cette réputation va se calculer, de façon automatique, avec des algorithmes (avec des systèmes de notations plus ou moins discutables). C’est à la fois la même chose et complètement différent. Ensuite, l'intelligence artificielle va transformer les valeurs humaines elles-mêmes. Je pense que des réflexions devront être conduites pour les comprendre. Ce qui est passionnant, c’est qu’on se repose des questions très anciennes dans des termes très nouveaux.

Propos recueillis par Stéphane Desmichelle.

Photo : Metropolis © 1927 Universum Film / Collection Christophel / Via AFP