Soldat vs. robot tueur : qui gagne ?

Soldat vs. robot tueur : qui gagne ?

Qui ferait le meilleur soldat : un humain ou une intelligence artificielle autonome ? Selon quels critères pourrions-nous les départager ? Ce sont des questions auxquelles la philosophe Marie-des-neiges Ruffo tente de répondre dans Itinéraire d’un robot tueur, un essai publié aux éditions Pommier.

Par Sandrine Samii.

En imaginant une compétition entre un humain et un robot, rivalisant pour prouver leur supériorité sur les champs de bataille, Marie-des-neiges Ruffo réussit la prouesse de proposer une introduction synthétique et accessible aux théories scientifiques et philosophiques sur l’intelligence artificielle. Le choix du « robot tueur », ou « système d’armes létales autonomes » pour cette auscultation n’est pas anecdotique : « Dans une guerre plus qu’ailleurs encore, les dimensions du respect de l’éthique, de la délégation de la décision à un programme informatique, de la place encore réservée à l’humain ne sont pas simplement des débats de mots mais des enjeux de vie ou de mort. Le robot militaire constitue donc un cas limite focalisant l’attention sur les enjeux majeurs du remplacement de l’humanité par des robots. »

Un itinéraire à trois étapes

La philosophe élabore un itinéraire à trois étapes : l’agora des philosophes, le tribunal des avocats et le champ de bataille des militaires. Nos deux compétiteurs y rencontrent une multitude de figures historiques et contemporaines : des philosophes de la Grèce antique échangent avec la programmatrice Ada Lovelace et le mathématicien Alan Turing ; le philosophe Grégoire Chamayou, auteur de Théorie du drone (aux éditions La Fabrique), trouve en la juriste Nathalie Nevejans une alliée dans la défense de l’humain ;  le philosophe Martin Heidegger, l’écrivain de science-fiction Isaac Asimov, le roboticien Ronald Arkin et le spécialiste de l’intelligence artificielle Jean-Gabriel Ganascia sont également convoqués.

Ainsi les philosophes américains Colin Allen et Wendell Wallach se font les garants de la théorie physicaliste assimilant l’intelligence à une puissance de calcul. Ils affirment que, nos ordinateurs devenant de plus en plus performants, il nous sera bientôt possible de simuler l’intelligence. Leur collègue et compatriote John Searle leur répond avec sa métaphore de la chambre chinoise, qui illustre la différence majeure entre simuler la conscience – avec de plus en plus de rapidité, certes – et être conscient. « Il semblait clair que l’argument de ce dernier, à savoir que la machine ne comprenait pas ce qu’elle faisait quand elle manipule des données ou du langage, continuait de porter ses fruits en dehors de l’agora. Même au sein d’un tribunal où des informaticiens et roboticiens débattaient, son argument philosophique ne cessait d’être le cul-de-sac contre lequel butaient les approches informatiques les plus développées. »

La guerre est loin d'être gagnée

L’humain quitte l’agora des philosophes avec une victoire éclatante, mais la guerre est loin d’être gagnée. Il est impossible de nier que, sur le champ de bataille, son homologue mécanique a des capacités qu’il n’a pas : il est plus rapide, plus fort, plus résistant et il pourrait permettre de mettre les soldats humains de son propre camp à l’abri… Le général de division français de l’armée de terre Vincent Desportes doit lui venir en aide, rappelant entre autres qu’il manquerait toujours à une IA militaire une qualité importante : l’intuition, « cette capacité à saisir l’essence d’une situation, ce "coup d’œil" qui ramène à la synthèse la multitude des circonstances », dans un environnement imprévisible. Le champ de bataille étant « le lieu par excellence de l’inattendu », renchérit le stratège militaire prussien Carl Von Clausewitz.

Alors que les débats font rage, Marie-des-neiges Ruffo prête cette réflexion à son compétiteur humain : « C’est la manière dont on combat qui inspire soit le respect, le premier pas vers la paix, soit la haine, autrement dit l’escalade de la violence. » Au-delà de la validation d’une tâche, dont serait également capable une machine, notre conduite peut rendre nos actions légitimes ou indignes. Un éclair de bon sens qui, en ce qui concerne l’automation, vaut également hors des zones de conflits.

 

À lire : Itinéraire d’un robot tueur, Marie-des-neiges Ruffo, éd. Le Pommier, 204 p., 17 €

 

Retrouvez notre dossier « Intelligence artificielle, la cour des miracles » dans notre numéro du mois d'avril 2019 (N°16), actuellement en kiosque.

 

Photo : Marie-des-neiges Ruffo © DR/Ed. Le Pommier

Nos livres

« Je reste roi de mes chagrins », Philippe Forest, éd. Gallimard