À Hollywood, depuis plusieurs années, les robots tueurs font recette.
Ils sont dépeints la plupart du temps comme des machines dont la forme se rapproche de celle d'un être humain. Ils sont dotés d'intelligence artificielle et peuvent décider eux-mêmes de tuer ou pas.
Prenez la photo qui accompagne ce texte. C'est celle d'Ultron, robot en vedette dans le plus récent film des Avengers (au septième rang des films les plus lucratifs de l'histoire du cinéma). Son objectif est noble : il veut pacifier le monde. Le hic, c'est qu'il décide que le moyen le plus sûr d'y parvenir est de faire disparaître les humains.
On n'en est pas là, direz-vous. Heureusement. Mais les robots tueurs existent, pourtant. « Armes létales autonomes » est l'expression qu'on utilise généralement pour les décrire. C'est-à-dire des armes qui peuvent tuer quelqu'un sans intervention humaine.
« Ce n'est pas de la science-fiction », prévient en entrevue le Montréalais Yoshua Bengio, chercheur de renommée mondiale en intelligence artificielle. « Les organisations militaires dans le monde qui disposent de ces technologies peuvent probablement déjà faire ça relativement facilement. »
Il s'agit de versions plus primitives que celles qu'on a pu voir au grand écran, mais leur simple existence est déjà inquiétante. Avec raison.
M. Bengio et plusieurs autres experts qui travaillent dans le domaine de l'intelligence artificielle ou de la robotique s'en soucient, d'ailleurs. Une centaine d'entre eux, incluant aussi le célèbre entrepreneur américain Elon Musk, ont diffusé il y a quelques jours une lettre expédiée à la conférence de l'ONU sur la Convention sur certaines armes classiques.
Ils souhaitent qu'on « trouve le moyen », au plus vite, de protéger l'humanité contre les dérapages potentiels liés au développement des armes létales autonomes.
Déjà, l'an dernier, le magazine Wired estimait que le Pentagone avait en chantier au moins 21 projets différents « visant à accroître l'autonomie des systèmes d'armement ». Certains sont déjà en fonction. Comme le système de défense antimissile Phalanx. Il peut facilement repérer une cible et, s'il voulait l'éliminer, pourrait techniquement le faire sans l'intervention d'un militaire américain. Et ça ne fait que commencer. Un chercheur interrogé par le quotidien Le Monde a dit croire que des robots tueurs volants, à peine « plus gros que des insectes », sont en développement. Ils pourraient être « équipés de cerveaux décisionnels et dotés de munitions capables de perforer les yeux ou de projeter des ondes hypersoniques mortelles ».
Rien de très rassurant. Sans compter, comme le rappellent les signataires de la lettre, que ces armes pourraient un jour tomber entre les mains de dictateurs ou de terroristes.
Les experts ont donc raison lorsqu'ils affirment que le temps presse. Il faut réfléchir aux façons d'encadrer le développement des armes létales autonomes.
Un traité international, option privilégiée par certains spécialistes, semble souhaitable. Comme pour les armes chimiques ou les mines antipersonnel.
« Des robots ne doivent pas avoir un pouvoir de vie et de mort sur des êtres humains », soutenait le rapporteur spécial de l'ONU sur les exécutions extrajudiciaires, sommaires ou arbitraires... en 2013. Depuis, le débat n'a pas véritablement été mené.
Une rencontre devait avoir lieu la semaine dernière à Genève à ce sujet, mais elle a été reportée à novembre. Il faut lever notre chapeau aux experts, dont la lettre (la deuxième en deux ans) a permis de remettre le sujet sous les projecteurs.
Le manque d'empressement des décideurs n'est pas surprenant. Le temps de réaction de nos gouvernements est souvent trop lent lorsqu'il s'agit de codifier des pratiques liées au développement de nouvelles technologies.
Par ailleurs, il n'y a pas que le développement des robots tueurs qui, pour ce qui est de l'intelligence artificielle, annonce de profonds changements de société auxquels on doit réfléchir et se préparer. Ici, Ottawa et Québec commencent à manifester un certain enthousiasme pour la recherche sur les enjeux éthiques soulevés par les progrès dans ce domaine. Il était temps.
Photo Graham Hughes, La Presse Canadienne
Le Montréalais Yoshua Bengio, chercheur de renommée mondiale en intelligence artificielle