Il y a déjà Donald Trump, l’Ukraine, les forêts qui brûlent, les trolls chaque jour plus hargneux sur les réseaux sociaux. A-t-on vraiment besoin, de nos jours, d’une nouvelle source de tracas ?
Ce fut ma première réaction quand j’ai lu que l’intelligence artificielle pouvait représenter une « menace existentielle » pour l’humanité.
Il y a une bonne dose de déni là-dedans de ma part, bien sûr. Mais aussi un sain scepticisme. De tout temps, l’humain a craint la fin du monde. Et aux dernières nouvelles, nous sommes toujours là pour nous raconter des peurs.
La menace de l’intelligence artificielle me semblait surtout difficile à prendre au sérieux. Ces algorithmes qui peinent à nous suggérer des recommandations pertinentes sur Netflix ? Ceux-là mêmes qui nous font rire par leurs maladresses sur ChatGPT ? Il faudrait maintenant avoir peur de ça ?
C’est donc en sifflant du R.E.M. (si c’est la fin du monde tel qu’on le connaît, je me sens très bien, merci) que je me suis rendu chez Yoshua Bengio.
Disons qu’on n’y va pas pour se faire remonter le moral. Le chercheur québécois, l’un des pères de l’intelligence artificielle, agite des drapeaux rouges depuis plusieurs mois. Il craint que les avancées scientifiques auxquelles il a contribué se retournent maintenant contre nous.
Cet été, il s’est rendu devant le Sénat américain pour sonner l’alarme. La veille de notre rencontre, il en avait encore discuté avec António Guterres, secrétaire général de l’ONU, en tant que membre d’un nouveau comité sur la question.
PHOTO SAUL LOEB, ARCHIVES AGENCE FRANCE-PRESSE
Yoshua Bengio a témoigné le 25 juillet dernier devant des élus américains, à Washington.
Je voulais comprendre, concrètement, ce qui pourrait mal tourner avec ce qu’on appelle l’IA, pour intelligence artificielle. J’ai été servi en scénarios catastrophes.
Mais Yoshua Bengio est un prophète de malheur aussi intelligent qu’humaniste. Il évoque le pire de façon posée, souvent même avec le sourire. On comprend rapidement que son objectif n’est pas de faire peur au monde. Ses propos sont un appel à l’action. Il plaide pour un encadrement de la recherche.
« Les dégâts pourraient être tellement grands que même s’il y a des incertitudes sur les scénarios, il faut y réfléchir dès maintenant », insiste M. Bengio.
Le premier spectre qui nous guette est facile à comprendre : c’est le risque que l’intelligence artificielle soit détournée à de mauvaises fins.
Pour l’instant, quelqu’un qui demanderait à ChatGPT comment fabriquer la bombe la plus meurtrière possible avec du matériel facilement accessible heurterait un mur : les concepteurs ont mis des garde-fous.
« Les gens ont toutefois réalisé au cours des derniers mois qu’il est assez facile de contourner les garde-fous. Et dans un an, deux ans, trois ans, on peut penser que les systèmes pourront aider les gens qui veulent faire du mal de plusieurs manières », dit M. Bengio.
Le chercheur a lui-même utilisé l’intelligence artificielle pour aider à la conception de nouveaux médicaments. Il fait remarquer qu’on pourrait faire de même pour élaborer des virus ou des armes chimiques.
Plus récemment, M. Bengio a commencé à réfléchir au déséquilibre qui pourrait survenir si des pays, des individus ou des entreprises avaient accès à des outils d’intelligence artificielle plus performants que les autres.
« Aujourd’hui, tu peux aller sur l’internet et acheter et vendre des actions. Si l’IA devient meilleure que les humains à ça, elle pourrait faire beaucoup d’argent. Et l’argent achète tout dans notre monde », illustre-t-il.
L’IA pourrait aussi manipuler l’être humain. ChatGPT sait déjà si bien nous imiter qu’il est devenu pratiquement impossible de savoir si c’est une machine ou un humain qui interagit avec nous.
M. Bengio évoque le scénario où l’intelligence artificielle serait utilisée pour créer des milliers de faux comptes sur les réseaux sociaux et influencer l’opinion publique.
Si tu peux concevoir de meilleures armes, si tu peux influencer les politiques, si tu peux gagner de l’argent de manière quasi illimitée, tous les équilibres qui existent dans notre société vont casser.
Yoshua Bengio
Vous commencez à avoir froid dans le dos ? Attachez votre tuque. « Il y a un pire danger que celui-là », annonce M. Bengio.
Avertissement : on plonge ici en pleine science-fiction. Mais Yoshua Bengio estime qu’on ne peut exclure la possibilité que l’intelligence artificielle acquière un désir « d’autopréservation » et se mette à agir pour ses propres intérêts, au détriment de ceux des humains.
« Il y a des chercheurs qui pensent que cette volonté pourrait arriver spontanément, sans qu’on la mette délibérément dans la machine, dit-il. Je ne peux pas affirmer avec certitude que ça va se passer comme ça. Mais je suis très capable d’affirmer qu’il va y avoir un bozo, quelque part, qui va dire à la machine : occupe-toi de toi. Préserve-toi. »
PHOTO JOSIE DESMARAIS, LA PRESSE
Yoshua Bengio
M. Bengio explique que l’IA a des avantages sur les systèmes biologiques que nous sommes. Elle évolue plus rapidement. Et les machines peuvent digérer et échanger entre elles infiniment plus d’information que les humains peuvent le faire par le langage ou l’écriture.
Comme l’intelligence artificielle est déjà capable d’écrire du code informatique, elle peut exécuter toutes sortes de tâches.
Mais ces machines fonctionnent toujours bien à l’électricité ! Ne pourrait-on pas simplement « tirer la plogue » en cas de problème ? La question est naïve. Mais à ce point de l’entrevue, j’avais besoin de me raccrocher à quelque chose.
« Imaginons une machine qui veut se préserver, répond le professeur Bengio. Si elle raisonne un peu, elle va se rendre compte qu’un humain pourrait effectivement la débrancher. Que fera-t-elle ? Elle pourrait se dupliquer sur d’autres machines. Et comme elle ne veut pas qu’on la trouve, elle pourrait le faire en se cachant. »
Non, ce n’est pas rassurant. Yoshua Bengio a lui-même commencé à s’inquiéter le jour où il a essayé ChatGPT.
« ChatGPT est tellement plus compétent que ce à quoi j’avais accès à l’université, explique-t-il. Et tout ça sans progrès scientifique. C’est juste une question de puissance de calcul ! Ça m’a fait réaliser qu’on est plus proche du but que je ne le pensais. »
Il souligne qu’avec les fortunes maintenant investies par les entreprises privées pour entraîner les systèmes d’intelligence artificielle, les progrès pourraient être exponentiels.
En tant que précurseur de l’IA, Yoshua Bengio s’avoue torturé.
« Il est douloureux de penser que nous avons peut-être contribué à quelque chose qui pourrait être grandement destructeur », écrivait-il récemment sur son blogue, disant penser au monde qu’il léguera à son petit-fils de 20 mois.
Lorsqu’on lui demande s’il dort bien, Yoshua Bengio répond avec ce mélange de rationnel et d’émotion qui aura caractérisé notre entrevue.
« Physiquement parlant, j’ai toujours bien dormi, dit-il. Mais psychologiquement, c’est sûr que ça bouffe mes pensées. »
Verdict
Il serait drôlement rassurant de penser que Yoshua Bengio va trop loin dans ses scénarios catastrophes. Son discours est d’ailleurs loin de faire l’unanimité au sein de la communauté scientifique. Il en est conscient et admet lui-même verser dans la « spéculation », une position contre-intuitive pour un scientifique. Mais peut-on vraiment exclure la possibilité que les risques décrits par le professeur Bengio se matérialisent un jour ? Le chercheur est – malheureusement ! – convaincant. La prudence la plus élémentaire commande de l’écouter. Il faut avoir le courage d’envisager le pire si on veut pouvoir l’éviter.
Qui est Yoshua Bengio ?
- Né à Paris en 1964.
- Lauréat du prix Turing (le « Nobel de l’informatique ») en 2018 avec Geoff Hinton et Yann LeCun pour leurs travaux en apprentissage profond.
- Professeur à l’Université de Montréal et sommité mondiale en intelligence artificielle.
- Fondateur et directeur scientifique de Mila, l’institut québécois en intelligence artificielle.
- Tous domaines confondus, il a été troisième parmi les scientifiques les plus cités par leurs pairs dans le monde en 2021, selon une étude de l’Université Stanford.