Yuval Noah Harari et Yoshua Bengio  « L’intelligence artificielle est une chenille qui peut devenir un tyrannosaure »

Si incroyable soit-elle, l’intelligence artificielle telle que nous la connaissons aujourd’hui a le pouvoir de rapidement devenir « plus puissante qu’un tyrannosaure » et de représenter une menace existentielle pour l’humain — d’où l’urgence de l’encadrer sans attendre.

C’est le message qu’ont livré mercredi l’historien et auteur à succès israélien Yuval Noah Harari et le réputé chercheur québécois Yoshua Bengio lors d’une conférence donnée devant une salle comble dans le cadre de l’évènement d’affaires créatif C2 Montréal à la Place-Ville-Marie.

Les deux experts se sont entendus pour dire que l’intelligence artificielle (IA) avait le potentiel de devenir une menace existentielle pour les humains.

« L’IA est différente, car c’est une technologie qui prend des décisions, a dit M. Harari, qui s’exprimait par visioconférence depuis Israël. Le couteau de silex ou la bombe atomique, ça prend un humain pour décider de les utiliser. Mais l’IA prend des décisions, et donc nous prend une partie de notre pouvoir. »

Selon M. Bengio, professeur au département d’informatique et de recherche opérationnelle de l’Université de Montréal, l’IA menace à court terme la prochaine élection présidentielle américaine en novembre 2024.

D’ici quelques années, de telles technologies pourraient avoir une intelligence égale, puis supérieure, à celle des humains, a-t-il dit.

« On ne sait pas si ça va arriver. Mais si c’est le cas, c’est existentiel comme menace. Imaginez une nouvelle espèce tellement intelligente qui nous regarde comme nous regardons une grenouille… Est-ce que nous traitons les grenouilles correctement ? »

M. Harari a lui aussi fait part de ses inquiétudes sur cette possibilité. « L’intelligence artificielle est une chenille qui peut devenir un tyrannosaure. Et ça ne prendra pas des millions d’années d’évolution pour que ça arrive : on pourrait y être d’ici quelques années. »

Les deux hommes ont récemment signé une lettre ouverte qui appelle tous les laboratoires d’IA à immédiatement interrompre pour au moins 6 mois la formation de systèmes d’IA plus puissants.

Pour Yuval Noah Harari, les compagnies privées vont probablement continuer la recherche. « Le plus urgent est pour le gouvernement de contrôler le déploiement. Par exemple, on pourrait avoir une règle simple : l’IA ne peut pas se faire passer pour un humain, on doit savoir qu’on parle à l’IA. Depuis des milliers d’années, les humains ont des lois contre la contrefaçon de l’argent, et grosso modo ces lois fonctionnent. On a besoin de lois semblables sur la contrefaçon des humains. »

Les gouvernements sont nouvellement intéressés par l’IA à cause de la popularité d’outils comme ChatGPT. Mais les élus comprennent encore mal tout le potentiel de cette technologie, y compris ce qu’elle veut dire pour l’avenir des démocraties, dénonce M. Harari.

« La volonté n’est pas là. Les politiciens n’en parlent pas en campagne électorale, alors que le danger est immédiat. L’IA est déjà au travail, elle prend des décisions sur les admissions à l’université, sur les prêts consentis par les banques. »

L’IA a le potentiel d’aider les travailleurs à accomplir une partie de leur travail, mais l’impact économique est encore incertain, a statué Yoshua Bengio.

« Si l’IA permet à un programmeur de programmer deux fois plus vite, est-ce qu’on va avoir besoin de deux fois moins de programmeurs ? Ou alors on va avoir besoin du même nombre de programmeurs, mais ils vont être deux fois plus productifs ? C’est difficile à dire. »

Yuval Noah Harari note que le pouvoir de transformation de la société de l’IA est plus grand encore que ne l’a été la révolution industrielle au 19^e siècle.

« La dernière grande révolution était la révolution industrielle. Il a fallu plusieurs générations pour bâtir la société. On a eu beaucoup de mauvaises expériences, comme l’Holocauste, pour bâtir des sociétés industrialisées fonctionnelles. Ça ne nous a pas détruits. Avec la révolution de l’IA, on ne peut se permettre de faire des expériences et des échecs, car on ne survivra pas aux échecs, ils peuvent nous détruire. »

À court terme, note-t-il, beaucoup des problèmes de l’humanité peuvent être accrus par l’IA. « On ne veut pas être alarmistes, mais la transition va être difficile. Hitler a pris le pouvoir avec 25 % de chômage pendant 3 ans seulement. »

Devant l’immensité de la tâche, M. Bengio note que l’humain doit faire de son mieux.

« C’est notre impératif moral. On ne peut qu’essayer, comme pour les changements climatiques. Il y a des menaces, il y a des bénéfices. Je ne suis pas optimiste ni pessimiste, mais nous avons un devoir d’agir. »