Le manteau du pape et autres dérapes (de l’IA)

Vous avez peut-être déjà perdu l’équilibre tout en haut d’une pente glacée, sachant que votre glissade risquait de très mal se terminer.

Pour certains, en raison des développements rapides de l’intelligence artificielle, l’humanité se trouve actuellement dans cette position très inconfortable.

C’est ce que craignent l’entrepreneur Elon Musk, le chercheur (en intelligence artificielle) montréalais Yoshua Bengio et de nombreux autres experts ayant signé une lettre à ce sujet qui alimente actuellement les débats – avec raison.

Ils sont persuadés que les grandes entreprises qui conçoivent des systèmes « plus puissants que GPT-4 » (la plus récente création de la firme Open AI) devraient immédiatement mettre leurs travaux sur pause pendant au moins six mois.

Et si ces entreprises refusent d’interrompre l’entraînement de ces systèmes, les gouvernements devraient imposer un moratoire sur la recherche, affirment-ils.

Ce n’est pas la première fois que des experts de renommée internationale sonnent l’alarme quant aux risques potentiels de l’intelligence artificielle.

Il y a cinq ans, Elon Musk déclarait que « le danger de l’intelligence artificielle est plus grand que le danger des ogives nucléaires ».

À l’époque, ses propos avaient soulevé un certain débat. Mais on pouvait encore penser qu’il s’agissait de déclarations fantasques d’un entrepreneur excentrique.

Cette fois, on est forcé de prendre ce genre de propos au sérieux. La vitesse des progrès faits en IA au cours des derniers mois laisse présager des changements rapides pour nos sociétés.

Certains vont être positifs, c’est évident. Mais d’autres, on le constate déjà, n’augurent rien de bon.

Au cours des derniers jours, une photo du pape François presque surréelle est devenue virale. Le chef de l’Église catholique est vêtu d’une doudoune d’un blanc immaculé.

Il ressemble à un bonhomme Michelin.

Mais le pape n’a jamais porté de tel manteau. La photo est fausse – même si elle a berné bien du monde. C’est un homme originaire de Chicago qui l’a conçue avec le logiciel d’intelligence artificielle Midjourney.

La semaine précédente, ce sont des photos de l’arrestation de Donald Trump qui avaient soulevé l’émoi. Fausses, elles aussi.

Ces exemples sont la pointe de l’iceberg sur lequel nous sommes en train de nous encastrer.

À ce sujet, le récent reportage de notre journaliste Charles-Éric Blais-Poulin était particulièrement troublant. Des « individus de notoriété publique » au Québec ont été identifiés à tort par ChatGPT comme ayant fait l’objet d’allégations d’inconduite sexuelle, a-t-il – notamment – révélé.

Ces technologies (les unes générant des images, les autres des textes) sont maintenant à la portée de tous, ce qui signifie qu’on entre dans une ère nouvelle de désinformation.

La confiance, ciment qui fait tenir nos sociétés et leurs institutions démocratiques, est déjà ébranlée. Mais on n’a peut-être encore rien vu.

Et on ne parle pas de tous les autres risques potentiels liés à l’IA, allant de la discrimination aux armes létales autonomes, en passant par la survie de nos emplois.

Le problème fondamental : il n’y a pas encore de shérif pour encadrer le développement de l’intelligence artificielle.

Au moins, au Canada, le processus est en branle. Un projet de loi (C-27) est à l’étape de la deuxième lecture. Yoshua Bengio estime que ça va « dans la bonne direction ».

Mais en attendant l’adoption de la législation, ici comme partout ailleurs, c’est le Far West.

Il est urgent de réglementer l’intelligence artificielle, donc. Mais une pause ?

« C’est sûr que je trouve que c’est super de prendre du recul, mais ça fait longtemps que plusieurs le disent et ont tiré la sonnette d’alarme. Des travaux ont montré les impacts sociétaux des modèles d’intelligence artificielle. Mais c’est comme si c’était passé sous le radar », nous a expliqué la directrice générale de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique, Lyse Langlois.

À cette époque, il n’y avait pas eu de pause.

Il n’y en aura pas plus aujourd’hui.

N’en déplaise aux signataires de la lettre, c’est un vœu pieux.

La concurrence entre les grandes corporations américaines, mais aussi entre les États-Unis et la Chine dans ce domaine, est trop forte. Les enjeux sont trop élevés.

Ça ne veut toutefois pas dire que l’initiative de Yoshua Bengio et ses pairs est un coup d’épée dans l’eau.

Au contraire.

Ils jouent le rôle de lanceurs d’alerte.

Ils ont le mérite de nous avoir fait réfléchir encore davantage sur l’importance de baliser au plus vite la « course incontrôlée » en IA à laquelle on assiste encore, hélas, en spectateurs trop passifs.

Lisez l’enquête « Intelligence artificielle : des crimes et des criminels inventés » Qu'en pensez-vous? Exprimez votre opinion