Le bon, le mauvais et le pire de l’IA

Derrière le rocambolesque renvoi-retour du charismatique patron d’OpenAI, Sam Altman, se profile un conflit sur l’alignement de la croissance rapide avec la sûreté de ChatGPT, qui démontre la nécessité de réglementer l’intelligence artificielle (IA).

OpenAI a une gouvernance singulière chapeautée par un organisme à but non lucratif, voué au développement de l’IA au bénéfice de l’humanité. Or, Altman menait à train d’enfer une entité opérante à but lucratif d’OpenAI, celle qui collecte des fonds pour le développement de ChatGPT.

La collision de ces visions a mené à la défenestration d’Altman et à son recrutement par Microsoft, principal investisseur dans OpenAI. Les employés menaçant de le rejoindre, le conseil d’administration a reculé et, avec une composition renouvelée, réinstitué Altman.

*** 

Depuis un an, un débat fait rage sur l’IA qui promet le bon, lequel vient cependant avec le mauvais et peut-être le pire. Le loufoque aussi, lorsque ChatGPT a prétendu que j’avais interviewé Jacques Brel, forcément en culottes courtes, quand je lui ai demandé qui j’étais. Me savait-il admirateur ? Mais revenons aux vraies affaires.

L’IA est une technologie fondamentale pouvant transformer en mieux ou en pire presque toutes les activités humaines et, selon des cassandres, menacerait même notre existence comme espèce.

Ne cherchez pas la machination d’un savant fou. L’IA fleure les bonnes intentions : accélérer la découverte de traitements contre le cancer et de solutions au réchauffement climatique. Elle aide à prendre des décisions éclairées et gère des tâches complexes comme la conduite autonome des véhicules.

Goldman Sachs estime que l’IA pourrait doubler les gains de productivité de l’économie pendant une dizaine d’années – une énorme source de richesse, qui motive la course entre les Big Techs pour de grands modèles de langage dix fois plus puissants à chaque nouvelle version.

*** 

Le mauvais comprend des hallucinations qui finiront par être jugulées, comme ma rencontre avec Brel, mais aussi des enjeux de discrimination à l’égard des minorités en raison des biais dans les données qui ont servi à entraîner les modèles. On reproche aussi à l’IA de piétiner les droits d’auteur et de menacer la vie privée. Elle fournira des armes aux pirates informatiques et des poisons aux terroristes. La manipulation de l’information et du processus démocratique par des hypertrucages suscite l’inquiétude avant l’élection américaine.

Le président de la Securities and Exchange Commission (SEC), Gary Gensler, voit dans l’IA le ferment d’une crise financière « presque inévitable » s’il n’y a aucune intervention réglementaire.

*** 

Chez OpenAI, Ilya Sutskever est le prudent scientifique en chef qui insiste pour des progrès mesurés. Il a été le Brutus qui a provoqué le renvoi d’Altman, avant de le regretter publiquement. Selon ce Canadien qui a participé aux recherches sur l’apprentissage profond à la base de l’IA actuelle, celle-ci « peut être très dangereuse et pourrait mener à l’impuissance de l’humanité ou même à l’extinction des humains ».

Il n’est pas seul à mal dormir en songeant au pire : le risque X, pour existentiel. Yoshua Bengio, professeur à l’Université de Montréal et directeur scientifique du Mila, ainsi que Geoff Hinton, professeur à l’Université de Toronto et ex-responsable de l’IA chez Google, craignent un scénario « Frankenstein » avec l’arrivée pas si lointaine d’une intelligence artificielle générale qui s’améliore d’elle-même, dépasse les capacités humaines, se multiplie et se concerte de plusieurs endroits.

« Une fois qu’une autre espèce sur Terre nous surpasse en intelligence et en puissance, nous pourrions perdre le contrôle de notre avenir », a écrit Bengio dans The Economist.

Pour sa part, Yann LeCun, professeur à la New York University et scientifique en chef de Meta (Facebook) qui a obtenu le prix Turing (le Nobel de l’informatique) avec Bengio et Hinton pour leur découverte commune sur l’apprentissage profond, rejette le risque X, tout comme d’autres chercheurs du Mila, telle Joëlle Pineau, professeure à McGill et vice-présidente, recherche en IA, chez Meta.

*** 

Quoi qu’on pense du pire, il y a beaucoup de mauvais à maîtriser pour profiter du bon. Manifestement, on ne doit pas répéter l’erreur commise à l’arrivée des réseaux sociaux – notre première rencontre avec l’IA qui choisit ce qu’on voit sur nos fils – et laisser les Big Techs décider ce que l’IA générative va créer pour nous.

Les gouvernements sont conscients de l’urgence, mais le chantier est aussi vaste que flou et mouvant à l’aube de cette révolution technologique.

Des actions complémentaires s’imposent sur les plans international, national et local, sachant que c’est en brisant le maillon le plus faible de la chaîne que pourrait s’échapper Frankenstein.

Malgré le rôle pionnier des chercheurs canadiens, les leaders de l’industrie sont aux États-Unis et en Chine. Ces puissances rivales partagent un désir de contrôler le génie de l’IA pour qu’il ne menace pas l’ordre établi dans leur sphère d’influence.

Les Chinois préparent un projet de loi. Face à un Congrès divisé, le président Biden a signé un décret. L’Europe adoptera une loi sévère avant la fin de l’année.

Ottawa cherche à s’harmoniser avec son projet de loi sur l’intelligence artificielle et les données, tandis que Québec attend les recommandations d’un comité d’experts sur l’encadrement éthique et responsable de l’IA.

Même l’industrie réclame des normes, mais il faudra beaucoup d’agilité pour s’ajuster de manière coordonnée aux développements inattendus.

L’auteur a bénéficié pour cet article de sa participation à un programme éducatif sur les politiques en IA, offert par Mila et le Forum des politiques publiques.

Visionnez une présentation au festival Ideas d’Aspen, au Colorado, sur les avantages et les risques de l’IA (en anglais) Qu’en pensez-vous ? Participez au dialogue