Je ne suis pas journaliste, encore moins spécialisée en intelligence artificielle. Mais j’ai rencontré Yoshua Bengio et j’ai maintenant peur. Je suis sortie bouleversée par notre échange au cours duquel il m’a confié ses raisons d’être très préoccupé par les développements récents de l’IA.
Yoshua Bengio a éveillé ma curiosité et mon intérêt quand il a commencé, il y a quelques mois, à prendre la parole publiquement. J’ai été surprise qu’un chercheur de sa notoriété décide d’exprimer publiquement ses inquiétudes sur des enjeux très sérieux, risquant de faire face à de forts vents contraires.
Les tourments du célèbre chercheur sont d’un ordre bien particulier. Yoshua Bengio est un spécialiste en IA reconnu mondialement. Professeur titulaire à l’Université de Montréal, fondateur et directeur scientifique de Mila – Institut québécois d’intelligence artificielle, il est le chercheur le plus cité en informatique à l’échelle mondiale. Il est aussi le lauréat du prix Turing en 2018, « le prix Nobel de l’informatique », aux côtés de Yann Le Cun et de Geoffrey Hinton. Sa feuille de route impressionne.
Yoshua Bengio n’est pas une personne exaltée, spectaculaire, qui fait dans l’exagération. Il a gravi les échelons de la recherche en atteignant une reconnaissance mondiale pour ses travaux sur l’apprentissage profond. Il a le parcours admirable d’un chercheur brillant.
Puis arrive ChatGPT. D’abord peu préoccupé par les performances de ce nouveau système d’IA, il devient cependant de plus en plus inquiet : ce nouvel outil se révèle beaucoup plus performant que ce à quoi il s’attendait. Et d’autres chercheurs confirment ses craintes.
L’IA est en train de devenir un outil tellement puissant qu’il pourrait bientôt faire autant de bien… que de mal. Il pourrait influencer les processus démocratiques, les marchés boursiers, lancer des cyberattaques ou favoriser des manœuvres créant carrément une menace pour notre survie, souligne le chercheur. Rien de moins.
J’ai voulu le rencontrer avec une question en tête : comment porte-t-on sur nos épaules la responsabilité et le sentiment de devoir agir et parler d’enjeux potentiellement aussi dramatiques ?
Pendant notre conversation, il répète plusieurs fois le mot « mission ». Il se demande si la trajectoire des travaux qu’il a faits jusqu’à maintenant est bénéfique ou, au contraire, pourrait conduire à d’éventuelles utilisations malveillantes. Il s’inquiète de la direction que prend la recherche sur l’IA et est d’avis que des changements importants sont nécessaires.
Yoshua Bengio se montre humble quand il admet avoir été un peu myope devant la rapidité du développement de l’IA et même de s’être trompé. Il faut se prémunir contre les dangers qu’elle représente maintenant, m’expliquera-t-il plusieurs fois, et c’est peut-être urgent, car l’horizon des avancées à venir est incertain. C’est dorénavant son cheval de bataille.
Le chercheur a donc remis en question son rôle, son emploi du temps et même les orientations de ses recherches. Il ne peut plus ignorer les conséquences de ses constatations, même si elles lui imposent d’intervenir publiquement plus fréquemment. Il le fait parce qu’il ressent la responsabilité d’agir, et ce, même si c’est inconfortable et cela signifie de sortir de sa quiétude de chercheur admiré pour carrément se transformer en lanceur d’alerte.
Mon cerveau a du mal à assimiler l’étendue des dommages possibles, mais je sais que pour remettre ainsi en question le travail de toute une vie, il faut une force extraordinaire et un sens moral hors du commun. Sa détermination tranquille, sa puissance de conviction et la profondeur de ses propos ne me laissent aucun doute sur l’énergie qu’il continuera à déployer pour convaincre les décideurs d’agir pour imposer des balises au développement et à l’utilisation de l’intelligence artificielle.
Et la détermination dont il fait preuve, si elle trouve un écho, peut encore nous permettre de rester sur la bonne voie.
Il faut éviter, m’explique-t-il sans détour, que voie le jour, peut-être dans une entreprise privée ou un État voyou, une IA dangereuse comme si les humains en perdaient le contrôle ou décidaient de l’utiliser à des fins malveillantes, y compris même l’objectif que l’IA remplace l’humanité.
Si nous sommes confrontés à un ennemi qui semble en voie de devenir plus intelligent que l’humain, il semble logique, m’explique Yoshua Bengio, de ralentir les avancées non sécuritaires et de développer rapidement, entre laboratoires choisis de pays démocratiques, une structure d’intelligence artificielle à visées bienveillantes qui pourra elle aussi surpasser l’intelligence humaine, mais sera en mesure de nous défendre au besoin. Une sorte de contre-système axé sur les valeurs démocratiques et les droits de la personne, sous la gouverne d’une entité comme les Nations unies. Pour nous battre à armes égales, avec un encadrement national et international efficace et solide.
Je reste saisie par toute l’inquiétude et la portée de la réflexion de ce grand chercheur québécois. Il est conscient que la route sera parsemée d’embûches et que les signaux d’alarme qu’il envoie seront souvent ignorés, surtout lorsque l’on sait que les retombées économiques de l’IA se comptent au moins en milliers de milliards de dollars.
Mais il continue.
Yoshua Bengio est un lanceur d’alerte courageux et lucide, un citoyen du monde épris de justice sociale, qui sent le besoin urgent de travailler pour le bien-être, et même potentiellement pour la survie, de l’humanité.
S’il a admis que, jusqu’en 2023, il a été myope, ses yeux sont désormais grands ouverts et sa parole est bien présente.
Nous ne pouvons plus nous permettre de l’ignorer.
Qu’en pensez-vous ? Participez au dialogue