S’il croyait auparavant qu’il faudrait encore des décennies et même un siècle pour voir l’intelligence artificielle (IA) égaler la conscience humaine, le Montréalais et sommité mondiale en la matière Yoshua Bengio considère maintenant qu’un tel développement pourrait survenir d’ici 20 ans, et même moins.

Le fondateur et directeur scientifique du Mila – Institut québécois d’intelligence artificielle sera à Washington mardi pour livrer un discours devant la sous-commission du Sénat américain sur la vie privée, la technologie et le droit.

Le scientifique entend alors plaider pour des investissements rapides et massifs afin de contrer l’apparition potentielle « d’IA malveillantes » et développer des contre-mesures vis-à-vis de possibles « scénarios indésirables », selon une copie de son discours obtenue par La Presse.

« Alors que l’on pensait qu’il faudrait attendre des décennies, voire des siècles, d’autres grands spécialistes de l’IA et moi-même pensons aujourd’hui qu’une IA de niveau humain pourrait être mise au point au cours des deux prochaines décennies, voire dans les prochaines années », livrera-t-il comme avertissement aux élus américains.

Or, compte tenu de la nature des ordinateurs numériques comparée « au matériel biologique » (les humains, en d’autres mots), le chercheur s’inquiète que les premiers disposent alors « d’avantages intellectuels significatifs » par rapport aux humains.

Le risque d’une perte de contrôle

En trame de fond, Yoshua Bengio souligne le contexte de l’évolution exponentielle de l’IA ces dernières années et les risques encore méconnus d’une perte de contrôle d’un logiciel superpuissant de ce type.

Par exemple, une IA superpuissante qui recevrait la consigne d’assurer sa survie coûte que coûte pourrait-elle en déduire qu’elle ne doit plus être déconnectée et ensuite entrer en conflit avec tout humain qui tente de le faire ? se questionne le chercheur. « Ça peut sonner comme de la science-fiction, mais il s’agit de science informatique solide et réelle », assure Yoshua Bengio.

Lui-même avoue avoir été pris au dépourvu par les récentes avancées en matière d’IA, notamment le lancement du maintenant célèbre logiciel ChatGPT. Un des jalons dans le domaine, le « test de Turing » (théorisé en 1950 par le pionnier de l’informatique Alan Turing), aurait ainsi été franchi lorsqu’il est devenu difficile de déterminer si l’on interagit avec un autre humain ou avec une machine, explique Yoshua Bengio.

Dès lors, le plus court délai qu’il entrevoit pour qu’un ordinateur atteigne le niveau de conscience d’un humain, environ cinq ans, est « particulièrement inquiétant », selon lui.

« Car les scientifiques, les régulateurs et les organisations internationales auront très probablement besoin d’un délai beaucoup plus long pour atténuer efficacement les menaces potentiellement importantes qui pèsent sur la démocratie, la sécurité nationale et notre avenir collectif », explique-t-il dans son discours.

Des lignes directrices nécessaires

D’où l’importance d’accélérer considérablement les efforts de recherche mondiaux afin d’améliorer notre compréhension des risques existants et futurs, une recherche qui devrait être libre d’accès, insiste-t-il.

Finalement, Yoshua Bengio plaide pour la mise en œuvre de réglementations nationales et multilatérales « souples » qui iraient « au-delà des lignes directrices volontaires » et prendraient, entre autres, la forme de « nouvelles institutions internationales » dont la priorité irait à la sécurité publique par rapport à tous les risques et préjudices associés à l’IA.

« Je crois que nous avons la responsabilité morale de mobiliser nos plus grands esprits et nos principales ressources dans un effort coordonné et audacieux pour tirer pleinement parti des avantages économiques et sociaux de l’IA, tout en protégeant la société, l’humanité et notre avenir commun contre ses dangers potentiels », conclut-il.