(Ottawa) La haute responsable des Nations unies chargée du désarmement a déclaré que les gouvernements devaient accorder plus d’attention au « côté obscur » de l’intelligence artificielle, y compris les répercussions des soi-disant robots tueurs qui pourraient soutirer certaines décisions militaires du commandement humain.

L’intelligence artificielle permettra des innovations bénéfiques, mais les gouvernements doivent prendre des mesures plus strictes pour empêcher des impacts néfastes sur le plan militaire, y compris les piratages potentiellement catastrophiques des arsenaux nucléaires, a fait valoir Izumi Nakamitsu, la secrétaire générale adjointe de l’ONU pour les affaires de désarmement.

Mme Nakamitsu a offert ces points de vue dans une récente entrevue, juste avant que le gouvernement Trudeau annonce un nouveau partenariat avec le Royaume-Uni lundi pour développer des projets d’intelligence artificielle qui pourraient mener à des percées dans les véhicules sans conducteur et les soins de santé pour les personnes âgées.

Le gouvernement a fait de l’intelligence artificielle un pilier de sa stratégie de croissance économique, car il considère le développement de la technologie comme un moyen d’attirer les investissements étrangers et de créer un nouveau secteur d’emplois hautement qualifiés.

Le gouvernement utilise les innovations de chercheurs de premier plan à Montréal et à Toronto dans le domaine de l’« apprentissage automatique », les algorithmes avancés permettant aux nouveaux supercalculateurs de penser d’une manière semblable aux humains.

« Selon toute vraisemblance, je serai au Japon à un âge avancé, pris en charge par un robot. Il y a un énorme potentiel », a affirmé Mme Nakamitsu en visite à Ottawa.

« Nous disons simplement qu’il faut tenter de s’assurer que le côté obscur, l’impact négatif, est minimisé. Nous devons nous assurer que ces technologies nous seront bénéfiques. »

Le gouvernement a peu parlé des risques pour la sécurité liés à l’intelligence artificielle dans le cadre de l’annonce avec le Royaume-Uni, sauf pour dire qu’il devait en faire plus pour protéger la vie privée des Canadiens, car la technologie repose sur l’accumulation de quantités massives de données personnelles.

Coentreprise canado-britannique

Lundi, le ministre de l’Industrie, Navdeep Bains, a annoncé un investissement de 5 millions dans une coentreprise canado-britannique pour financer la recherche sur les défis de l’intelligence artificielle, y compris le développement de systèmes de transport, l’aide aux neurochirurgiens et la détection et le suivi des épidémies mondiales.

M. Bains a déclaré en entrevue que sa priorité était d’avoir l’avis d’un comité consultatif sur la façon d’apporter des modifications législatives pour mieux protéger la confidentialité des données.

« Pour que l’intelligence artificielle prospère vraiment et ait un impact positif sur la société, vous avez également besoin de grandes quantités de données, a souligné M. Bains. À mesure que nous progressons, nous espérons pouvoir résoudre certains de ces problèmes en ce qui concerne la militarisation et l’utilisation éthique de l’IA. »

Bien qu’il puisse y avoir des aspects militaires bénéfiques de la nouvelle technologie, notamment en rendant les missiles plus précis pour minimiser les pertes civiles, Mme Nakamitsu a déclaré que des questions légitimes demeurent quant à savoir si les armes elles-mêmes pourraient prendre les décisions sur le moment de tirer et les cibles — des éléments qui devraient être laissés au soin des humains.

Elle a déclaré qu’elle soutenait la Campagne pour arrêter les robots meurtriers, un mouvement international qui s’est propagé à une soixantaine de pays, dont le Canada, qui plaide pour un traité interdisant les armes autonomes.

Mme Nakamitsu a affirmé qu’elle s’inquiétait de la menace de piratage des arsenaux nucléaires.

« De plus en plus de piratages sont désormais des piratages automatisés, activés par l’intelligence artificielle, a-t-elle déclaré. Toutes les 39 secondes, il y a du piratage quelque part dans le monde. C’est donc assez effrayant. »

Mme Nakamitsu souhaite que le Canada en fasse davantage pour promouvoir le désarmement nucléaire, surtout s’il réussit dans sa campagne pour un siège temporaire de deux ans au Conseil de sécurité des Nations unies.

« Si le Canada devient membre du Conseil de sécurité, j’espère vraiment qu’il fera du contrôle des armes et du désarmement l’une de ses priorités », a-t-elle affirmé.

Il y a peu d’indices que cela se produise.

Le ministre des Affaires étrangères, François-Philippe Champagne, n’a fait aucune mention des questions de désarmement en décrivant les priorités du Canada en matière de politique étrangère lors de sa campagne pour les élections de juin à l’organe des Nations unies.

Pendant ce temps, le bureau du premier ministre Justin Trudeau n’a pas répondu aux multiples demandes du Réseau canadien pour l’abolition des armes nucléaires, une coalition d’organisations non gouvernementales, de prendre le relais de la lutte pour le désarmement nucléaire.