C'est l'un des plus grands risques liés au développement de l'intelligence artificielle : répéter les erreurs du passé. Et Microsoft installera à Montréal une équipe de chercheurs qui se penchera sur ce sujet, a appris La Presse.
La multinationale technologique, qui possède déjà un laboratoire de recherche employant 50 personnes à Montréal, déplacera dans la métropole une partie de son projet FATE (Fairness, Accountability, Transparency, Ethics), qui étudie les enjeux éthiques soulevés par le déploiement de l'intelligence artificielle (IA).
« Imaginez que l'on demande à un algorithme d'intelligence artificielle combien on devrait payer un homme ou une femme pour un même métier, illustre l'éthicien Martin Gibert, du département de philosophie de l'Université de Montréal. Comme ces systèmes se basent sur des données historiques, ils risquent fort de nous suggérer que la femme devrait recevoir un salaire inférieur à celui de l'homme.
« C'est ce genre de biais, de plus en plus présent et reconnu par l'industrie, que l'on doit s'employer à corriger. »
LES FAITS
L'objectif du groupe de recherche FATE est de développer des techniques informatiques en s'appuyant sur des études de sociologie, d'histoire, de science et de technologie, dit Microsoft dans un communiqué qui sera publié aujourd'hui.
« Ce groupe abordera la façon d'améliorer l'équité des ensembles de données et des algorithmes d'intelligence artificielle, la transparence et l'interprétabilité des résultats des algorithmes d'intelligence artificielle, la responsabilité de ces résultats en matière d'équité et de transparence, et les questions éthiques par rapport à l'intelligence artificielle et à la société », ajoute Jennifer Chayes, directrice générale des laboratoires Microsoft Research New England, New York City et Montréal, dans ce communiqué.
DIAZ REVIENT EN VILLE
Microsoft annonce en même temps l'arrivée dans la métropole du chercheur Fernando Diaz, qui a fondé le programme FATE avant de devenir directeur de la recherche de Spotify à New York.
« Les entreprises technologiques investissent beaucoup de temps et d'effort pour comprendre l'impact que l'intelligence artificielle peut avoir sur la société », dit-il en entrevue à La Presse.
« L'environnement académique offert à Montréal nous permettra aussi d'étendre cette connaissance aux personnes qui étudient dans le domaine. »
Il s'agit du deuxième séjour de M. Diaz à Montréal. « J'y ai travaillé pour Yahoo! Research voici 10 ans, et j'ai passé les 10 années suivantes à vouloir y revenir », dit-il.
Le chercheur Luke Stark se joindra à l'équipe FATE de Microsoft à Montréal au cours de l'été.
DÉCLARATION DE MONTRÉAL
Cette annonce suit de peu la publication du premier volet des délibérations citoyennes de la déclaration de Montréal IA responsable.
« Il s'agit d'un premier bilan général », dit Martin Gilbert, qui coordonne le volet scientifique de cette initiative née du Forum IA responsable, tenu à Montréal en novembre, et qui vise à proposer un cadre pour le développement éthique de l'intelligence artificielle.
Les 500 participants aux journées de consultation, qui se sont tenues aussi bien en ligne que dans des bibliothèques de Montréal et de Québec au cours du printemps, ont dégagé trois grandes pistes de solution pour minimiser les impacts potentiellement négatifs de l'IA.
Ils suggèrent notamment la mise en place d'un cadre légal, de programmes de formation, et l'établissement d'organismes indépendants qui devraient régir l'IA.
« Pour les chercheurs et les philosophes, l'IA est un domaine excitant et passionnant, dit Martin Gilbert après avoir assisté à cette première ronde de consultations. Mais je n'avais pas réalisé à quel point l'IA peut être une source d'anxiété pour le citoyen ordinaire. »
Devant l'ampleur des questions soulevées durant leurs travaux, les responsables de l'initiative issue de l'Université de Montréal ont décidé de reporter la publication de leur déclaration finale et de tenir une autre ronde de consultations à l'automne où seront abordés de nouveaux thèmes tels que l'environnement, la démocratie, la propagande et les médias, l'art et la culture, ainsi que la sécurité.