Intelligence artificielle Fidèle à ses convictions

Après avoir développé un algorithme innovateur prédisant la personnalité d’utilisateurs web dans le cadre de son doctorat, Golnoosh Farnadi a vite connu le succès : nombre d’entreprises voulaient employer son algorithme dans leur processus d’embauche. Alarmée, elle a décidé sur-le-champ que sa carrière prendrait un tournant différent.

« Mon doctorat visait à développer un modèle pour prédire la personnalité d’internautes en se basant sur les traces qu’ils laissent derrière eux : les textes qu’ils écrivent, les photos qu’ils publient », explique Golnoosh Farnadi, professeure adjointe à HEC Montréal.

Mais en cours de route, diverses entreprises ont communiqué avec elle, signifiant leur intérêt à utiliser ces modèles pour les aider dans le recrutement d’employés.

« J’étais intéressée par l’aspect théorique, mais quand j’ai réalisé ce qu’on pouvait faire avec ces modèles sur le plan de l’embauche, j’ai eu peur », raconte en riant la chercheuse de 37 ans.

C’est là que ses plans de carrière ont changé.

Se concentrer sur les risques

Avant de terminer son doctorat, Golnoosh Farnadi a écrit un chapitre de thèse additionnel. Dans celui-ci, elle expliquait pourquoi le genre de modèle qu’elle développait ne devrait pas être employé dans le cadre d’un processus d’embauche – l’inverse de ce qu’un doctorant aurait le réflexe de faire.

« C’est inquiétant parce que ce genre d’outil est rarement 100 % fiable, dit-elle. Ces modèles font des erreurs, et ces erreurs pourraient entraîner l’embauche d’une personne plutôt qu’une autre. C’est pour ça que j’ai décidé de changer mes orientations de recherche. »

Au cours de son postdoctorat, elle a donc décidé de se concentrer davantage sur les risques associés à l’intelligence artificielle (IA). Un champ de recherche qu’elle continue d’explorer aujourd’hui, alors qu’elle se concentre sur les enjeux de discrimination et de biais dans les modèles d’IA.

Meilleure équité en santé

Membre principale au Mila, l’Institut québécois d’intelligence artificielle, et titulaire d’une chaire en IA Canada-CIFAR, Golnoosh Farnadi travaille par exemple actuellement sur un projet lié à la transplantation de reins.

Elle explique qu’il existe, un peu partout dans le monde, des logiciels employant l’IA qui servent à apparier des patients à des donneurs de rein. Ces logiciels ne sont toutefois pas encore parfaits, car tous les patients – en dépit du fait qu’ils soient aussi compatibles sur le plan des caractéristiques médicales – n’ont pas la même probabilité d’être sélectionnés par l’algorithme.

« Nous essayons de développer un autre modèle, une autre approche, qui assure une chance égale à tous les patients potentiels de recevoir un rein », explique la chercheuse, qui admet que le rythme de la progression du savoir dans son domaine est un défi constant.

« Les modèles progressent si vite, pensons à ChatGPT, que nous sommes toujours en retard : les algorithmes sont lancés, et ce n’est que par la suite que nous, les chercheurs, tentons de les rendre justes et équitables. Ce serait mieux de le faire avant, mais il y a peu de réglementation à ce sujet. »

Un soutien solide

Établie à Montréal depuis cinq ans, Golnoosh Farnadi a grandi en Iran. C’est d’ailleurs là-bas, très jeune, qu’elle a développé son intérêt pour tout ce qui touche aux ordinateurs et à la technologie.

Après avoir accompli un parcours de recherche qui l’a amenée de Téhéran à la Belgique en passant par les Pays-Bas, elle pense toutefois maintenant avoir trouvé, ici à Montréal, un tremplin pour pousser sa recherche.

« J’adore le Canada, et le Canada m’a très bien traitée, dit-elle. Ma chaire de recherche me soutient énormément, le Mila est fantastique, et je suis entourée de gens qui croient fermement en la recherche que l’on réalise. Je suis fière de collaborer avec des gens avec qui je partage des convictions. »