L'intelligence artificielle pourrait contribuer à perpétuer les préjugés, notamment sexistes, si on ne prend pas garde aux données utilisées pour la nourrir, ont de nouveau mis en garde jeudi des expertes réunies au Congrès mondial du mobile (MWC) de Barcelone.

«Nous sommes tous très conscients du fait que les machines reprendront les mêmes préjugés que ceux qui les ont codés», a mis en garde Emma McGuiguan, responsable technologies chez le consultant Accenture, lors d'un cycle de conférences destiné à promouvoir la place des femmes dans les nouvelles technologies.

«L'intelligence artificielle (IA) a besoin d'un volume massif de données, cela va nécessiter beaucoup de contenu humain et nos préjugés seront importés dans l'IA», a expliqué Julie Woods-Moss, présidente de l'opérateur mobile indien Tata Communications.

«Nous devons faire très attention à ne pas encourager l'IA à tomber dans les préjugés», a-t-elle ajouté, appelant les professionnels à trouver des moyens de les identifier «consciemment».

Julie Woods-Moss a cité en exemple des schémas de programmation associant la profession de médecin à un homme et celle d'infirmière à une femme.

Elle a aussi critiqué le fait que «la plupart des assistants personnels (vocaux) sont féminins». Ces dispositifs fonctionnent grâce à l'intelligence artificielle, analysant les conversations de leur utilisateur pour pouvoir y répondre.

Celui mis au point par le géant du commerce en ligne Amazon, prénommé Alexa «n'a rejoint que récemment le mouvement MeToo», mot-clé lancé sur les réseaux sociaux pour inciter les femmes à rendre publiques les agressions sexuelles dont elles avaient été victimes».

«Avant, si vous lui adressiez d'horribles insultes à caractère sexuel, Alexa répondait "merci pour votre commentaire". Maintenant elle dit "Je ne réponds pas à cela"», a-t-elle illustré.

Il commence néanmoins à y avoir «un nombre important d'innovations» pour créer des solutions techniques à ces problèmes, a précisé Mme Woods-Moss.

«Malheureusement plus de 90 % des informaticiens qui mettent au point les technologies d'intelligence artificielle sont toujours des hommes», a estimé Lisa Wang, fondatrice de SheWorx, plateforme de financement pour les femmes entrepreneuses.

Ce débat suit d'autres discussions sur les «préjugés» sexistes ou raciaux des algorithmes qui font fonctionner bien des applications.

Aux États-Unis, l'Union américaine pour les libertés civiles a ainsi lancé en 2017 une initiative visant à lutter contre les préjugés cachés dans les algorithmes et au-delà, l'IA, après la découverte de logiciels de recrutement notamment qui défavorisaient systématiquement certains profils.

Selon le rapport 2016 sur l'emploi du Forum économique mondial, seulement 19 % des employés de l'industrie des technologies mobiles sont des femmes.