Dans le film Her, sorti en 2013, le personnage de Joaquin Phoenix tombe amoureux de son système d’exploitation qu’il nomme Samantha, et auquel l’actrice Scarlett Johansson prête sa voix. Siri, Alexa, Cortana, les assistants vocaux numériques lancés sur le marché depuis quelques années par Apple, Amazon et Microsoft portent tous des prénoms féminins. Faut-il voir cette tendance à concevoir des machines féminines et dociles comme une preuve de plus du machisme dans le milieu de l’intelligence artificielle ?

Philippe Beaudoin, cofondateur de l’entreprise Element AI et vice-président à la recherche, nuance.

« Ça fait longtemps que dans les ascenseurs ou dans le métro, c’est une voix féminine qu’on entend. Ce n’est pas un biais propre au monde de l’intelligence artificielle, c’est un biais de société. »

Mais dans un rapport publié ces jours-ci par l’UNESCO, intitulé I’d Blush If I Could (« Je rougirais si je le pouvais », une référence à une réponse de Siri), on s’inquiète de cette association du féminin à l’obéissance et à la servilité.

« Leur asservissement programmé influe sur la façon dont les hommes s’adressent aux voix féminines et façonne la manière dont les femmes réagissent aux demandes et s’expriment », note dans le rapport une des auteures, Saniye Gülser Corat, directrice de la division sur l’égalité des genres à l’UNESCO.

Parmi les recommandations proposées par l’UNESCO qui a travaillé en collaboration avec l’Allemagne et l’organisme EQUALS Skills, on suggère aux entreprises et aux gouvernements d’« intégrer un plus grand nombre de femmes aux équipes de développeurs », mais aussi d’« inclure la question du genre dans l’apprentissage des compétences numériques ».

L’UNESCO demande par ailleurs aux entreprises d’« encourager le développement d’assistants vocaux numériques qui ne soient ni féminins ni masculins ».

Pour lire le rapport I’d Blush If I Could : https://unesdoc.unesco.org/ark:/48223/pf0000367416