(Washington) Le réseau social Twitter a annoncé vendredi qu’il accorderait des récompenses aux utilisateurs et chercheurs découvrant d’éventuels partis-pris, sexistes ou racistes par exemple, dans les algorithmes fonctionnant sur sa plateforme.
Il s’agit, selon l’entreprise, de la première compétition sur le sujet, avec des prix allant jusqu’à 3500 dollars.
L’idée est calquée sur les concours proposés par certains sites web pour déceler des failles de sécurité, expliquent Rumman Chowdhury et Jutta Williams, deux responsables de l’entreprise, dans un message.
Il est difficile de trouver des préjugés dans les modèles d’apprentissage automatique, et parfois, les entreprises découvrent qu’elles ont involontairement porté atteinte à l’éthique seulement après leur déploiement . Nous voulons que cela change.
Rumman Chowdhury et Jutta Williams, deux cadres chez Twitter
Dans le modèle développé pour déceler les failles de sécurité, les chercheurs tout comme les cyberpirates ont aidé les responsables de la sécurité informatique « à établir de bonnes pratiques pour identifier et gérer les vulnérabilités afin de protéger le public », expliquent Rumman Chowdhury et Jutta Williams.
« Nous voulons développer une communauté similaire » pour déceler les partis-pris des algorithmes.
Twitter avait présenté en avril ses travaux en cours pour rendre plus éthiques les algorithmes qui sont à l’œuvre dans les coulisses de la plateforme, une façon de répondre aux critiques sur les dangers liés à ces technologies.
Le réseau social avait quelques semaines plus tard renoncé à un algorithme recadrant les photos, ayant découvert qu’il était notamment légèrement biaisé en faveur des personnes blanches.