Facebook affirme qu’elle parvient désormais à capter de façon « proactive » 95 % du discours haineux publié sur ses plateformes grâce à un logiciel d’intelligence artificielle. Mais des experts estiment que ces algorithmes ont une efficacité limitée qui peut facilement être déjouée, particulièrement au Québec, où la barrière de la langue entre en jeu.

Tristan Péloquin Tristan Péloquin
La Presse

Le réseau de Mark Zuckerberg a révélé jeudi être intervenu sur 22 millions d’éléments de contenu considérés comme du discours haineux sur ses plateformes Facebook et Instagram, entre les mois de juillet et de septembre.

L’entreprise californienne affirme que 95 % de ces publications problématiques ont été décelées par ses algorithmes d’intelligence artificielle avant même qu’elles ne soient signalées par des usagers. Ces mêmes logiciels d’intelligence artificielle captaient 80 % des discours haineux il y a un an, et seulement 24 % en 2017, soutient Facebook.

Le réseau social évalue la proportion de ces propos problématiques entre 0,10 % et 0,11 % de son contenu, ce qui représente de 10 à 11 vues pour 10 000 visionnements. « Un petit nombre de ces éléments peut devenir viral et être largement distribué dans un laps de temps très court », a reconnu le vice-président à l’Intégrité de Facebook, Guy Rosen, lors d’une conférence téléphonique jeudi.

Tout en saluant l’effort, trois experts consultés par La Presse se montrent sceptiques devant l’efficacité de ce mécanisme de contrôle automatisé. « Je ne suis pas épaté par les efforts de Facebook », dit Martin Geoffroy, directeur du Centre d’expertise et de formation sur les intégrismes religieux, les idéologies politiques et la radicalisation (CEFIR).

D’adeptes de QAnon à « patriotes »

« Nous l’avons vu avec le bannissement par Facebook des comptes liés à QAnon », ce mouvement d’extrême droite complotiste extrêmement populaire qui propage une thèse selon laquelle les gouvernements sont dirigés par une élite pédosataniste. « Ceux qui adhèrent au mouvement se définissent désormais comme des “patriotes” et évitent soigneusement d’utiliser les mots-clés interdits. Dire qu’on est un “patriote” est plus alambiqué, ça échappe aux algorithmes, même si l’argumentaire reste le même dans bien des cas. Au Québec particulièrement, si tu interdis les comptes qui font référence aux Patriotes, tu vas devoir fermer pas mal de comptes légitimes », note-t-il.

David Morin, cotitulaire de la Chaire UNESCO en prévention de la radicalisation et de l’extrémisme violents, dit constater que beaucoup de comptes fermés par les algorithmes sont de « faux positifs ». « Ce sont des comptes qui combattent les discours haineux que l’intelligence artificielle étiquette comme des comptes haineux », dit-il.

Plusieurs théoriciens du complot diffusent principalement leurs propos dans des vidéos en direct, sur lesquels les algorithmes de détection ont moins de prise. Mais Facebook soutient faire une « surveillance proactive de contenus viraux lorsqu’ils atteignent un certain niveau de popularité » qui lui permet d’améliorer son temps de réponse face aux contenus violents.

Davantage d’examinateurs humains nécessaires

La solution, affirment les experts, consiste à impliquer plus d’humains dans les processus de vérification. Facebook dit avoir une force de frappe de 15 000 examinateurs de contenu à travers le monde, qui scrutent les signalements 24 heures sur 24, 7 jours sur 7, dans des langues différentes. Facebook a cependant reconnu que ce nombre demeurait inférieur à celui d’avant la pandémie.

La publication des données sur les propos haineux par Facebook survient alors que l’ex-président américain Barack Obama a suggéré, dans une entrevue accordée cette semaine au magazine The Atlantic, que ces plateformes soient davantage tenues de rendre des comptes d’ordre « éditorial ». « Facebook se voit davantage comme une ligne téléphonique que comme un éditeur, résume Stéphane Couture, professeur au département de communications de l’Université de Montréal. On peut s’attendre à ce que sous une présidence démocrate, avec Joe Biden, il y ait une volonté de responsabiliser beaucoup plus ces plateformes. »