(New York) Régulièrement vilipendé pour laisser passer trop de messages haineux et racistes, Facebook modifie actuellement ses algorithmes pour réprimer plus sévèrement les insultes contre les minorités tout en cessant de retirer systématiquement les attaques contre les personnes d’origine caucasienne, les hommes ou les Américains.
Cette évolution tranche avec la politique habituelle du réseau social, qui ne souhaite en général pas distinguer entre les genres ou les ethnicités.
Mais le groupe a réalisé « que les discours de haine visant les groupes sous-représentés peuvent être les plus dangereux », a souligné auprès de l’AFP un porte-parole du réseau social jeudi.
« C’est pourquoi nous avons modifié notre technologie pour la concentrer sur les propos que les utilisateurs et les experts nous disent être les plus graves », comme ceux visant à déshumaniser ou à mépriser une certaine catégorie de personnes, a précisé le porte-parole.
Le groupe a aussi actualisé ses pratiques pour être plus vigilant face à l’expression implicite de propos haineux, comme les messages sur la pratique du « blackface » qui consiste pour des personnes caucasiennes à se noircir le visage afin de se moquer des personnes noires, ou sur les stéréotypes suggérant que les Juifs contrôlent le monde.
Saluant « une étape importante et attendue depuis longtemps », le président de l’organisation américaine de lutte contre l’antisémitisme ADL estime que c’est aussi une reconnaissance implicite par le groupe de l’insuffisance de ses efforts passés.
« Même si nous nous réjouissions que Facebook s’attaque aux symptômes les plus sérieux de la maladie qu’il a laissée se propager pendant tellement d’années, il faut continuer à travailler pour guérir la maladie de la haine sur les réseaux sociaux », a souligné Jonathan Greenblatt.
Twitter, qui possède sa propre politique de lutte contre les contenus abusifs et nocifs, s’est engagé dans une voie similaire en annonçant mercredi vouloir interdire toute publication cherchant à déshumaniser selon des critères raciaux, ethniques ou de nationalité.
« Les hommes sont des imbéciles »
Parallèlement au développement de systèmes de modération automatique plus sensibles aux discours contre les minorités, Facebook a cessé d’utiliser des algorithmes recherchant de façon pro-active certaines attaques contre les personnes caucasiennes, les Américains et les hommes, comme « les Américains sont stupides » ou « les hommes sont des imbéciles ».
Mais le groupe pourra toujours les retirer si elles lui sont signalées.
Facebook veut juste écarter l’idée qu’il censure plus facilement des propos jugés moins nocifs que des attaques racistes, comme des commentaires désobligeants sur la gent masculine après une rupture amoureuse.
Selon le Washington Post, qui a le premier rapporté l’évolution de la politique de Facebook jeudi, le réseau social veut se concentrer sur les contenus malveillants à l’encontre des personnes noires, des métisses, des musulmans, des Juifs, et des membres de la communauté LGBTQI.
L’entreprise de Mark Zuckerberg maîtrise depuis des années le retrait automatique de certains contenus, liés à la pornographie ou au terrorisme par exemple.
La propagation de la haine en ligne est plus compliquée à gérer, les machines ayant du mal à faire la différence entre les informations, l’humour, les parodies, les rumeurs et les insultes.
Résultat : Facebook a tendance à enlever plus facilement des contenus problématiques à l’encontre de personnes d’origine caucasienne et à signaler plus souvent des posts de minorités visibles, selon le Washington Post.
La plateforme assure avoir engagé l’évolution de sa politique de modération dès 2019.
Une telle initiative pourrait être mal reçue de la part d’une partie des utilisateurs, à droite notamment, qui considèrent déjà que les réseaux sociaux désavantagent les messages conservateurs.
Mais comme d’autres grands réseaux sociaux, Facebook est aussi régulièrement attaqué par les organisations de défense des droits civiques qui lui reprochent de ne pas agir suffisamment pour lutter contre les propos incitant à la haine.
Ces griefs ont pris encore plus d’importance cette année après la mort de l’Afro-Américain George Floyd et le groupe a fait face cet été à une campagne de boycott de la part de plusieurs grands groupes.
Les plus critiques estiment que les réseaux sociaux devraient être tenus pour responsables des appels à la haine lancés sur les réseaux sociaux.
Certains analystes soulignent toutefois que les plateformes ne peuvent pas porter la responsabilité de problématiques sociales profondes.