(Londres) Facebook a annoncé une interdiction sur sa plateforme des vidéos hypertruquées (aussi appelés « deepfakes »), ces clips faux, mais réalistes, créés avec l’intelligence artificielle et des outils sophistiqués. Le réseau social souhaite ainsi intensifier ses efforts pour lutter contre la manipulation en ligne.
Le réseau social a déclaré lundi soir qu’il renforçait ses politiques pour supprimer les vidéos éditées ou truquées d’une manière qui n’est pas apparente pour un utilisateur moyen, et qui pourrait inciter quelqu’un à penser que le sujet de la vidéo a tenu des propos qu’il n’a pas réellement dits.
Créées par l’intelligence artificielle ou l’apprentissage automatique, les vidéos hypertruquées combinent ou remplacent du contenu pour créer des images qui semblent authentiques.
« Bien que ces vidéos soient encore rares sur l’internet, elles représentent un défi important pour notre industrie et notre société à mesure que leur utilisation augmente », a déclaré la vice-présidente de la gestion des politiques mondiales de Facebook, Monika Bickert, dans un article de blogue.
Cependant, elle a précisé que les nouvelles règles n’incluront pas la parodie ou la satire, ni les clips édités juste pour changer l’ordre des mots. Les exceptions soulignent la tâche difficile que Facebook et d’autres services de médias sociaux doivent accomplir pour lutter contre la propagation de la désinformation et des « fausses nouvelles », tout en respectant la liberté d’expression et en repoussant les allégations de censure.
La société américaine a dû trouver une façon de gérer la montée des vidéos hypertruquées après avoir été critiquée l’année dernière pour avoir refusé de retirer une vidéo trafiquée de la présidente de la Chambre, Nancy Pelosi, bafouillant dans un discours. La vidéo a été visionnée plus de 3 millions de fois.
Ensuite, deux artistes ont publié de fausses images du PDG de Facebook, Mark Zuckerberg, le montrant se réjouissant de sa domination du monde. Facebook a également laissé ce clip en ligne. La société a déclaré à l’époque qu’aucune des vidéos ne violait ses politiques.
Le problème des vidéos modifiées devient de plus en plus urgent alors que des experts et des législateurs tentent de comprendre comment empêcher qu’elles soient utilisées pour interférer avec les élections présidentielles américaines en novembre.
Facebook a déclaré que toutes les vidéos qui ne répondent pas aux critères de suppression existants pourront toujours être examinées par des vérificateurs de faits indépendants. Celles qui seront jugées fausses seront signalées comme telles à toute personne essayant de les partager ou de les voir, ce qui, selon Mme Bickert, est une meilleure approche que de les supprimer.
« Si nous supprimions simplement toutes les vidéos manipulées signalées comme fausses par les vérificateurs de faits, les vidéos seraient toujours disponibles ailleurs sur l’internet ou dans l’écosystème des médias sociaux », a indiqué Mme Bickert. « En les laissant en ligne avec une note indiquant qu’elles sont fausses, nous offrons aux gens des informations et un contexte importants. »