(Washington) Après l’indignation provoquée dans un lycée américain par la diffusion de propos racistes attribués au proviseur, le vertige de découvrir que la bande sonore a été montée de toutes pièces. Cet épisode illustre les dangers d’une intelligence artificielle devenue accessible à tous.
Eric Eiswert, proviseur à Pikesville dans le Maryland, près de Washington, s’est retrouvé au cœur d’une violente polémique avec un enregistrement vocal – qui se révélera un faux – lui faisant prononcer des commentaires choquants contre des élèves juifs et des « enfants noirs ingrats ».
L’affaire, qui survient en pleine année électorale aux États-Unis, met en lumière la facilité avec laquelle les outils d’IA générative peuvent être employés pour nuire à tout un chacun, et les difficultés auxquelles font face les autorités pour lutter contre de telles pratiques.
« Désormais, tout le monde est vulnérable », et non plus seulement les célébrités, alerte Hany Farid, professeur à l’Université de Californie à Berkeley (ouest).
« Il suffit d’une image pour ajouter une personne dans une vidéo, et 30 secondes d’audio pour cloner la voix de quelqu’un », poursuit le spécialiste en détection d’images et d’enregistrements manipulés numériquement, consulté par la police dans cette affaire.
Quand l’enregistrement fuite sur les réseaux sociaux en janvier, il devient rapidement viral. Une publication recueille des milliers de commentaires sur Instagram, et propulse l’école au cœur d’une polémique nationale.
Le militant des droits civiques DeRay McKesson réclame la démission du proviseur sur son compte X, suivi par près d’un million d’internautes. Il admettra s’être fait abuser.
Les messages haineux pleuvent sur les réseaux sociaux et les coups de fil menaçants se multiplient dans l’établissement. Le « monde serait meilleur si vous étiez sous terre », écrit ainsi un internaute au proviseur.
Ce dernier est placé en congés, son domicile mis sous protection. Contacté par l’AFP, il n’a pas répondu.
Vengeance
« Je continue de m’inquiéter des dégâts provoqués par cette affaire », confie Billy Burke, directeur du syndicat représentant le proviseur.
Fin avril, Dazhon Darien, 31 ans, responsable sportif du lycée, a été arrêté par les autorités, accusé d’être à l’origine du faux. Les enquêteurs sont remontés jusqu’à lui grâce à l’adresse électronique qui a initialement partagé le fichier.
Il aurait agi pour se venger d’une enquête ouverte à son encontre par le proviseur sur des paiements suspects.
Le prévenu a mené des recherches sur des outils d’IA depuis le réseau informatique du lycée, selon l’acte d’accusation.
La bande sonore, selon l’analyse d’un expert consulté par la police, « contient des traces de contenu généré par l’IA, avec un montage humain a posteriori ».
Cette affaire démontre la nécessité « d’adapter la loi aux avancées technologiques », a estimé le procureur local, Scott Shellenberger.
De nombreux lycées américains doivent déjà lutter contre la diffusion par des élèves d’images pornographiques de leurs camarades confectionnées à partir de l’IA générative, une pratique à l’origine de terribles vagues de harcèlement.
Les montages audio sont particulièrement difficiles à déceler. En janvier, un message diffusé par appels téléphoniques automatisés usurpant la voix du président Joe Biden incitait les électeurs démocrates de l’État du New Hampshire (nord-est) à s’abstenir lors des primaires pour du parti.
A Pikeville, l’affaire a secoué les habitants, « très proches les uns des autres », raconte Parker Bratton, l’entraîneur de golf du lycée.
« Il y a un seul président, mais il y a un million de proviseurs ! », s’inquiète-t-il, « les gens se demandent “Que va-t-il m’arriver si quelqu’un décide tout simplement de détruire ma carrière ?” ».