Depuis quelques jours, je suis fasciné par une histoire qui s’est déroulée l’hiver dernier, à l’école secondaire Pikesville, dans le Maryland. Le 17 janvier, après la circulation en ligne d’un extrait audio dans lequel on peut entendre le directeur de l’établissement, Eric Eiswert, railler des élèves et un employé noirs, et des parents juifs, celui-ci s’est retrouvé dans une situation à laquelle on est maintenant très habitués : une déferlante d’appels à la démission sur les réseaux sociaux, une enquête déclenchée par la commission scolaire, une suspension, des messages privés menaçants et du harcèlement…
Business as usual pour notre ennemi public de la semaine.
Sauf qu’Eric Eiswert n’avait jamais prononcé les paroles qu’on lui reprochait. Le tout était une fabrication. Personne ne tombe en bas de sa chaise : ça fait quelques années qu’on sait que les hypertrucages (« deepfakes ») ont atteint un niveau de crédibilité remarquable.
Dès 2017, Lyrebird, une jeune pousse montréalaise, avait attiré l’attention de médias du monde entier en présentant des extraits audio de Barack Obama, Donald Trump et Hillary Clinton pour démontrer le potentiel de sa technologie. Sa position éthique était réfléchie et explicite : rendre la technologie accessible au plus grand nombre, afin de sensibiliser le public à son existence, ce qui, espérait-on, l’aiderait à forger son esprit critique, comme Photoshop l’a fait pour la photographie.
On est peut-être encore dans une période de transition, mais je ne suis pas certain que les intentions louables des créateurs de Lyrebird ont eu les résultats escomptés. D’abord parce que d’autres agents moins vertueux occupent le marché. Mais aussi parce que la vérification des faits, c’est un travail, et je suis pas mal certain que la moyenne des ours n’a pas le temps ni l’énergie pour effectuer la partie la plus laborieuse et la plus plate du métier de journaliste sur le contenu de son fil TikTok.
L’histoire d’Eric Eiswert se termine sur une forme de résolution : le présumé créateur du faux clip audio a été pincé et attend son procès. Il s’agit d’un entraîneur de l’école qui avait été accusé de détournement de fonds par le directeur, et qui cherchait à se venger. Il reste toutefois en ligne énormément de traces des accusations de racisme lancées sur la base d’un faux extrait audio contre le directeur, qui le suivront à jamais : ce n’est pas exactement une fin heureuse.
Il y a, dans cette histoire, quelque chose d’un peu plus inquiétant, je trouve, que la simple anecdote d’une fausse accusation qui place un innocent dans l’embarras.
L’affaire me paraît un bon indicateur de la « démocratisation » des hypertrucages au service de mensonges de plus en plus anodins, une démocratisation qui pourrait éroder la confiance non pas entre les citoyens et le pouvoir, mais entre les citoyens eux-mêmes.
C’était une évidence que les outils d’hypertrucage allaient servir à mentir au sujet de grandes causes, à faire parler des politiciens ou des vedettes. C’était dans l’ordre des choses que ça serve un stratagème de fraude électorale, aux États-Unis, en utilisant la voix de Joe Biden. Tout choquants soient-ils, je ne suis pas tombé en bas de ma chaise quand des hypertrucages pornographiques de Taylor Swift ont circulé sur les réseaux sociaux au cours de l’hiver. Même chose pour les (évidemment fausses) promesses de cocottes Le Creuset gratuites faites en ligne par la star.
Je suis peut-être tordu, mais je n’ai pas été surpris non plus quand j’ai vu proliférer les cas d’hypertrucages pornos dans les écoles secondaires, qu’on a vus en Espagne, aux États-Unis, et même à Sainte-Thérèse, l’hiver dernier. C’est une vérité de La Palice, en technologie, que la pornographie a été un des plus grands moteurs d’innovation technologique, de la vidéocassette à l’internet en passant par la vidéo sur demande et l’intelligence artificielle. À mon époque aussi, les gens utilisaient la technologie comme instrument de violence sexuelle, de manière plus rudimentaire. Parlez-en à la fille qui s’est déshabillée devant sa webcam, sur MSN Messenger, à la demande d’un collègue de classe sur qui elle avait un kick, un samedi soir. Lorsque celui-ci a ouvert sa webcam à lui, il a révélé qu’il était entouré d’une douzaine d’autres gars, qui avaient tous assisté au striptease. Les méthodes changent, l’imbécillité demeure.
Ça ne m’a pas non plus pris de court quand j’ai lu les cas rapportés d’hypertrucages utilisés par des fraudeurs, même au Québec. La fraude n’est jamais loin derrière la porno dans l’adoption de la techno.
Ce qui est nouveau, et plus inquiétant, pour moi, c’est que quelqu’un de suffisamment habile et mal intentionné peut réécrire une portion de la réalité d’une manière moins spectaculaire, mais tout aussi dommageable, dans les rapports interpersonnels. Et peut-être que là, les remparts (affaiblis et de plus en plus rares) du journalisme, qui permettent de vérifier l’authenticité de contenus douteux d’intérêt public, ne seront d’aucune utilité.
Imaginez qu’on vous envoie une vidéo de votre conjoint où vous le voyez clairement en train d’embrasser quelqu’un d’autre. D’un ami qui médit à votre propos. De votre partenaire d’affaires qui admet conspirer contre vous. Avec un peu de chance, vous pourriez avoir le réflexe de rester sur vos gardes, de faire une analyse poussée, qui vous mènerait à comprendre l’origine de la vidéo.
Mais si la prolifération des fausses nouvelles et du clickbait dans les années 2010 nous a appris quelque chose, c’est que les humains sont des bébittes extrêmement émotives et faciles à manipuler, et qu’une fois qu’on les a mis en colère, on peut en faire ce qu’on veut. Il se peut que vous tombiez dans le panneau, ça arrive aux meilleurs. Les mensonges du genre sont faits pour appuyer sur vos boutons.
On ne remettra pas le génie dans la bouteille, et on ne va pas aller s’enfermer dans une yourte sans accès internet au fin fond du Témiscamingue, alors la solution la plus simple est peut-être celle suggérée par les fondateurs de Lyrebird : sachez que ces outils existent. Jouez avec eux. Peut-être qu’en plus de vous aider à aiguiser votre esprit critique, ça vous permettra de bricoler de très bonnes blagues, comme de faire chanter la ritournelle inoubliable d’un certain resto-bar au premier ministre du Québec, ou lui faire dire « le racisme systémique existe, gloire à une société matriarcale où les logements sont abordables, libérons la Palestine, yassss queen slay ».
Qui est Jean-Philippe Baril Guérard ?
- Jean-Philippe Baril Guérard est romancier, dramaturge, acteur et metteur en scène.
- Il a notamment publié les romans Royal, Manuel de la vie sauvage et Haute démolition. Il a aussi signé de nombreuses pièces de théâtre, dont Warwick, La singularité est proche et Vous êtes animal.
- Ses romans Manuel de la vie sauvage et Haute démolition ont été adaptés à la télévision.