Argentine Une élection marquée par l’emploi de l’IA

Les affiches qui parsèment les rues de Buenos Aires ont un certain cachet soviétique.

On y voit l’un des candidats à la présidence de l’Argentine, Sergio Massa, vêtu d’une chemise ornée de ce qui semble être des médailles militaires, montrant du doigt un ciel bleu. Il est entouré de centaines de personnes âgées, vêtues de vêtements ternes, au visage grave et souvent défiguré, qui le regardent avec espoir.

L’emploi de ce style n’est pas une erreur. L’illustrateur avait reçu des instructions claires.

« Illustration d’une affiche de propagande politique soviétique par Gustav Klutsis représentant un dirigeant, Massa, se tenant fermement debout », indique un message que la campagne de Massa a envoyé à un programme d’intelligence artificielle (IA) pour qu’il produise l’image. « Des symboles d’unité et de puissance remplissent l’environnement », poursuit le message. « L’image respire l’autorité et la détermination. »

Javier Milei, l’autre candidat au second tour de l’élection de dimanche, a riposté en diffusant ce qui semble être des images d’intelligence artificielle représentant M. Massa sous les traits d’un dirigeant communiste chinois – et lui-même sous ceux d’un lion de dessin animé. Ces images ont été visionnées plus de 30 millions de fois.

Les élections argentines sont rapidement devenues un terrain d’essai pour l’IA dans les campagnes, les deux candidats et leurs partisans ayant recours à cette technologie pour modifier des images et des vidéos existantes et en créer d’autres à partir de zéro.

L’IA a fait dire aux candidats des choses qu’ils n’avaient pas dites et les a placés dans des films et des mèmes célèbres. Elle a créé des affiches de campagne et déclenché des débats sur la réalité des vidéos.

Un rôle prépondérant

Le rôle prépondérant de l’IA dans la campagne argentine et le débat politique qu’elle a suscité soulignent l’importance croissante de cette technologie et montrent que, grâce à son pouvoir grandissant et à la baisse de son coût, elle est désormais susceptible de jouer un rôle dans de nombreuses élections démocratiques à travers le monde.

Les experts comparent ce moment aux premiers jours des réseaux sociaux, une technologie qui offre de nouveaux outils alléchants pour la politique – et des menaces imprévues.

La campagne de M. Massa a mis au point un système d’IA capable de créer des images et des vidéos des principaux acteurs de l’élection – les candidats, leurs colistiers, leurs alliés politiques – en train de faire un large éventail de choses.

La campagne a utilisé l’IA pour présenter M. Massa, ministre argentin de l’Économie, de centre gauche, comme un homme fort, intrépide et charismatique. Des vidéos le montrent en soldat en guerre, en chasseur de fantômes et en Indiana Jones, et des affiches évoquent l’affiche « Hope » de Barack Obama en 2008 ainsi qu’une couverture du New Yorker.

La campagne a également utilisé le système pour dépeindre son adversaire, Javier Milei – un économiste libertaire d’extrême droite et une personnalité de la télévision connue pour ses accès de colère –, comme instable, en le plaçant dans des films comme Orange mécanique et Peur et dégoût à Las Vegas.

Deepfake

Une grande partie du contenu est manifestement fausse. Mais quelques créations ont franchi la ligne de la désinformation. La campagne de M. Massa a produit une vidéo deepfake dans laquelle le candidat Milei explique comment fonctionnerait un marché d’organes humains, ce qui, selon lui, correspond à ses opinions libertaires.

« Imaginez avoir des enfants et penser que chacun d’entre eux est un investissement à long terme. Pas au sens traditionnel, mais en pensant au potentiel économique de leurs organes », dit l’image manipulée de M. Milei dans la vidéo fabriquée, postée par la campagne de Massa sur son compte Instagram pour le contenu de l’IA, appelé « IA por la Patria » (« IA pour la Patrie »).

Dans une interview, M. Massa a déclaré qu’il avait été choqué la première fois qu’il avait vu ce que l’IA pouvait faire. « Je n’étais pas préparé au monde dans lequel je vais vivre », a-t-il déclaré. « C’est un défi énorme. Nous sommes sur un cheval que nous devons monter, mais dont nous ne connaissons pas encore les secrets. »

Le New York Times lui a ensuite montré le deepfake créé par sa campagne sur M. Milei et des organes humains. Il a semblé troublé. « Je ne suis pas d’accord avec cette utilisation », a-t-il affirmé.

Plus tard, son porte-parole a souligné que le message était une plaisanterie et qu’il portait clairement la mention « généré par l’IA ». Sa campagne a déclaré dans un communiqué que l’utilisation de l’IA visait à divertir et à marquer des points sur le plan politique, et non à tromper.

Inquiétude

Les chercheurs s’inquiètent depuis longtemps de l’impact de l’IA sur les élections. La technologie peut tromper et embrouiller les électeurs, jeter le doute sur ce qui est réel, et s’ajouter à la désinformation qui peut être diffusée par les réseaux sociaux.

Pendant des années, ces craintes sont restées largement spéculatives, car la technologie permettant de produire de tels faux était trop compliquée, trop coûteuse et pas au point.

« Nous avons assisté à une véritable explosion d’outils démocratiques incroyablement accessibles et de plus en plus puissants, et ce calcul a radicalement changé », a affirmé Henry Ajder, un expert établi en Angleterre qui a conseillé des gouvernements sur le contenu généré par l’IA.

Jusqu’à présent, les contenus générés par l’IA et diffusés par les campagnes en Argentine ont été qualifiés de « générés par l’IA » ou sont si clairement fabriqués qu’il est peu probable qu’ils puissent tromper même les électeurs les plus crédules.

En revanche, la technologie a permis de créer un contenu viral qui aurait auparavant nécessité des jours ou des semaines de travail à des équipes de graphistes.

Meta, la société propriétaire de Facebook et d’Instagram, a déclaré cette semaine qu’elle exigerait que les publicités politiques révèlent si elles ont eu recours à l’IA. Les autres messages non payants sur les sites qui utilisent l’IA, même s’ils sont liés à la politique, ne seraient pas tenus d’être divulgués. La Commission électorale fédérale des États-Unis envisage également de réglementer l’utilisation de l’IA dans les publicités politiques.

« Une pente glissante »

L’Institute for Strategic Dialogue, un groupe de recherche établi à Londres qui étudie les plateformes internet, a signé une lettre appelant à une telle réglementation. Isabelle Frances-Wright, responsable de la technologie et de la société au sein de ce groupe, a déclaré que l’utilisation intensive de l’IA dans les élections en Argentine était inquiétante.

« Je pense absolument qu’il s’agit d’une pente glissante, a-t-elle déclaré. Dans un an, ce qui semble déjà très réaliste le sera encore plus. »

Les images d’IA sont également apparues dans le monde réel. Les affiches soviétiques font partie des dizaines de dessins que la campagne de M. Massa et ses partisans ont imprimés pour les afficher dans les espaces publics argentins.

Certaines images ont été générées par l’IA de l’équipe de la campagne, tandis que d’autres ont été créées par des partisans à l’aide de l’IA – notamment l’une des plus connues, une image de Massa chevauchant un cheval dans le style de José de San Martín, héros de l’indépendance argentine.

« Massa était trop rigide », a déclaré Octavio Tome, un organisateur communautaire qui a participé à la création de l’image. « Nous montrons un Massa qui ressemble à un patron, et il est très argentin. »

La montée en puissance de l’IA dans les élections argentines a également amené certains électeurs à s’interroger sur la réalité. Après la diffusion, la semaine dernière, d’une vidéo montrant M. Massa épuisé après un évènement de campagne, ses détracteurs l’ont accusé d’être sous l’emprise de la drogue. Ses partisans ont rapidement répliqué en affirmant que la vidéo était en fait un deepfake.

Sa campagne a toutefois confirmé que la vidéo était bien réelle.

Cet article a été publié à l’origine dans le New York Times.

Lisez l’article original du New York Times (en anglais, abonnement requis)