Intelligence artificielle Les nouveaux risques de mettre des photos d’enfants sur l’internet

Il existe deux factions de parents sur TikTok : ceux qui cassent des œufs sur la tête de leurs enfants pour rire et ceux qui veillent obsessivement à ce que l’internet ne sache rien sur leurs enfants.

En 2020, une vedette de TikTok qui publie sous le nom de Kodye Elyse a vécu une mauvaise expérience en ligne. Une vidéo dans laquelle sa petite fille dansait a attiré des millions de vues… et des commentaires salaces de la part d’internautes louches. Depuis, elle n’inclut plus ses trois enfants dans ses publications.

(Kodye Elyse a demandé de ne pas publier son nom parce que ses enfants et elle ont déjà été doxxées, c’est-à-dire qu’on a divulgué leurs informations personnelles.)

« L’internet, c’est un peu comme le Truman Show », a déclaré Kodye Elyse, 35 ans, qui compte 4 millions d’abonnés sur TikTok et qui publie sur son travail de tatoueuse et son expérience de mère célibataire. « On ne sait jamais qui regarde. »

Après cette mésaventure, elle a enlevé les photos de ses enfants de l’internet. Elle a retracé tous ses comptes en ligne – Facebook, Pinterest, etc. – et les a supprimés ou les a rendus privés. Depuis, elle s’est jointe à la faction TikTok qui exhorte les autres parents à ne jamais publier d’images de leurs enfants.

Mais en septembre, elle a découvert qu’elle n’était pas au bout de ses peines. Kodye Elyse a utilisé PimEyes, un moteur de recherche inquiétant qui trouve des photos d’une personne sur l’internet grâce à la reconnaissance faciale. Elle y a téléchargé une photo de son fils de 7 ans : les résultats comprenaient une image de lui qu’elle n’avait jamais vue. Pour voir d’où elle venait, elle a dû s’abonner pour 29,99 $.

Son ex-mari avait emmené leur fils à un match de soccer, et on les voyait à l’arrière-plan d’une photo publiée par un média sportif, assis derrière le but. Elle n’a pu faire retirer la photo du site du média en ligne, mais elle a rempli un formulaire demandant à PimEyes de retirer l’image de son fils au cas où quelqu’un d’autre fasse une recherche sur son visage. Elle a aussi trouvé une photo de sa fille, aujourd’hui âgée de 9 ans, utilisée pour promouvoir un camp d’été où elle était allée. À sa demande, le camp a retiré la photo.

« Tout le monde devrait vérifier ça, dit-elle. C’est un bon moyen de s’assurer que personne ne s’approprie les photos de vos enfants. »

Nouveaux risques de l’IA

Publier ou pas des photos de ses enfants est un sujet intensément discuté en ligne. Aux États-Unis, on appelle ça sharenting, un mot-valise qu’on pourrait traduire par parentager.

Au début, on reprochait aux parents qui partagent trop en ligne de mettre en péril la vie privée de leurs enfants. Mais l’intelligence artificielle (IA) offre aux personnes mal intentionnées de nouveaux moyens de détourner le contenu en ligne des enfants.

Nommons seulement les escroqueries (deepfake) hypertruquées imitant la voix des enfants et la possibilité qu’un étranger trouve le nom et l’adresse d’un enfant à partir d’une recherche sur sa photo.

Jennifer DeStefano, qui habite l’Arizona, a reçu récemment un appel d’un homme affirmant avoir kidnappé sa fille de 15 ans. « J’ai répondu au téléphone en disant “Allô” ; à l’autre bout du fil, j’entendais notre fille Briana, qui sanglotait en disant “Maman” », a-t-elle raconté l’été dernier lors d’un témoignage devant le Congrès.

M^me DeStefano allait verser 50 000 $ aux ravisseurs lorsqu’elle a découvert que sa fille était dans sa chambre, « en toute sécurité dans son lit ».

Ce que révèle un visage

D’obscures photos et vidéos en ligne peuvent être trouvées grâce à la reconnaissance faciale, qui a gagné en puissance et en précision depuis peu. Des photos prises à l’école, à la garderie, à une fête d’anniversaire ou dans un terrain de jeu peuvent apparaître lors d’une recherche. (L’école et la garderie sont tenues de demander votre permission ; n’hésitez pas à refuser.)

« Quand l’enfant est petit, le parent a plus de contrôle sur son image », dit Debbie Reynolds, consultante en confidentialité des données. « Mais les enfants grandissent. Ils ont des amis. Ils vont à des fêtes. Il y a des photos d’école. »

Debbie Reynolds recommande aux parents de rechercher les visages de leurs enfants sur PimEyes ou FaceCheck.ID. S’ils n’aiment pas ce qui sort, ils peuvent demander aux sites qui ont publié les photos de les enlever, dit-elle. (Certains disent oui, mais d’autres, comme les médias, refusent.)

Dans un sondage Pew Research de 2020, plus de 80 % des parents ont déclaré avoir mis des photos et des vidéos de leurs enfants sur les réseaux sociaux, avec des informations. Selon les experts, on ne peut pas préciser combien de parents partagent ces images uniquement sur des comptes privés, et non publics, mais le partage privé est de plus en plus courant.

Mimi Ito, anthropologue culturelle et directrice du Connected Learning Lab de l’Université de Californie à Irvine, a déclaré que la technologie de reconnaissance faciale rendait plus difficile le partage en ligne des photos d’enfants, par ailleurs très agréable.

« Les gens prennent conscience qu’avec l’IA, on ne contrôle pas toutes les données qu’on balance dans l’écosystème des réseaux sociaux », dit-elle.

Contrôler son empreinte en ligne

Lucy et Mike Fitzgerald, danseurs professionnels de St. Louis, sont très actifs sur les réseaux sociaux à des fins publicitaires. Ils ne publient pas de photos de leurs filles, âgées de 5 ans et 3 ans, et ont demandé à leurs parents et amis de faire de même. Ils redoutent que des photos soient utilisées à des fins malveillantes. Leurs filles créeront et contrôleront elles-mêmes leurs empreintes en ligne, en temps et lieu, disent-ils.

« Le fait que l’on puisse voler la photo de quelqu’un en quelques clics et en faire ce qu’on veut est inquiétant, dit Lucy Fitzgerald. Je comprends qu’on ait envie de publier des photos de ses enfants, mais au final, on ne veut pas leur faire courir le risque de conséquences involontaires. »

M^me Fitzgerald et son mari ne sont pas des experts « à l’affût des nouvelles technologies », mais ils ont « eu le sentiment », il y a quelques années, qu’il y aurait « des capacités imprévisibles et qui finiront par poser des problèmes à nos enfants ».

Les parents les plus aptes à discerner ce qui se profile à l’horizon technologique cachent les visages de leurs enfants sur les réseaux sociaux. Des exemples ? Edward Snowden, l’ancien employé de l’Agence nationale de sécurité devenu dénonciateur, et Mark Zuckerberg, cofondateur de Facebook. Sur Instagram, Mark Zuckerberg a mis un gros émoji sur la tête de ses enfants les plus âgés. Edward Snowden et sa femme, Lindsay Mills, ont placé un de leurs deux fils derrière un ballon pour masquer son visage.

« Je veux que mes enfants aient le choix de se révéler au monde, comme ils le voudront, quand ils sont prêts », a déclaré Lindsay Mills.

Un porte-parole de Mark Zuckerberg a refusé d’expliquer pourquoi le visage de son bébé était visible et si c’était parce que la reconnaissance faciale ne fonctionne pas très bien sur les enfants en bas âge.

Vie privée et réussite future

Seloin plusieurs experts, les adolescents gèrent leur identité numérique de façon réfléchie, utilisant souvent des pseudonymes pour empêcher parents, enseignants et employeurs potentiels de trouver leurs comptes. Mais si une image de leur visage figure sur ce compte, il pourrait être possible de la relier à eux à l’aide d’un moteur de recherche de visages.

« C’est très dur d’empêcher votre visage d’être sur le web », dit Priya Kumar, professeure adjointe à l’Université d’État de Pennsylvanie, qui étudie l’impact sur la vie privée des photos d’enfants mises en ligne.

Elle suggère aux parents d’impliquer leurs enfants dès l’âge de 4 ans dans la décision de publier et de leur expliquer ce qu’on peut partager ou non.

Amy Webb, PDG du Future Today Institute, un cabinet-conseil en technologies, s’est engagée dans un article publié sur Slate il y a 10 ans à ne pas publier en ligne de photos ou d’informations personnelles sur son bébé. (Certains lecteurs ont trouvé une photo de famille que M^me Webb avait publiée par inadvertance, ce qui montre la difficulté de garder un enfant hors du web.) Sa fille, aujourd’hui adolescente, dit aimer être un « fantôme en ligne » ; elle pense que cela l’aidera sur le plan professionnel.

Les futurs employeurs « ne trouveront littéralement rien sur moi, je n’ai aucune plateforme, dit-elle. Cela va m’aider à réussir dans la vie. »

Arielle Geismar, 22 ans, étudiante à l’Université de Washington qui milite pour la sécurité numérique, considère comme un « privilège de grandir sans qu’une identité numérique soit créée pour vous ».

« Les enfants sont les cobayes de la technologie, affirme-t-elle. Il est de notre responsabilité de prendre soin d’eux. »

Cet article a été publié dans le New York Times.

Lisez cet article dans sa version originale (en anglais ; abonnement requis).