Exclue des épiceries par la reconnaissance faciale

(Londres) Simon Mackenzie, agent de sécurité au magasin QD, en banlieue de Londres, était à bout de souffle. Il venait de poursuivre trois voleurs partis en courant avec plusieurs paquets de savon à lessive. En attendant la police, il se rendit dans l’arrière-boutique faire une tâche importante : trouver les visages des voleurs.

Sur un vieil ordinateur, il visionna les images des caméras de sécurité, faisant une saisie d’écran agrandie du visage de chaque voleur. Puis il téléchargea leurs photos dans le site de reconnaissance faciale Facewatch, que QD Stores utilise pour identifier les voleurs à l’étalage. La prochaine fois que ces voleurs entreraient dans un magasin du quartier utilisant Facewatch, le personnel recevrait une alerte.

« C’est comme se faire dire : “La personne que tu as attrapée la semaine dernière vient de revenir” », explique M. Mackenzie.

Reconnaissance faciale

L’utilisation de la technologie de reconnaissance faciale par la police est très balisée, mais ce qu’en fait le secteur privé a reçu moins d’attention. Aujourd’hui, avec l’amélioration de la technologie et la baisse de son coût, elle s’immisce de plus en plus dans la vie des gens. La reconnaissance faciale n’est plus le pré carré de l’État : elle est de plus en plus utilisée pour identifier les voleurs à l’étalage, les clients difficiles et même les parties adverses dans un litige.

Facewatch, une base de données britannique, est utilisée dans tout le pays par des détaillants exposés à la petite délinquance. Pour 250 livres par mois (environ 415 $CAN), Facewatch tient une liste de surveillance que les magasins d’un même quartier se partagent. Lorsque Facewatch repère un visage fiché, une alerte texto prévient le magasin : les employés peuvent surveiller la personne ou l’expulser.

Mackenzie ajoute un ou deux nouveaux visages par semaine, dit-il, surtout des voleurs de couches, de nourriture, de produits pour animaux et d’autres choses bon marché. Il compatit avec leurs difficultés économiques, mais ajoute que le vol était devenu endémique : la reconnaissance faciale était nécessaire, dit-il. Au moins une fois par jour, Facewatch l’avertit qu’une personne fichée vient d’entrer dans le magasin.

La reconnaissance faciale se répand alors que l’Occident peine à encadrer les progrès de l’intelligence artificielle. L’Union européenne travaille sur des règles qui interdiraient de nombreuses utilisations de la reconnaissance faciale. Mais à New York, le maire Eric Adams encourage les détaillants à l’essayer pour endiguer la criminalité. MSG Entertainment, propriétaire du Madison Square Garden et du Radio City Music Hall, a utilisé la reconnaissance faciale automatisée pour refuser l’entrée à des avocats représentant des adversaires en cour.

Parmi les démocraties, le Royaume-Uni est le chef de file en reconnaissance faciale à grande échelle, un usage autorisé par les tribunaux et les autorités réglementaires. À Londres et à Cardiff, la police met cette technologie à l’essai pour identifier les criminels recherchés lorsqu’ils marchent dans la rue. En mai, elle a passé la foule au crible lors du couronnement du roi Charles III.

Mais son utilisation par les détaillants est dénoncée comme une pratique disproportionnée pour des délits mineurs. Les gens ciblés ont peu de moyens de savoir qu’ils sont fichés. Et comment contester ? Dans une poursuite déposée en 2022, le collectif Big Brother Watch a qualifié ce système d’« orwellien à l’extrême ».

« On ne peut pas s’attendre à ce que la police vienne »

Facewatch a été fondé en 2010 par Simon Gordon, propriétaire d’un bar chic du centre-ville de Londres, aménagé dans une cave à vin du XIX^e siècle… et très couru par les pickpockets.

À l’époque, M. Gordon avait commandé à des programmeurs un petit logiciel permettant d’envoyer en ligne à la police ses vidéos de surveillance. La police gagnerait du temps, les plaintes seraient traitées plus vite, il y aurait plus d’arrestations, espérait-il.

L’idée a suscité peu d’intérêt. Mais M. Gordon s’est passionné pour cette question. Fasciné par l’évolution de la reconnaissance faciale, il a eu l’idée d’une base de données que les détaillants pourraient alimenter et partager. Un peu comme les photos de voleurs affichées devant les caissiers, mais diffusées à grande échelle pour identifier en temps réel les voleurs.

En 2018, M. Gordon s’est dit que la technologie était mûre. Son argumentaire de vente était prêt.

Il a lancé Facewatch, qui exploite sous licence un logiciel de reconnaissance faciale de Real Networks et Amazon. Son produit est aujourd’hui utilisé dans près de 400 magasins au Royaume-Uni. Quand une personne entre dans un magasin, Facewatch collige les informations biométriques de son visage et les compare à celles des personnes fichées dans une base de données alimentée par des millions de photos et de vidéos.

La liste des personnes fichées chez Facewatch s’enrichit constamment au fur et à mesure que les magasins téléchargent des photos de voleurs à l’étalage et de clients problématiques. Les fiches sont supprimées après un an.

Interpellée en achetant du lait

En octobre, une femme qui achetait du lait dans un supermarché de Bristol, en Angleterre, a été interpellée par un employé qui lui a ordonné de sortir. Facewatch l’avait signalée comme voleuse à l’étalage, lui a-t-on dit.

La femme – qui a demandé au New York Times de taire son nom par respect pour sa vie privée – a déclaré qu’il y avait erreur. Lorsqu’elle a contacté Facewatch quelques jours plus tard, l’entreprise s’est excusée, confirmant qu’il s’agissait d’une erreur sur la personne. Son histoire a été corroborée par des documents fournis par son avocat et Facewatch.

Après que la femme eut menacé de poursuivre Facewatch en justice, l'entreprise a fouillé dans ses dossiers et découvert que la femme avait été fichée à la suite d’un incident survenu dix mois plus tôt et portant sur des marchandises d’une valeur de 20 livres. Le système « a parfaitement fonctionné », conclut Facewatch.

Si la technologie a correctement identifié la femme, elle n’a pas laissé beaucoup de place au discernement humain. Ni Facewatch ni le magasin où l’incident s’est produit n’ont contacté la femme pour l’aviser qu’elle avait été fichée et lui demander ce qui s’était passé.

Facewatch vous surveille

La dame affirme n’avoir aucun souvenir de l’incident et n’avoir jamais volé à l’étalage. Peut-être est-elle partie sans se rendre compte que le paiement par carte de débit n’avait pas fonctionné à une caisse automatique, hasarde-t-elle.

Madeleine Stone, directrice juridique et politique de Big Brother Watch, dénonce cette situation.

M. Gordon a refusé de commenter l’incident survenu à Bristol.

De manière générale, « les erreurs sont rares, mais il y en a », dit-il. « Si ça arrive, on reconnaît notre erreur, on s’excuse, on efface toutes les données pertinentes pour éviter que ça arrive à nouveau et on offre un dédommagement proportionné. »

Des groupes de défense des libertés civiles ont exprimé des inquiétudes au sujet de Facewatch. Ils estiment que son utilisation pour prévenir la petite délinquance pourrait être illégale : la loi britannique qui protège la vie privée exige que les technologies biométriques comportent un « intérêt public substantiel ».

Approuvé par le bureau de la protection de la vie privée

Le Bureau du commissaire à l’information du Royaume-Uni, l’autorité qui réglemente la protection de la vie privée, a enquêté durant un an sur Facewatch. En mars, il a conclu que le système de Facewatch était légal, mais seulement après avoir obtenu que l’entreprise modifie son fonctionnement.

Stephen Bonner, commissaire adjoint chargé de la supervision réglementaire, a déclaré que l’enquête avait amené Facewatch à modifier ses politiques. Il y aura plus de panneaux d’avertissement dans les magasins ; les magasins partageront seulement les fiches portant sur les évènements violents ou graves ; Facewatch diffusera des alertes seulement sur les récidivistes. Cela veut dire que les gens ne seront plus fichés après un seul incident, comme cela est arrivé à la dame de Bristol.

Cet article a d’abord été publié
dans le New York Times.

Lisez le texte original
(en anglais ; abonnement requis)