La vie privée menacée: souriez, vous êtes filmés (et reconnus)

Alors que de plus en plus d’experts réclament un moratoire sur la prolifération des technologies de reconnaissance faciale, La Presse a bâti son propre logiciel avec des algorithmes trouvés gratuitement sur l’internet. Nous l’avons testé à la sortie du caucus de la Coalition avenir Québec. Son efficacité est surprenante.

Facile à programmer, difficile à encadrer

Un algorithme trouvé en ligne gratuitement, quelques heures de programmation, 276 photos de députés et d’attachés de presse glanées sur le site de l’Assemblée nationale, Google, Facebook, Twitter et LinkedIn, et environ 1 $ de temps de serveur acheté sur Amazon Web Services.

C’est tout ce qu’il a fallu à La Presse pour bricoler son propre outil de reconnaissance faciale. Nous l’avons testé sur des images filmées à l’Assemblée nationale, en décembre dernier, à la sortie du caucus de la Coalition avenir Québec (CAQ).

Mis à part quelques bogues pour placer les noms aux bons endroits dans l’image, notre logiciel s’est révélé plutôt performant : il a reconnu 49 députés de la CAQ et 8 attachés de presse de ministres du gouvernement Legault, parmi une centaine de visages filmés par notre caméra.

L’algorithme a fait quelques erreurs, confondant souvent les libéraux Gaétan Barrette et Pierre Arcand avec des élus de la CAQ ou avec des journalistes qui rôdaient près de la sortie du caucus. Mais somme toute, avec seulement une quinzaine de « faux positifs », le logiciel de reconnaissance faciale a reconnu trois fois plus de personnes qu’il n’a fait de fautes.

« C’est beaucoup plus facile à programmer que ce que je pensais », dit Yahya Laraki, scientifique de données de La Presse qui a bâti l’outil à la demande de notre équipe d’enquête.

L’intelligence artificielle de type « apprentissage profond » qui se trouve au cœur de notre outil maison, appelé DLib, a été préentraînée sur 3 millions de photos de 7485 personnes différentes, précise M. Laraki. Elle est utilisée principalement à des fins de recherche scientifique, et sa précision s’améliore sans cesse. Elle est téléchargeable gratuitement sur l’internet.

Chaque segment vidéo de trois minutes a nécessité environ cinq heures de traitement informatique aux serveurs d’Amazon que nous avons utilisés pour l’exercice. Mais en investissant quelques dollars de plus pour obtenir plus de capacité de calcul, nous aurions pu développer un logiciel capable de traiter des images en temps réel, affirme M. Laraki.

Scientifiques inquiets

Pourquoi La Presse s’est-elle lancée dans une telle démarche ?

Depuis un peu plus d’un an, de nombreuses voix se sont élevées pour réclamer un moratoire sur l’utilisation croissante de la reconnaissance faciale par les États et les municipalités. Le chercheur montréalais de réputation internationale Yoshua Bengio, grand spécialiste de l’intelligence artificielle, est une des figures de proue de ce mouvement. « Un élément qui m’inquiète est qu’on vogue vers une société hyper surveillée, avec comme conséquence une plus grande facilité pour le pouvoir en place de s’y maintenir grâce à la technologie, donc une possible dérive autoritaire qui mettrait en danger nos valeurs démocratiques », a dit M. Bengio dans un échange avec La Presse.

Or, malgré de nombreux appels au moratoire et invitations à légiférer lancés aux élus, tant par les scientifiques que par des groupes de défense des libertés civiles, ni Ottawa, ni Québec, ni même la Ville de Montréal ne se sont penchés en profondeur sur l’utilisation de cette technologie.

Le gouvernement Legault dit préparer une « stratégie d’introduction de l’intelligence artificielle dans l’administration publique » afin d’en baliser l’usage. « Des annonces à cet égard sont prévues d’ici l’été 2020 », a précisé Nathalie Saint-Pierre (une des huit attachés de presse reconnus par notre logiciel dans le cadre de notre expérience), porte-parole du ministre délégué à la Transformation numérique gouvernementale, Éric Caire. L’Observatoire international sur les impacts sociétaux de l’IA et du numérique de l’Université Laval est impliqué dans son élaboration.

Cinq systèmes implantés

La reconnaissance faciale est pourtant de plus en plus utilisée par nos corps policiers ainsi que par les entreprises privées. La Commission d’accès à l’information a reçu au moins cinq déclarations d’entreprises qui ont implanté, ces derniers mois, des systèmes de reconnaissance faciale. « On est vraiment dans les premiers cas d’utilisation. C’est à l’étude », indique la porte-parole Isabelle Gosselin.

Les organismes qui mettent en place de tels mécanismes ont l’obligation de les déclarer à la Commission d’accès à l’information et d’obtenir le consentement des utilisateurs. « On peut croire que les gens ne savent pas qu’ils doivent faire cette déclaration à la Commission. Peut-être qu’il y en a que ça fait leur affaire de l’ignorer, ajoute la porte-parole. On souhaiterait que ce soit plus encadré. »

La Sûreté du Québec a aussi officiellement lancé un appel d’offres en novembre dernier pour acquérir une « solution » de reconnaissance faciale. Celle-ci devra entrer en fonction « au plus tard le 30 novembre 2020 » (voir texte à l’onglet suivant), précise le devis consulté par La Presse.

« Ça prend une discussion sur cette question. On ne sait même pas ça répond à quel besoin, ni même si la Sûreté du Québec a obtenu des avis juridiques avant d’aller de l’avant », déplore la députée libérale Marwah Rizqy, porte-parole de l’opposition en matière de stratégie numérique.

Son vis-à-vis, le ministre Caire, a lui-même évoqué en avril dernier la possibilité d’utiliser, dès 2021, la reconnaissance faciale pour permettre aux citoyens de se connecter aux sites gouvernementaux qui hébergent des données confidentielles.

Des biais majeurs

Les problèmes liés à l’utilisation de la reconnaissance faciale sont largement documentés. La Ville de San Francisco, première municipalité américaine à avoir décrété un moratoire sur son utilisation, a justifié sa décision en affirmant que la technologie « va exacerber l’injustice raciale ».

Les personnes d’origine africaine-américaine ou asiatique ont entre 10 et 100 fois plus de chances d’être reconnues erronément par les algorithmes de reconnaissance faciale que les Caucasiens, selon un rapport d’évaluation du National Institute of Standards and Technology (NIST), basé sur des tests réalisés sur 189 logiciels. Le taux d’erreur est encore plus élevé lorsqu’il s’agit d’Afro-Américaines de sexe féminin.

Certaines des erreurs faites lors de notre propre test avec notre logiciel maison illustrent d’ailleurs ce biais racial. À trois occasions, notre système a reconnu Marwah Rizqy dans les couloirs de l’Assemblée nationale, alors qu’elle n’y était pas. M^me Rizqy a la peau foncée. Dans un des cas, le logiciel l’a confondue avec Nadine Girault, élue d’origine haïtienne.

Notre logiciel a aussi cru, pendant une fraction de seconde, que Lionel Carmant était Samuel Poulin, député caquiste né au Maroc qui a des traits maghrébins.

« Samuel a la peau basanée comme moi, note Marwah Rizqy. C’est très inquiétant de savoir que des gens comme nous sont plus à risque d’être mal identifiés, surtout dans un contexte d’utilisation policière ou criminelle. »

Un logiciel d’Amazon à l’essai

Dans une lettre ouverte qu’il a publiée avec plusieurs autres spécialistes de l’intelligence artificielle, Yoshua Bengio a plus particulièrement dénoncé les biais racistes d’un outil de reconnaissance faciale appelé Rekognition, développé par Amazon.

Rekognition – payable à l’utilisation mais abordable – est facile d’utilisation et accessible en ligne depuis août 2018 à quiconque ouvre un compte sur Amazon Web Services. Le logiciel se fraie un chemin rapidement dans les postes de police d’Amérique du Nord, selon l’American Civil Liberties Union, qui le qualifie d’« outil de surveillance de masse ».

Nous avons aussi testé le logiciel d’Amazon avec des photos de députés de l’Assemblée nationale, avec un grand succès. Rekognition identifie spontanément la plupart des têtes d’affiche de chaque parti politique, sans qu’on ait à lui fournir de photo de référence. Il permet aussi de comparer deux visages qui se ressemblent et de déterminer s’il s’agit bien de la même personne.

Mais Rekognition fait aussi beaucoup d’erreurs avec les peaux foncées, particulièrement celles des femmes noires, avec lesquelles il se trompe dans 31 % des cas, selon une étude du MediaLab du Massachusetts Institute of Technology.

La « parade » judiciaire permanente

De nombreuses critiques de la reconnaissance faciale s’inquiètent aussi du fait que l’utilisation de vastes banques de données de photos expose des millions d’innocents à une sorte de « parade » d’identification judiciaire virtuelle permanente.

« Oui, je trouve ça inquiétant », lance l’avocate Eloïse Gratton, spécialiste en protection de la vie privée au cabinet BLG. « Du point de vue du citoyen, de savoir qu’à n’importe quel moment, le gouvernement peut prendre des photos de personnes qui sont dans l’espace public et s’en servir pour surveiller ce qu’elles font, c’est sûr que ça refroidit. »

« C’est connu : lorsqu’on sait que les gouvernements font de la surveillance, les citoyens font de l’autocensure. Ils sont moins enclins à participer à la vie publique, participer à des assemblées, à des marches, dénoncer des situations, exercer leurs libertés fondamentales », dit l’avocate.

M^e Gratton croit qu’un mécanisme de surveillance externe et indépendant qui contrôlerait l’utilisation de la reconnaissance faciale, et en ferait rapport aux élus, pourrait rendre la technologie plus acceptable. « Si les législateurs arrivent à mettre en place toutes sortes de contrôles qui minimisent l’atteinte à la vie privée, et qu’on arrive à attraper plein de criminels grâce à la reconnaissance faciale, les citoyens vont être beaucoup plus à l’aise avec cette technologie. Il faut juste faire l’exercice. »

Un système au plus tard en novembre à la SQ

Malgré des moratoires décrétés à San Francisco, à Oakland et dans plusieurs villes américaines sur l’utilisation policière de la reconnaissance faciale, la Sûreté du Québec (SQ) va de l’avant avec cette technologie controversée. Le corps policier a officiellement lancé un appel d’offres pour acquérir un logiciel qu’elle souhaite mettre en fonction « au plus tard le 30 novembre 2020 ».

L’appel d’offres vise à acquérir un logiciel de reconnaissance faciale qui sera en mesure d’« intégrer massivement des photos » afin de « constituer des parades d’identification ».

Le logiciel pourra accéder aux photos de criminels condamnés figurant dans la Banque centrale provinciale d’empreintes digitales et de photographies signalétiques « ainsi qu’aux autres banques de photos qui pourraient être constituées », précise le devis consulté par La Presse. Ces nouvelles banques de photos pourront provenir de pièces à conviction obtenues par les policiers dans le cadre d’enquêtes criminelles, précise la SQ.

« Nous voulons prioriser l’utilisation de cette technologie pour résoudre des crimes violents, comme des enlèvements de personnes, l’exploitation sexuelle des enfants, la radicalisation du terrorisme et la traite de personnes », précise M. Fournier. « Elle sera utilisée dans le respect des contraintes légales en matière de protection de la vie privée », assure-t-il.

« C’est large. Ça pourrait être litigieux », a réagi la porte-parole de la Commission d’accès à l’information, Isabelle Gosselin, au sujet de la possibilité que se réserve la SQ de créer de nouvelles banques d’images. La Loi sur l’identification des criminels permet actuellement aux corps policiers d’utiliser des photos de personnes détenues, inculpées ou reconnues coupables de crimes pour les comparer à celles de suspects dans le cadre de leurs enquêtes. Mais l’utilisation de la reconnaissance faciale avec des banques de photos génériques n’est pas balisée.

« En d’autres mots, ça s’appelle une partie de pêche », lance la députée libérale Marwah Rizqy, porte-parole de l’opposition en matière de stratégie numérique du gouvernement, informée par La Presse de l’appel d’offres.

Question de tester les limites de notre propre logiciel, nous lui avons aussi fait lancer l’algorithme en comparant les images de la sortie d’un caucus de la Coalition avenir Québec de décembre aux photos de 109 personnes recherchées par la Gendarmerie royale du Canada. Le logiciel a alors momentanément confondu la vice-première ministre Geneviève Guilbault avec une femme recherchée pour vol d’enfants. Le ministre de l’Énergie et des Ressources naturelles Jonatan Julien a quant à lui été très brièvement pris pour un homme au lourd passé criminel recherché pour fraude, extorsion et abus sexuel. Dans les deux cas, l’erreur n’est survenue que sur une image de la séquence équivalant à un trentième de seconde.

Controverse aux États-Unis

Aux États-Unis, le FBI et le département de l’Immigration et des Douanes (ICE) ont reconnu en juillet se servir de la reconnaissance faciale pour identifier des suspects en les comparant à des bases de données contenant des millions de photos de permis de conduire obtenues sans aucun consentement des autorités étatiques.

Le New York Times rapportait aussi à la mi-février l’existence de ClearView AI, un logiciel de reconnaissance faciale à des fins d’enquête policière, qui compare des photos à une base de données de 3 milliards d’images d’individus récoltées sans autorisation sur des réseaux sociaux comme Facebook, Twitter et LinkedIn.

ClearView se targue sur son site internet d’avoir parmi ses clients une « unité de lutte contre les crimes sexuels d’un corps policier canadien ». L’entreprise n’a pas répondu à notre demande de précision à ce sujet.

Google, YouTube, et Twitter ont mis en demeure ClearView de cesser d’utiliser les photos de leurs usagers et de les supprimer puisque leur utilisation viole leurs politiques de protection de la vie privée. Facebook a pour sa part envoyé des lettres à ClearView pour lui demander des comptes.

« Ces entreprises opèrent dans un vide juridique et législatif qu’il est urgent de combler », lance le député néo-démocrate Charlie Angus, qui a écrit la semaine dernière au Commissaire fédéral à la protection de la vie privée pour lui demander d’enquêter sur ClearView et l’utilisation de la reconnaissance faciale par les corps policiers canadiens. « Il faut établir des mécanismes de surveillance judiciaires pour encadrer la reconnaissance faciale. C’est comme l’utilisation de l’écoute électronique : ça doit être encadré par des mandats », estime-t-il.

Un boom et des questions

L’utilisation de la reconnaissance faciale progresse aussi à grande vitesse dans l’entreprise privée. Dans un seul salon spécialisé à Laval, le Salon Sécurité Canada, une demi-douzaine d’entreprises de sécurité proposaient des modules de reconnaissance faciale.

Guérites de sécurité

L’entreprise montréalaise Nuvoola est l’une d’elles. Elle tente de s’implanter dans le marché des guérites de sécurité. Son logiciel breveté isole les visages de camionneurs ou de travailleurs captés par des caméras de surveillance, puis transmet ces images dans le nuage au logiciel Rekognition, d’Amazon, ainsi qu’à un logiciel de Microsoft appelé Visage et à un troisième outil de reconnaissance faciale à code ouvert. Le score cumulé des trois outils de reconnaissance permet alors aux clients d’avoir un bon niveau de certitude sur l’identité du visage filmé. Le système conserve aussi des images du visage dans un registre des entrées et sorties des camions. « Ce sont des gens qui savent qu’ils sont filmés. Ils ont déjà donné leur consentement », assure Jean-Marc Taillon, vice-président de Nuvoola.

Éthique et obligations

Avant d’implanter un tel système de reconnaissance biométrique (reconnaissance faciale, de l’iris, d’empreintes digitales ou n’importe quelle autre mesure corporelle) au Québec, une entreprise ou une organisation devrait en principe obtenir le consentement de ses travailleurs et des personnes qui y seront soumises, explique la Commission d’accès à l’information. « Quand c’est possible, il faut qu’il y ait une méthode alternative d’identification offerte aux gens qui refusent de donner leur consentement », indique la porte-parole Isabelle Gosselin. Les entreprises doivent aussi justifier en quoi la collecte de renseignements biométriques est nécessaire. « Il y a une évaluation de l’impact sur la vie privée qui doit se faire », explique l’avocate Éloïse Gratton, qui représente elle-même des clients qui ont jonglé avec la possibilité d’utiliser la reconnaissance faciale. « Dans bien des cas, en cours d’exercice, les entreprises se rendent compte qu’il y a trop d’enjeux liés à la vie privée par rapport aux bénéfices que la reconnaissance faciale peut apporter et préfèrent laisser tomber », précise l’avocate.

Stockage des données aux États-Unis ?

L’endroit où les images de visages sont stockées ou analysées doit aussi être pris en compte. Dans le cas de l’appel d’offres de la Sûreté du Québec, le devis ouvre la porte à ce que le fournisseur puisse « utiliser ou communiquer à l’extérieur du Québec » certaines données, mais prévoit un examen préalable des lois, règlements, directives et politiques du pays où le fournisseur entend détenir ces informations. Des experts consultés par La Presse estiment que ce critère permettra à Amazon et à Microsoft, qui ont des serveurs aux États-Unis, de soumissionner. « Si physiquement les données sont hébergées aux États-Unis et qu’elles intéressent le gouvernement américain pour des raisons de sécurité nationale, on ne peut pas l’empêcher d’obtenir une ordonnance d’un tribunal secret quelconque afin d’obtenir accès à ces données-là. Ça fait partie du défi », indique l’avocate Éloïse Gratton. Deux importants acteurs chinois de la reconnaissance faciale, Face++ et SenseTime, soupçonnés d’avoir été impliqués dans un scandale de surveillance étatique de la minorité ouïghoure, auraient toutefois de la difficulté à se qualifier.