Reconnaissance faciale: «Un risque grave de surveillance de masse»

Craignant que les « dérives potentielles » de la reconnaissance faciale du « fichage biométrique » puissent « diriger notre société vers la surveillance de masse », la députée libérale Marwah Rizqy porte plainte à la protectrice du citoyen pour qu’elle enquête sur l’acquisition imminente de ces technologies par le gouvernement québécois.

La députée de Saint-Laurent, qui réclame depuis le mois de février un moratoire sur l’utilisation de la reconnaissance faciale au Québec, demande aussi à la Commission des institutions de l’Assemblée nationale de déclencher un débat d’urgence sur la question.

« Tout cet attirail d’encerclement se développe sans contrôles ni débats publics et paraît en voie d’anéantir toute possibilité de vie privée, en plus de mettre à mal de nombreux autres droits humains », affirme M^me Rizqy, dans sa plainte à la protectrice du citoyen Marie Rinfret.

La Presse révélait la semaine dernière qu’un contrat pour l’acquisition d’une technologie de reconnaissance faciale et d’empreintes digitales pour la Sûreté du Québec, capable de comparer automatiquement des images de suspects à une banque de dizaines de milliers de photos signalétiques, est en cours d’analyse par le Centre des services partagés. La firme française Idemia est la seule entreprise à avoir participé à l’appel d’offres, avec une soumission de 4,4 millions.

L’analyse du contrat survient alors que les géants des technologies IBM, Amazon et Microsoft ont annoncé des moratoires sur la vente de logiciels de reconnaissance faciale à des corps policiers, dans la foulée du mouvement Black Lives Matter. De nombreuses études montrent que ces technologies, utilisées dans le cadre d’enquêtes criminelles pour identifier rapidement des suspects, font davantage d’erreurs pour traiter des images de personnes à la peau noire que pour celles qui ont la peau blanche.

« En aucun temps, le consentement libre et éclairé des usagers n’a été obtenu » pour l’utilisation de ces logiciels, plaide M^me Rizqy.

« Je trouve triste que M^me Rizqy se soit lancée dans une pseudo-croisade qui traduit sa méconnaissance du cadre juridique québécois, réplique le ministre responsable de la Transformation numérique gouvernementale, Éric Caire. Elle parle comme si l’utilisation de la biométrie au Québec est un désert juridique, alors que c’est absolument faux. »

En entrevue avec La Presse (voir autre texte), M. Caire affirme que l’utilisation de ces technologies est déjà largement encadrée par la Loi sur l’accès à l’information, la Loi sur la protection de la vie privée et la Loi concernant le cadre juridique des technologies de l’information. Un autre projet de loi, visant à moderniser les dispositions protégeant les renseignements personnels (projet de loi 64), sera à l’étude à la reprise des travaux parlementaires.

> (Re)lisez le texte « Reconnaissance faciale à la SQ: “irresponsable”, selon Marwah Rizqy »

« J’aimerais que M^me Rizqy nous dise ce qui ne se trouve pas dans ce projet de loi et qu’elle aimerait voir. J’espère qu’elle n’est pas en train d’apeurer la population pour des raisons politiques. Le débat doit être fait, mais dans un climat serein. Pas en faisant des plaintes et en demandant un débat d’urgence », estime le ministre Caire.

Logiciel de traçage pour la COVID-19

La plainte de M^me Rizqy survient alors que Québec analyse la pertinence d’approuver un logiciel de traçage des contacts par téléphone intelligent afin de prévenir une seconde vague d’infections dans le cadre de la crise de la COVID-19. L’application, développée par la plateforme de commerce électronique Shopify et déjà approuvée par Ottawa, utilisera le Bluetooth des téléphones pour déterminer si un utilisateur s’est trouvé à proximité d’une personne infectée. Son utilisation sera volontaire, assurent les deux ordres de gouvernement.

La Commission d’accès à l’information a souligné en mai que ce genre d’outil « ne devrait pas pouvoir être déployé sans débat public » et sans « un encadrement juridique correspondant au degré de risque qu’il comporte ». « Or, nos lois sur la protection des renseignements personnels ne sont pas adaptées au contexte numérique », insistait l’organisme dans une déclaration commune faite avec ses homologues des autres provinces.

Le gouvernement a aussi entamé une démarche pour créer une identité numérique qui permettra, à terme, aux citoyens de s’identifier avec des marqueurs biométriques pour accéder à différents services.

M^me Rizqy estime que le gouvernement a « morcelé » l’adoption de différents projets qui, tous mis ensemble, créent un « risque grave de surveillance de masse ».

« C’est du jamais-vu », insiste M^me Rizqy. « C’est la première fois dans l’histoire que le gouvernement et les autorités policières auront accès à autant de données biométriques personnelles et à des outils aussi sophistiqués pour les analyser. Ils n’achètent pas une Ferrari pour faire semblant de rouler à 10 km/h, dit-elle. Et pourtant, il n’y a pas de débat public là-dessus. »

Pas de surveillance à la « Big Brother », assure Caire

Éric Caire est formel : même si le gouvernement s’intéresse à la reconnaissance faciale, à la biométrie et aux logiciels de traçage pour éviter une deuxième vague d’infections à la COVID-19, le gouvernement n’est pas dans une démarche de surveillance « à la Big Brother ». Entrevue.

La Presse : IBM, Amazon et Microsoft ont décrété ces derniers jours des moratoires sur la vente de leurs logiciels de reconnaissance faciale aux corps policiers, citant notamment des risques de surveillance de masse et de biais racistes. Pourquoi ne pas suspendre le projet d’acquisition d’un tel logiciel par la Sûreté du Québec, le temps de débattre de la question ?

Éric Caire : Le cadre juridique du Québec n’est pas le même que celui des États-Unis. On doit faire le débat, oui, mais on ne peut pas le faire sur les mêmes assises. On a déjà la Loi sur l’accès à l’information, la Loi sur la vie privée et la Loi sur le cadre juridique des technologies de l’information, qui protègent la vie privée de nos citoyens.

N’empêche, les biais racistes de ces logiciels sont bien documentés. Ils sont les mêmes d’un côté comme de l’autre de la frontière, peu importe le cadre juridique…

C’est vrai, sauf qu’ici, au Québec, on encadre déjà ça. Vous ne pouvez pas vous servir ici de la reconnaissance faciale pour prendre une décision judiciaire, comme poursuivre ou arrêter un individu. Vous ne pouvez pas faire ça. La loi l’interdit, justement parce qu’on sait très bien, notamment chez les gens de couleur, que la marge d’erreur est élevée par rapport à un risque raisonnable. On le sait.

Alors comment expliquez-vous qu’on se retrouve avec la Gendarmerie royale du Canada, notamment, qui a été prise à utiliser le logiciel de reconnaissance faciale Clearview AI sans le moindre encadrement ? L’affaire a déclenché une enquête des commissaires à la protection de la vie privée partout au pays.

Je vais vous faire un parallèle : pourquoi est-ce qu’on utilise le polygraphe, alors qu’on sait très bien que c’est irrecevable devant un tribunal ? Ce sont des outils d’enquête, dont on peut se servir dans un cadre juridique très clair, très défini, pour aider les enquêteurs dans leurs démarches. Ceci étant, il faut reconnaître les limites de ces outils-là. Il faut aussi s’assurer que ça respecte la vie privée de nos concitoyens. S’assurer que ça ne devient pas des outils de surveillance de masse. Le Québec et ses organisations ne sont pas en train de se précipiter de façon chaotique là-dedans. Et même s’ils le voulaient, ils ne pourraient pas, parce qu’il faudrait que ça passe le test de la Commission d’accès à l’information.

N’y a-t-il pas un risque que ces balises tombent sous le couvert de l’urgence, comme on le voit avec les logiciels de traçage mobile qui apparaissent pour la COVID-19 ? On n’aurait jamais imaginé qu’une telle technologie soit déployée il y a quelques mois.

Pour avoir analysé celui que le gouvernement fédéral a endossé [développé par Shopify], je peux dire qu’il ne représente pas un grand risque pour la sécurité, parce qu’il ne stocke pas de données personnelles. Celui développé par Mila [l’institut de recherche sur l’intelligence artificielle de l’Université de Montréal et de McGill] allait beaucoup plus loin ; il y avait de la géolocalisation et du stockage de données. Il était plus complet pour l’analyse prédictive, mais en ce qui a trait à la protection des données personnelles, il était plus menaçant. Je n’étais pas un gros partisan, notamment parce qu’il prescrivait le stockage de données par une entreprise privée sous forme d’OBNL.

Votre gouvernement va-t-il approuver l’application de traçage développée par Shopify, comme l’a fait Ottawa ?

Toutes ces applications ont ceci en commun que leur efficacité est directement proportionnelle à l’endossement par la population. En France, par exemple, 2 % de la population l’a adoptée. Ce n’est pas très efficace. En Allemagne, ça a été adopté plus largement. Je pense qu’un gouvernement qui se lancerait là-dedans devrait le faire si, et seulement si, la population est prête à l’adopter. Si on n’a pas de niveau d’adhésion significatif, ça ne fonctionnera pas. On est à réfléchir, d’une part, à voir si on doit se pencher là-dessus, et d’autre part, à la façon d’aborder cette question si on décide d’aller de l’avant. Chose certaine, si on le fait, on va le faire en consultant la population.

Un de vos projets majeurs est de développer une nouvelle identité numérique pour les Québécois, qui utilisera la chaîne de blocs (blockchain) pour la rendre inviolable. Avez-vous l’impression que les citoyens comprennent de quoi il s’agit ?

Oubliez ça ! C’est un débat d’initiés, et ce n’est pas ce que les citoyens doivent retenir. Est-ce qu’on doit savoir comment fonctionne en détail l’électricité, la modulation des ondes, les hertz, l’ampérage, le voltage, pour savoir que l’ampoule s’allume quand on appuie sur le commutateur ? Non. Mais les citoyens doivent tous comprendre qu’on ne peut pas continuer à fonctionner avec les vieilles méthodes du XX^e siècle pour s’identifier. On ne peut pas utiliser ces méthodes avec les nouvelles technologies.