Sécuritaires, les véhicules autonomes ? Placés dans le champ de vision de leur caméra, de simples petits motifs de couleur peuvent berner leur système informatique et entraîner des comportements chaotiques, selon une récente étude coréalisée par Anurag Ranjan, doctorant à l’Institut Max-Planck de systèmes intelligents, en Allemagne. La Presse l’a interviewé.

Nicolas Bérubé Nicolas Bérubé
La Presse

Avez-vous été surpris de constater que de petits motifs de couleur pouvaient duper des véhicules autonomes  ?

Oui ! Nous savions que cela pouvait être possible en théorie, mais nous avons été surpris par la facilité avec laquelle nous avons pu le réaliser. Il nous a fallu environ trois ou quatre heures pour réaliser ces motifs. Des chercheurs avaient déjà réussi à duper des systèmes de reconnaissance basés sur l’apprentissage en profondeur en plaçant par exemple un autocollant sur un panneau d’arrêt pour le changer en « panneau de vitesse à 50 km/h » aux yeux des voitures autonomes. Mais, dans notre cas, nous avons montré que cela était aussi possible pour des problèmes de régression [problèmes liés à l’estimation de valeurs continues comme la vitesse et la distance]. Le système de flux optique évalue le mouvement des objets se trouvant autour du véhicule. Ces systèmes sont essentiels pour les voitures autonomes.

IMAGE FOURNIE PAR L’INSTITUT MAX-PLANCK

Les motifs de couleur utilisés par les chercheurs de l’Institut Max-Planck de systèmes intelligents, en Allemagne.

Nous avons découvert que des motifs ne représentant que 1 % de la surface de l’image perçue par la caméra pourraient toucher de manière significative les prévisions de flux optique sur l’ensemble de l’image.

Cela a pour effet d’effacer le mouvement des voitures, des piétons ou de divers objets présents autour du véhicule autonome. Ces effets étaient assez surprenants.

Est-ce que cela veut dire qu’un passant pourrait provoquer une catastrophe dans la rue simplement en portant un t-shirt avec ces motifs de couleur  ?

Tout à fait. Les véhicules autonomes utilisent des prévisions de flux optique pour prendre des décisions concernant leurs déplacements. Si vous attaquez le flux optique, vous avez une incidence sur la façon dont les véhicules se déplacent. Ces motifs peuvent être imprimés sur des t-shirts, des sacs ou des panneaux de signalisation. Tant qu’ils sont à la vue de la caméra du véhicule, ils peuvent causer une attaque.

Est-ce une faille à laquelle les constructeurs de véhicules autonomes peuvent facilement remédier  ?

Tous les systèmes qui reposent sur l’utilisation d’une caméra et l’apprentissage en profondeur y sont vulnérables. Ces systèmes sont largement utilisés. Plusieurs constructeurs automobiles utilisent également la télédétection par laser conjointement avec le système de caméras. Ces systèmes de télédétection pourraient éventuellement corriger les mauvaises prédictions des caméras. Or, il ne serait pas difficile pour un attaquant de contourner ces systèmes. Il s’agit d’un problème fondamental pour les systèmes basés sur l’apprentissage en profondeur. Jusqu’ici, nous ne connaissons pas de méthode à toute épreuve pour y faire face. Nous espérons que la recherche permettra de trouver de meilleurs moyens de se prémunir contre ces attaques.

Seriez-vous prêt à monter à bord d’un véhicule autonome  ?

Personnellement, je suis excité à l’idée d’être transporté par un véhicule autonome ! Cela ne m’empêche toutefois pas de critiquer leurs vulnérabilités, histoire de voir émerger des véhicules plus sûrs à l’avenir. Je pense que l’avenir de la conduite autonome dépendra de la capacité des véhicules à résister à ce type d’attaques.