Attention aux progrès technologiques qui dérapent!

En mars, la voiture autonome Google Car a... (AFP, Noah Berger)

Agrandir

En mars, la voiture autonome Google Car a été impliquée dans un accrochage sur une route de Californie, suscitant des doutes sur la sécurité de ce véhicule du futur.

AFP, Noah Berger

Partage

Partager par courriel
Taille de police
Imprimer la page
Lucie Godeau, Jean Liou
Agence France-Presse
Paris

Plusieurs défaillances spectaculaires ont montré ces derniers mois qu'il n'est pas interdit de se méfier des progrès technologiques, robots et applications pouvant se retourner contre leurs utilisateurs.

L'application de navigation routière Waze, un système GPS collaboratif, a conduit en février deux soldats israéliens dans un camp de réfugiés palestiniens en Cisjordanie, déclenchant de violents heurts. Cette erreur a fait un mort palestinien et une quinzaine de blessés.

En mars, c'est la Google Car, la voiture autonome de Google, qui a été impliquée dans un accrochage sur une route de Californie. Le géant technologique américain a admis une part de responsabilité du cerveau informatique automobile dans l'accident, suscitant des doutes sur la sécurité de ce véhicule du futur.

L'an dernier, un ouvrier avait été tué par un robot sur la chaîne de montage d'une usine Volkswagen allemande, créant une controverse sur la robotisation des entreprises.

L'intérimaire de 22 ans mettait en route la machine avec l'un de ses collègues quand il a été frappé à la poitrine par le robot qui l'a poussé contre une plaque métallique.

Si les progrès technologiques-vidéosurveillance, extension des réseaux de communication permettant d'appeler à l'aide en pleine mer ou en haut d'une montagne, en passant par les dispositifs de surveillance médicale - peuvent donner une impression de sécurité accrue, les nouveaux risques pourraient se multiplier à mesure que l'humain délègue de plus en plus de fonctions à la machine.

On peut penser que «c'est juste une question de maturité technologique, auquel cas on considère que ces outils sont encore jeunes et ont besoin de s'améliorer, et que d'ici six mois à trois ans on aura réglé les bugs», souligne Valérie Peugeot, prospectiviste pour Orange Labs.

Mais «pour moi, les limites du tout technologique ne se posent pas là : on délègue à la technologie des choix qui étaient historiquement des choix de l'humain», ajoute-t-elle.

Cette impression de sécurité, ce confort apporté par la technologie, a aussi un prix : celui de la surveillance, estime Valérie Peugeot.

Gare aux hackers

«On met de la nanotechnologie dans les ponts, des traceurs avec l'Internet des objets, la domotique. Ça peut être très agréable dans la vie quotidienne, on gagne en simplification, mais en même temps on le paye d'un potentiel de privation de liberté», déclare-t-elle.

La question ne laisse pas indifférents les responsables de la société française Aldebaran, qui commercialise des robots humanoïdes chargés notamment d'aider les handicapés ou les personnes âgées.

Capables d'analyser les comportements de leurs interlocuteurs, ses robots peuvent en déceler les émotions et modifier leurs comportements en conséquence.

«Comme le robot est tout le temps en train de nous regarder et qu'il peut aller chercher de l'information, c'est potentiellement une sorte de super espion», reconnaît Rodolphe Gelin, chargé de l'innovation chez Aldebaran, filiale du groupe japonais SoftBank.

Des esprits mal intentionnés pourraient détourner le gentil compagnon d'acier pour récupérer- et pourquoi pas revendre- des informations sur ses propriétaires, ou lui faire ouvrir la porte à des inconnus, note-t-il.

«Il est très important pour nous de protéger le robot des agressions extérieures», souligne M. Gelin. En clair, protéger les robots comme on protège des objets connectés ou les réseaux informatiques d'une entreprise des hackers.

En outre, interroge le responsable d'Aldebaran, qui est responsable si le robot fait mal à la personne qu'il est censé aider? Et s'il commence à faire n'importe quoi, à l'image de Tay, la machine de Microsoft qui s'est mise en mars à envoyer des messages racistes après avoir trop bien appris ce que les internautes lui enseignaient?

Un robot est comme un animal domestique, estime Rodolphe Gelin. Et si le constructeur se doit de livrer une machine la plus calibrée possible, le propriétaire doit surveiller le processus d'apprentissage qui suit, vu qu'il va progresser en ingurgitant ce qui l'entoure : «Vous êtes responsable de ce qu'il apprend!»

Partager

publicité

publicité

la liste:1710:liste;la boite:91290:box

En vedette

Précédent

publicité

la boite:1608467:box; tpl:300_B73_videos_playlist.tpl:file;

Les plus populaires : Le Soleil

Tous les plus populaires de la section Le Soleil
sur Lapresse.ca
»

CONTRIBUEZ >

Vous avez assisté à un évènement d'intérêt public ?

Envoyez-nous vos textes, photos ou vidéos

Autres contenus populaires

image title
Fermer