Que reste-t-il des « trois lois de la robotique » d’Isaac Asimov ? Un siècle après sa naissance en Russie, le romancier américain continue d’alimenter la réflexion sur la futurologie, les robots et l’intelligence artificielle.

Mathieu Perreault Mathieu Perreault
La Presse

Isaac Asimov en sept temps

Prolifique auteur de science-fiction, Isaac Asimov était au départ biochimiste. Mais ce sont ses multiples romans, ses Trois lois de la robotique et sa psychohistoire qui ont fait la réputation de l’auteur disparu en 1992. Dans un registre plus sombre, ses nombreux comportements déplacés envers les femmes ont été mis au jour depuis 10 ans.

Isaac Asimov

Les trois lois

1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger.

2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Énoncées en 1942 dans la nouvelle Runaround d’Asimov, les trois lois de la robotique ont été maintes fois citées et dénoncées par les éthiciens et ingénieurs informatiques. « Il y a beaucoup de mythes sur les trois lois », explique Daniel Polani, informaticien de l’Université de l’Hertfordshire, au Royaume-Uni, qui a publié un essai sur la question en 2017 dans la revue Frontiers of Robotics. « Le premier mythe est qu’Asimov les considérait comme immuables et suffisantes. Au contraire, la plupart de ses œuvres portent sur les manières dont elles ne parviennent pas à encadrer le comportement des robots. Le deuxième mythe est leur inutilité. Il est de bon ton de lever les yeux en évoquant les trois lois. Mais je crois qu’on peut les voir comme une tentative de donner à l’humain du contrôle sur son environnement, en encadrant le comportement des robots. L’objectif d’Asimov est celui qui devrait guider les éthiciens de la robotique, même s’ils peuvent utiliser des formulations différentes. »

Asimov et le Parlement européen

En 2017, un rapport du comité des affaires juridiques du Parlement européen avait publié une analyse des forces et des faiblesses des trois lois de la robotique énoncées par Isaac Asimov, dans le cadre d’une réflexion sur des lignes directrices encadrant l’intelligence artificielle. Le document final, publié en 2019, ne faisait pas référence à Asimov.

Le voyage fantastique

En 2016, un ingénieur biomédical de Polytechnique, Sylvain Martel, a publié le livre A Microscopic Submarine in my Blood, portant sur ses travaux qui permettent d’utiliser la nanotechnologie pour apporter des médicaments directement dans des régions précises du corps. Le livre faisait référence au film The Fantastic Voyage, qui a inspiré à Isaac Asimov deux livres. « J’ai vu le film à 7 ans, ça m’avait beaucoup marqué, dit M. Martel. Dans le film, les scientifiques miniaturisés utilisaient des lasers pour guérir le patient. Ce qu’on peut faire aujourd’hui, c’est livrer des médicaments à 85 % ou 90 % localisés, au lieu d’une chimiothérapie qui circule partout dans le corps, et ainsi minimiser les effets secondaires toxiques tout en maximisant le potentiel thérapeutique. »

> Regardez la bande-annonce du film I, Robot, tiré de nouvelles d’Asimov (en anglais)

> Regardez la bande-annonce du film Bicentennial Man, tiré d’un roman d’Asimov (en anglais)

> Regardez la bande-annonce du film Fantastic Voyage dont Isaac Asimov a tiré deux romans (en anglais)

IMAGE TIRÉE DU WEB

The Gods Themselves, d'Isaac Asimov

Un prédateur

Asimov est mort en 1992, après avoir contracté le VIH par transfusion sanguine lors d’une intervention chirurgicale cardiaque. Ces dernières années, il est devenu évident qu’il serait aujourd’hui considéré comme un prédateur sexuel. « Il faisait des attouchements agressifs envers les femmes dans les conférences, c’était un secret de polichinelle dans le monde de la science-fiction », dit David Leslie, philosophe de l’Institut Turing en Angleterre, qui a publié un article pour le centenaire de la naissance d’Asimov dans la revue Nature l’hiver dernier. « Il avait aussi des personnages de femmes très stéréotypés, mis à part la spécialiste de psychohistoire de la série Fondation. » En 2012, une essayiste américaine, Stephanie Zvan, avait publié des lettres entre Asimov et l’organisateur d’une conférence en 1961, où on lui avait demandé de prononcer une conférence « humoristique » sur les « effets positifs des pincements de fesse ». « Tout le monde savait, et non seulement ce n’était pas dénoncé, c’était encouragé », déplorait Mme Zvan. L’un des romans d’Asimov qui est le plus souvent présenté comme un exemple de stéréotypes sexistes est The God Themselves, qui décrit une civilisation extraterrestre à trois sexes. Mais des professeures d’anglais du Collège avancé gouvernemental en Inde ont affirmé en 2016 dans l’International Journal of English and Literature que le roman constituait plutôt une contestation des rôles sexuels traditionnels pour proposer une identité « androgyne plus complète ».

IMAGE TIRÉE DU WEB

L’un des livres de la série Fondation

La psychohistoire

La grande œuvre d’Isaac Asimov, la série Fondation, porte sur la possibilité de prédire l’évolution historique d’une société. Il s’agit des efforts de spécialistes de « psychohistoire » pour aider l’humanité à échapper à la barbarie qui a succédé à l’instauration d’un empire galactique. « Asimov a grandi dans un milieu russe progressiste à Brooklyn, dit M. Leslie. À cette époque, même ceux qui étaient opposés à l’expérience soviétique étaient marxistes, dans ce sens qu’ils croyaient à l’inéluctabilité du progrès fondé sur la créativité et l’intelligence humaines, qui étaient entravées par des structures historiques et sociales sclérosées. Asimov, qui venait d’un milieu russe provincial aisé, a été très influencé par le sociologue Bernhard J. Stern et le groupe des futuriens qui s’inspiraient de ses enseignements sur les conditions nécessaires au progrès. Ceci dit, étant donné qu’il démontre dans Fondation que la psychohistoire ne peut prédire toute l’évolution humaine, je crois qu’il a compris les limites de cette vision marxiste positiviste avant d’autres de sa génération. »

Le paradoxe de la biochimie

L’un des grands mystères de la carrière d’Asimov est pourquoi il a si peu utilisé les progrès de la biologie, puisque c’était sa profession jusqu’à la fin de la trentaine. « Sur les centaines de nouvelles et romans qu’il a écrits, on en compte à peine une douzaine sur la biologie, et aucun sur la révolution génétique, dont il a été témoin », explique Hank Greely, bioéthicien de l’Université Stanford qui a publié deux essais sur la question. « Oui, il y a le mutant au cœur de la série Fondation, le personnage de la Mule, mais c’est presque un à-côté. On a l’impression qu’il préférait se pencher sur les dimensions cognitives et éthiques de la futurologie, plutôt que sur la technique elle-même. Il aurait été intéressant qu’il joue un rôle aussi important en bioéthique qu’en éthique de la robotique. »

Physique fictive

Asimov s’est aussi avancé sur la modification des lois de la physique. Dans le deuxième tome du Voyage fantastique, il imagine que la miniaturisation est possible en « modifiant la constante de Planck », utilisée en physique moderne. « Je ne l’ai pas lu, mais j’ai bien l’impression que oui, c’est farfelu », dit Alain Hénault, ingénieur physique à l’École de technologie supérieure (ETS). « La constante de Planck est, comment dire… une constante ! Réduire la constante de Planck… en science-fiction, tout est possible d’un trait de plume ! » Pour ajouter à l’énormité, Asimov imaginait une manière de rendre la miniaturisation moins énergivore… en augmentant la vitesse de la lumière !

380 : Nombre de romans et recueils de nouvelles publiés par Isaac Asimov

120 : Nombre de livres scientifiques publiés par Isaac Asimov

Source : Nature