Et l’homme créa le robot !

On doit au grand écrivain André Malraux cette pensée prémonitoire : « Le XXI^e siècle sera religieux ou ne sera pas. » Mais le XXII^e siècle, lui, à quoi ressemblera-t-il ? Si vous aviez posé la question à Isaac Asimov, un autre grand écrivain, il vous aurait peut-être répondu : « Ce sera le siècle des robots. »

Vous ne connaissez pas Isaac Asimov ? Écrivain de science-fiction prolifique, Asimov s’intéressa beaucoup à la robotique et surtout aux relations d’ordre moral que pose la complexe relation entre le robot et son créateur, l’homme. Tout le contraire de ce qui semble animer l’industrie de l’intelligence artificielle actuellement, plus intéressée par le profit que par les questions éthiques. Pensons à cette société américaine, ScaleAI, évoquée dans La Presse¹, qui exploite des milliers de travailleurs philippins qui « entraînent » les algorithmes de l’intelligence artificielle (IA).

Dans pareil contexte, il n’est pas surprenant que des sommités comme Yoshua Bengio s’inquiètent des dangers liés à l’IA. Les problèmes que suscitent par exemple GPT, qu’on songe aux possibilités de fraude, de plagiat ou de désinformation, soulèvent déjà des enjeux majeurs.

Mais il semble que nous n’ayons encore rien vu. Car l’IA, nous dit-on en coulisse, parvient déjà à déjouer les plans de ses créateurs.

L’ironie n’est pas sans évoquer le fameux HAL 9000, l’ordinateur de bord du vaisseau dans 2001 l’Odyssée de l’espace, qui tente d’éliminer les deux astronautes qui veulent le désactiver.

En fait, les problèmes éthiques de l’IA existent depuis la naissance du tout premier « robot » au début du XIX^e siècle, le célèbre Frankenstein, qui finit par se retourner contre son créateur. C’est pour prévenir ce fâcheux paradoxe qu’Asimov imagina dès les années 1940 les trois lois de la robotique.

Loi # 1 : un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

Loi # 2 : un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi.

Loi # 3 : un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

Dans l’esprit d’Asimov, la protection de l’espèce humaine demeurait la priorité absolue. Gardons à l’esprit que ces lois ont été imaginées à une époque tourmentée où le progrès technologique promettait de rendre la planète plus saine et plus « habitable ». Même à cette époque où l’humanité s’apprêtait à entrer dans les guerres les plus destructrices de l’histoire, la science était encore vue comme la porte du paradis dans un monde où, paradoxalement, Dieu venait de mourir, tué par certains philosophes et quelques régimes totalitaires.

Une fuite en avant

Aujourd’hui, 80 ans après les lois de la robotique, devant les risques avérés de l’IA, la seule réponse des sociétés privées qui en assurent le développement est une fuite en avant : encore plus de technologie et encore plus de science. On pourrait résumer leur contre-argument comme ceci : « Nous allons parfaire la technologie pour qu’elle ne soit pas dangereuse. » Et le problème moral dans tout ça ? La réponse se fait toujours attendre.

Le silence assourdissant des artisans de Silicon Valley et de ses satellites nous ramène en fait au siècle dernier. La question de savoir si l’homme pense aujourd’hui pouvoir remplacer Dieu ne se pose même plus.

Le progrès, ce vortex technologique qui balaie inexorablement le monde, devient en réalité sa propre finalité. Et cette finalité nous la connaissons depuis Hiroshima : si l’homme a la possibilité de créer un outil, il le fera. Les questions viendront par la suite…

Alors, revenons à ChatGPT et l’IA. Quel avenir nous réservent-ils ? Dans IA, remarquable film de Steven Spielberg du début des années 2000, Cybertronics, une société qui fabrique des Androïdes, propose la quintessence de la technologie : un petit garçon du nom de David conçu pour aimer. Lui, à qui ses concepteurs ont donné une vie éternelle, se retrouve à la fin du film abandonné à son destin au fond de l’océan Atlantique. Il faudra 2000 ans avant qu’il ne soit retrouvé. Par des robots. Des robots qui ont cette particularité : ils n’ont jamais connu l’être humain. Car dans leur monde, les humains n’existent plus.

Ainsi donc, Dieu a engendré l’homme qui, lui, créa la machine, le dernier maillon de la chaîne… Tout ceci n’est bien sûr que pure fiction. Mais nous savons tous que celle-ci finit toujours par être… un peu en deçà de la réalité.

1. Lisez « Les forçats de l’IA »