Dans IA : être ou ne pas être, le journaliste Matthieu Dugal, animateur de l’émission Moteur de recherche à la radio de Radio-Canada, fait créer son double numérique à partir des données personnelles qu’il a disséminées sur l’internet. Sa quête est le point de départ d’une réflexion sur l’essence de l’être humain et les défis éthiques posés par le développement des algorithmes. Entrevue.

D’où vient l’idée de construire votre double numérique pour parler d’intelligence artificielle ?

On voulait faire un truc qui touche à l’éthique, ce qui nous forçait à observer ces technologies d’un point de vue moral et à nous demander ce qu’on considère comme étant exclusivement humain. L’émergence de technologies capables de créer des doubles — pas si convaincants pour le moment — nous est apparue comme l’une des choses les plus confrontantes comme êtres humains. Elles sont encore balbutiantes, mais elles nous mettront tôt ou tard face à des dilemmes nouveaux : qu’est-ce que ça signifie de s’attacher à une voix numérique qui va nous parler ? On n’est pas loin de ce que vit Joaquin Phoenix dans le film Her [où le personnage principal tombe amoureux d’une intelligence artificielle]. Ça nous met face à plein de questions morales qu’on n’a jamais eu à se poser.

Est-ce que la machine se rapproche de l’intelligence humaine ?

Il y a plein de façons d’envisager ça. On a d’abord pensé que c’est en copiant le vol des oiseaux qu’on serait capables de construire des machines volantes, mais on s’est rendu compte que ce n’est pas comme ça que ça fonctionne. Un avion, au fond, c’est un modèle élaboré à partir de caractéristiques d’un vol d’oiseau qu’on a prises et adaptées.

C’est un peu la même chose avec l’intelligence artificielle. Les pères de l’intelligence artificielle pensaient dans les années 1950 que lorsqu’un ordinateur battrait un être humain aux échecs, il serait aussi intelligent que nous, ou peut-être même plus, parce que c’est l’un des jeux les plus complexes auxquels on peut jouer et qu’être bon aux échecs équivalait à être intelligent — de leur point de vue. On sait maintenant que c’est plus compliqué que ça.

IMAGE TIRÉE DE IA : ÊTRE OU NE PAS ÊTRE

Matthieu Dugal dans IA : être ou ne pas être

Quelle est la frontière entre les vivants et les machines ?

L’une des caractéristiques de notre cerveau, c’est sa capacité à généraliser et à s’adapter. Mon neveu de 2 ans va voir un chien dans la rue et dire « chien ». Après, il va voir le dessin d’un chien d’une race différente dans un livre et dire encore « chien ». C’est un processus mental extrêmement complexe, que les algorithmes sont capables de faire seulement depuis une dizaine d’années. Et il ne faut jamais oublier qu’ils ne sont capables de faire qu’une seule chose [de manière efficace] : reconnaître un chien, une tumeur, trouver sur demande la pizzéria la plus proche. On appelle ça l’intelligence faible.

Le Saint-Graal des chercheurs — et il y en a qui pensent qu’on n’y arrivera jamais —, c’est de créer une intelligence dite forte, qui serait capable de répondre à des questions philosophiques et de faire en sorte qu’un robot se tienne en équilibre en même temps, ce qui est atrocement difficile. L’intelligence artificielle forte, ça inclut tout ce qu’on fait instinctivement, comme parler tout en tenant une tasse de café et en regardant dehors et y voir un nuage…

En quoi les machines sont-elles supérieures aux humains ?

Dans certains cas, les algorithmes sont meilleurs que nous. On est capables de les entraîner à détecter des tumeurs avant qu’elles ne soient visibles à un œil humain avisé. On peut créer des doubles numériques de moteurs d’avion capables de voir si une petite vibration peut devenir un problème au bout de 1000 heures de vol… Ça, c’est extraordinaire !

La série montre les impacts néfastes des intelligences artificielles sur nos relations sociales, le vivre ensemble et, ultimement, la démocratie. Partagez-vous ces inquiétudes ?

Je ne suis pas inquiet des machines, mais de la manière dont on s’en sert. Les réseaux sociaux, c’est fabuleux, mais dans un contexte d’absence de réglementation et de capitalisme de surveillance, ça pose problème. Ce qui est nouveau, c’est que ces machines vont vraiment nous séduire, mais ce n’est pas parce que l’intelligence artificielle te dit « tu es beau » ou « je t’aime » qu’elle le « pense ». Il faut être conscient que ces algorithmes sont animés par des compagnies qui ont un intérêt pécuniaire à ce qu’on soit branché à telle ou telle affaire.

Éduquer nos enfants n’est-il pas un des principaux défis ?

C’est un enjeu absolument majeur. L’intelligence artificielle n’est ni intelligente ni artificielle, elle est optimisée pour faire une chose et il y a un être humain derrière ça. Si l’algorithme est programmé pour nous dire ce qu’on veut entendre, pour nous plaire, il va le faire. On peut se demander si, à un moment donné, on ne va pas préférer la compagnie de ces algorithmes à nos semblables qui ne nous disent pas toujours ce qu’on veut entendre. On se retrouverait alors non pas dans une chambre d’écho comme sur Facebook, mais dans une chambre « d’ego ». Ce qu’on a fait dans le documentaire me convainc encore plus que c’est une question qu’il faut se poser.

L’intelligence artificielle lance un défi à notre propre intelligence. Est-ce qu’on va être plus intelligents qu’un paquet d’algorithmes inertes, qui nous trompent et nous rendent accros ? J’ose espérer que oui, mais peut-être que notre talon d’Achille, ce sera notre ego…

Sur ICI Explora (débrouillé pour les Fêtes), les lundis, dès le 19 décembre. Sur RDI les 3, 4 et 5 janvier, 20 h