La question de l’intelligence artificielle (IA) m’interpelle à la fois comme médecin et comme auteur de fiction. Et pas seulement puisqu’elle promet de prendre ma place dans ces deux métiers que j’aime !
Je salue la récente proposition par des sommités de l’IA d’un moratoire sur son développement1, le temps de laisser l’humanité se rendre compte de ce qui est en train d’arriver, d’y réfléchir, et d’agir en conséquence. Bien que le texte de la pétition cite quelques dangers qui nous guettent (tsunami de désinformation, remplacement de toute activité professionnelle, perte de contrôle de notre civilisation), il les pose comme des finalités sans parler de comment ils se réaliseront.
L’un de ces moyens me semble aussi prévisible que funeste : l’abolition du vrai.
Mon travail de médecin m’impose un rapport empirique à la vérité : le cancer est vrai s’il se voit au microscope, la COVID-19 est vraie lorsqu’un test en dévoile le virus.
Le pouvoir de la médecine vient d’ailleurs du fait qu’elle seule détermine ce sur quoi elle porte son regard, comme Michel Foucault l’a montré.
Dans mon travail d’auteur de fiction, le vrai n’est pas empirique. Je tente, dans mes livres, de créer des mondes juste assez vrais et un peu faux. Ces mondes visent à éclaircir le sens de la réalité depuis laquelle les lectrices et lecteurs les découvrent, ou à en dévoiler une partie jusqu’alors inaperçue. La notion littéraire du vrai est floue. Elle fait appel au contexte et au ressenti. Qui ne s’est jamais demandé, comme les philosophes de l’Antiquité, ce qu’est l’amour vrai ? Cette dimension du vrai est profondément culturelle, et elle en vient à teinter tout savoir qui se veut empirique, dont celui de la médecine. En effet, la vraie dépression, en 2023, est celle qui correspond aux critères proposés par le manuel américain des troubles mentaux (le DSM). Cela est, de l’aveu d’à peu près tous et toutes, pour le moins réducteur.
Vérité empirique et vérité culturelle
À partir du XVIIe siècle en Occident, l’invention d’instruments de mesure a élargi la portée des sens humains, et favorisé ainsi l’essor de l’observation empirique comme fondement du vrai. L’histoire de Galilée est devenue un mythe, l’exemple idéal d’un savoir intemporel constitué empiriquement qui se heurte à ce que la culture d’une époque et d’un lieu donnés accepte comme vrai. Cette tension entre vérité empirique et vérité culturelle me semble primordiale lorsque vient le temps de déterminer ce qui est vrai actuellement.
Je ne suis pas philosophe ni historien. Je crains d’avoir proposé un préambule simpliste.
Au sujet de l’IA, ceci me semble néanmoins indéniable : elle sera bientôt en mesure de faire des propositions par-delà le vrai empirique et par-delà le vrai culturel. Aussi bien dire par-delà le vrai et le faux !
Dans tous les domaines, elle produira en oracle des idées étonnantes et d’une grande utilité, qui n’auront rien à voir avec les sens humains, déborderont l’entendement. Sans pouvoir être considérées comme vraies ou fausses, ces idées auront un impact profond sur la vie humaine. Les innovations technologiques ne seront plus basées sur la science telle que nous la connaissons, celle qui s’enseigne et s’apprend. Les idées ne viendront plus de la raison.
Ce qui est en jeu, c’est la possibilité pour les êtres humains d’établir avec leur monde un rapport régi par la pensée.
Afin de limiter les dégâts, je ferais un pas de plus que les autrices et auteurs de la pétition et proposerais que les mécanismes de l’intelligence artificielle deviennent la propriété commune de l’humanité entière. Un monopole privé de la production d’idées et de pensées est à nos portes.
1. Lisez l’article de Karim Benessaieh Qu'en pensez-vous? Exprimez votre opinion