La Presse à Washington ChatGPT fait peur aux chercheurs

Notre journaliste assiste à Washington à la réunion annuelle de l’Association américaine pour l’avancement des sciences, la plus grande rencontre de science généraliste au monde.

(Washington) Un débat déchire le monde de la recherche : faut-il permettre l’utilisation de logiciels comme ChatGPT pour faciliter la rédaction d’articles scientifiques ? Jeudi lors d’une conférence de presse, le rédacteur en chef de la revue Science, Holden Thorp, a croisé le fer avec la responsable de l’éthique de l’intelligence artificielle (IA) chez IBM, Francesca Rossi.

« Nous avons pris la décision fin janvier d’interdire l’utilisation de ChatGPT pour la rédaction d’études que nous publions, a rappelé M. Thorp. Il y a 20 ans, nous n’avons pas réagi quand Photoshop a permis de modifier des photos de manière réaliste. Résultat, maintenant, nous passons beaucoup de temps à arbitrer entre des chercheurs qui s’accusent de manipulation d’images. Nous avons décidé d’être plus prudents avec l’IA. »

De son côté, M^me Rossi, qui dirige l’Association pour l’avancement de l’intelligence artificielle, a défendu sa décision de permettre aux revues de cette association d’accepter l’utilisation de ChatGPT. « Il vaut mieux que ce soit transparent, a dit M^me Rossi. De toute façon, bientôt ce sera difficile à détecter. Nous avons tracé la limite à l’inclusion de ChatGPT comme coauteur. »

Car Nature révélait fin janvier que quatre études publiées ce mois-là nommaient le logiciel comme coauteur : deux études américaines sur l’utilisation de ChatGPT dans les écoles de médecine et de sciences infirmières, une revue de littérature hongkongaise sur l’utilisation d’un immunosuppresseur pour accroître la longévité humaine, et une étude de neurobiologistes sur la capacité de ChatGPT à écrire sur lui-même.

Sources

Pour le moment, ChatGPT ne permet pas de produire une publication scientifique parce que le logiciel ne donne pas ses sources. Mais Microsoft travaille justement à une version qui les fournira, selon M^me Rossi.

En marge de la conférence de presse, La Presse a demandé à M. Thorp si une version avec sources de ChatGPT pourrait produire la recension de la littérature qui forme généralement la première section d’une étude rapportant des résultats expérimentaux. « Je ne vois pas ce qui l’empêcherait, a répondu M. Thorp. Mais c’est très peu souhaitable, selon moi, parce qu’on ne sait pas quels seront les biais du logiciel. Il importe pour moi que l’humain reste au cœur de la recension de la littérature. »

M. Thorp pense que ChatGPT pourrait aussi se charger des deux dernières sections d’un article scientifique typique, la discussion des résultats et la conclusion résumant les principales leçons des données expérimentales.

« C’est exactement ce pour quoi le logiciel a été conçu, a dit M. Thorp. Mais il faut que l’humain soit celui qui interprète les résultats. »

Accepterait-il qu’un chercheur demande à ChatGPT d’améliorer une publication déjà rédigée ? « Si on ouvre la porte à cela, on n’aura plus aucun contrôle, répond-il. La science est basée sur la confiance [honor system]. Si on se rend compte qu’une personne a utilisé ChatGPT, ce serait un cas de fraude scientifique, comme la manipulation significative d’images par Photoshop. »

Francesca Rossi a quant à elle fait valoir durant la conférence de presse que les chercheurs dont l’anglais n’est pas la langue première pourraient bénéficier de ChatGPT. « Ça pourrait éliminer certaines barrières pour les chercheurs issus de la diversité », a-t-elle dit.

Pour évaluer les capacités de ChatGPT, M. Thorp s’en est servi pour écrire un courriel aux inventeurs du logiciel au sujet de son inquiétude pour la recherche scientifique. « C’est vraiment un outil fantastique », a dit M. Thorp, qui n’a pas obtenu de réponse.

Bananarama

Chose certaine, les revues savantes regorgent d’essais sur la question. Et il y a aussi des études créées avec ChatGPT sans qu’il soit désigné comme coauteur. Par exemple, des professeurs de gestion irlandais ont demandé à ChatGPT de rédiger un projet d’étude empirique sur les cryptomonnaies. ChatGPT a suggéré d’étudier le lien entre l’engouement des investisseurs pour les cryptomonnaies et la performance des marchés boursiers.

L’étude irlandaise, publiée dans les Finance Research Letters, conclut que ChatGPT a des forces et des faiblesses par rapport aux différentes étapes de la recherche scientifique. Elle était intitulée L’hypothèse Bananarama, en l’honneur d’une chanson du groupe féminin des années 1980. Le titre de cette chanson, It Ain’t What You Do (It’s the Way That You Do It), reprise d’un classique du jazz, fait écho au fait qu’un outil peut être utilisé de manière positive ou néfaste selon les circonstances, estiment les auteurs irlandais.