Le diagramme conçu par une IA semble avoir du sens à première vue. Mais ensuite? | Graphique: Guo, Dong and Hao

«Pour sûr, voici une introduction possible sur ce thème.» Cette phrase innocente, formulée en anglais, a déclenché une tempête de réactions outrées dans le monde scientifique. Apparue au début d’un article, dans un journal d’Elsevier, elle est typique de ChatGPT, une intelligence artificielle très souvent utilisée pour la rédaction de textes. Cela ne serait pas un problème en soi, mais les auteurs n’ont pas déclaré la collaboration de la machine intelligente, et Elsevier n’a apparemment pas remarqué la tournure laissée involontairement pendant le processus de révision.

Ce n’est que le chien de garde des publications Retraction Watch qui s’est rendu compte de la gaffe. Si l’anecdote peut paraître amusante, des cas similaires se produisent désormais fréquemment. Les cas connus ne sont probablement que la pointe de l’iceberg, comme l’explique la microbiologiste Elisabeth Bik, experte en falsification d’images, dans un article paru sur Swissinfo. Et un exemple plus déconcertant encore lui donne raison: dans un journal en libre accès de Frontiers, un article montre des photos d’un rat avec des parties génitales démesurées, anatomiquement absurdes, générées par l’IA.

Les scientifiques doivent confirmer être responsables du contenu généré par l’IA.

Il est donc grand temps d’établir des règles claires pour l’utilisation de l’IA dans les publications scientifiques. Une tentative vient par exemple du réseau Jama pour la recherche médicale. Il donne des directives claires pour l’utilisation de l’IA lors de la rédaction de manuscrits et dans le travail de recherche. L’important est avant tout la transparence, c’est-à-dire qu’il faut annoncer quel outil intelligent a été utilisé, à quel endroit et dans quel but.

Les scientifiques doivent de plus confirmer être responsables du contenu généré par l’IA. Dans un communiqué récent, le Fonds national suisse a également précisé que «les scientifiques qui utilisent l’IA pour leur travail assument l’entière responsabilité des résultats obtenus». C’est également valable pour le contenu des requêtes de recherche.

CC BY-NC-ND