L’e-mail est arrivé un vendredi après-midi, un avis de rétractation pour un article que vous aviez cité quelques semaines auparavant. Votre cœur se serre : quelle part de votre propre travail reposait sur cette recherche désormais discréditée ? Ce sentiment est de plus en plus courant de nos jours ; la marche incessante de l’IA érode les fondements mêmes de la publication scientifique.
Les blessures d’ArXiv : l’avant-garde de la science
Il est presque impossible de surestimer l’importance d’ArXiv, le dépôt scientifique qui, pendant un certain temps, a presque à lui seul justifié l’existence d’Internet. ArXiv (prononcé « archive » ou « Arr-ex-eye-vee » selon à qui vous vous adressez) est un serveur de prépublication où, depuis 1991, les scientifiques et les chercheurs annoncent au reste du monde scientifique : « Hé, je viens d’écrire ceci ». L’évaluation par les pairs avance à un rythme glacial, mais elle est nécessaire. ArXiv nécessite juste un rapide coup d’œil d’un modérateur au lieu d’une évaluation minutieuse, ce qui ajoute une étape intermédiaire facile entre la découverte et l’évaluation par les pairs, où toutes les dernières innovations peuvent – avec prudence – être traitées avec l’urgence qu’elles méritent presque instantanément.
Mais l’essor des outils d’IA facilement disponibles a blessé ArXiv, et il saigne. Et il n’est pas clair si le saignement peut être arrêté. Les vannes sont ouvertes et le rapport signal/bruit chute vertigineusement.
Les prévisions effrayantes de The Atlantic pour le travail universitaire
Le professeur regardait fixement son écran, une ville fantôme numérique où résidaient autrefois ses données méticuleusement élaborées. Comme le note un article récent de The Atlantic, le créateur d’ArXiv et professeur à Cornell, Paul Ginsparg, s’inquiète depuis l’essor de ChatGPT que l’IA puisse être utilisée pour franchir les barrières légères mais nécessaires qui empêchent la publication de déchets sur ArXiv. L’année dernière, Ginsparg a collaboré à une analyse qui a étudié l’IA probable dans les soumissions ArXiv. De manière assez horrifiante, les scientifiques utilisant apparemment des LLM pour générer des articles à la sonorité plausible étaient plus prolifiques que ceux qui n’utilisaient pas l’IA. Le nombre d’articles provenant de personnes publiant des travaux écrits ou augmentés par l’IA était de 33 % supérieur.
L’IA peut être utilisée légitimement, selon l’analyse, pour des choses comme surmonter les barrières linguistiques. Elle poursuit :
« Cependant, les signaux traditionnels de qualité scientifique, tels que la complexité du langage, deviennent des indicateurs de mérite peu fiables, tout comme nous connaissons une recrudescence de la quantité de travail scientifique. À mesure que les systèmes d’IA progressent, ils remettront en question nos hypothèses fondamentales sur la qualité de la recherche, la communication savante et la nature du travail intellectuel. »
Les outils d’IA peuvent-ils être utilisés légitimement dans la recherche universitaire ?
La réponse simple est : oui, mais avec une extrême prudence. La capacité de l’IA à traduire des langues et à aider à l’analyse des données offre de réels avantages. Le problème se pose lorsque l’IA devient un raccourci pour la pensée critique et la recherche originale, plutôt qu’un outil pour l’améliorer. La frontière entre l’assistance et la malhonnêteté académique devient de plus en plus floue, nécessitant un nouvel accent sur les directives éthiques et l’utilisation responsable de l’IA au sein de la communauté scientifique.
La débâcle de Bucher : un conte édifiant sur la dépendance à l’IA
Ce n’est pas seulement ArXiv. C’est une période difficile dans l’ensemble pour la fiabilité de l’érudition en général. Un étonnant auto-sabotage publié la semaine dernière dans Nature décrivait la mésaventure de l’IA d’un scientifique travaillant en Allemagne, Marcel Bucher, qui utilisait ChatGPT pour générer des e-mails, des informations sur les cours, des conférences et des tests. Comme si cela ne suffisait pas, ChatGPT l’aidait également à analyser les réponses des étudiants et était intégré dans les parties interactives de son enseignement. Puis, un jour, Bucher a essayé de désactiver « temporairement » ce qu’il appelait l’option de « consentement aux données », et lorsque ChatGPT a soudainement supprimé toutes les informations qu’il stockait exclusivement dans l’application – c’est-à-dire : sur les serveurs d’OpenAI – il s’est plaint dans les pages de Nature que « deux années de travail universitaire soigneusement structuré ont disparu ». Le prix de la commodité, payé en données froides et dures.
La paresse généralisée induite par l’IA exposée dans le domaine même où la rigueur et l’attention aux détails sont attendues et supposées est désespérante. Il était prudent de supposer qu’il y avait un problème lorsque le nombre de publications a augmenté juste quelques mois après la sortie de ChatGPT, mais maintenant, comme le souligne The Atlantic, nous commençons à obtenir les détails sur la substance et l’ampleur réelles de ce problème – pas tellement les individus de type Bucher, dopés à l’IA, qui ressentent l’anxiété de publier ou de périr et qui se dépêchent de sortir un faux article rapide, mais la fraude à l’échelle industrielle. L’intégrité du travail universitaire, autrefois une forteresse, ressemble désormais davantage à un château de sable à marée haute.
Comment l’essor de l’IA a-t-il eu un impact sur le volume des publications scientifiques ?
Les chiffres ne mentent pas : il y a eu une augmentation notable des publications depuis l’avènement des outils d’IA accessibles comme ChatGPT. Cette augmentation n’est pas nécessairement indicative de plus de découvertes scientifiques. Au lieu de cela, elle laisse entendre la facilité avec laquelle l’IA peut générer du contenu, quelle que soit son exactitude ou son originalité. Le défi consiste maintenant à discerner les contributions authentiques du bruit généré par l’IA, ce qui exige une réévaluation critique de la façon dont nous évaluons le travail scientifique.
Le casse-tête de la recherche sur le cancer : fraude à l’échelle industrielle
Considérez les implications. Dans la recherche sur le cancer, les mauvais acteurs peuvent inciter à la production d’articles ennuyeux qui prétendent documenter « les interactions entre une cellule tumorale et une seule protéine parmi les milliers qui existent », note The Atlantic. Si l’article prétend être révolutionnaire, il suscitera la méfiance, ce qui signifie que l’astuce est plus susceptible d’être remarquée, mais si la fausse conclusion de la fausse expérience sur le cancer est banale, cette bouillie sera beaucoup plus susceptible d’être publiée – même dans une publication crédible. D’autant mieux si elle est accompagnée d’images générées par l’IA de taches d’électrophorèse sur gel qui sont également ennuyeuses mais ajoutent une plausibilité supplémentaire au premier coup d’œil.
Le paysage scientifique commence à ressembler à un palais des glaces, où distinguer la vérité de la fabrication devient un exercice vertigineux.
En bref, un flot de bouillie est arrivé dans la science, et tout le monde doit devenir moins paresseux, des universitaires occupés à planifier leurs cours aux évaluateurs par les pairs et aux modérateurs d’ArXiv. Sinon, les dépôts de connaissances qui étaient autrefois parmi les rares sources d’informations dignes de confiance sont sur le point d’être submergés par la maladie qui les a déjà – peut-être irrévocablement – infectés. La question maintenant est de savoir si la quête du savoir sera à jamais entachée par cette ère de la contrefaçon assistée par l’IA, ou si nous pouvons reconquérir les valeurs de rigueur et de vérité ?
Soutenez notre effort ❤️
Si vous avez apprécié cet article, pensez à laisser un pourboire pour nous aider à continuer à publier du contenu de qualité.
