Navigation – Plan du site

AccueilVie ScientifiqueÉditoriauxEntre prédation et désincarnation...

Texte intégral

1Au moment où le sommet pour l'action sur l'intelligence artificielle s'achève à Paris, il est important d’examiner quels changements l’IA, et plus particulièrement l'intelligence artificielle générative, risque d’introduire dans les pratiques de partage des connaissances, d'écriture scientifique et de validation par les pairs.

2D'utilisation extrêmement simple, les robots conversationnels sont, pour une majorité, accessibles gratuitement à l'ensemble des citoyens. Pour les chercheurs, ils présentent de nombreux avantages comme l'assistance rédactionnelle, la génération de résumés et de synthèses, la traduction, le traitement des données etc. Toutefois, on ne saurait méconnaître ou oublier leur fonctionnement. Le terme "intelligence" est en l'occurrence trompeur. Nous avons affaire à des algorithmes associés à des puissances de calcul qui dépassent, certes, l'intelligence humaine en termes de volume des données traitées et de rapidité, mais leurs réponses résultent d'un calcul de probabilités d’association et non d'une analyse qualitative des sources. Basé sur une architecture de réseau de neurones, le modèle d'IA générative ne reconnaît pas la valeur intrinsèque, vraie ou fausse, ni la signification sémantique des contenus. En outre, faute de pouvoir identifier la base de connaissances avec laquelle le modèle a été entraîné, aucune information générée ne peut être validée scientifiquement. C’est au scientifique, auteur ou évaluateur, que revient le devoir de tout vérifier, y compris la véracité des références bibliographiques générées, qui sont parfois apocryphes.

  • 1 Van Noorden R., 2023, "More than 10,000 research papers were retracted in 2023 — a new record", Nat (...)

3En 2023, le retrait de plus de 10 000 articles de revues publiées par de célèbres éditeurs scientifiques n'est selon les experts que la "partie émergée de l'iceberg"1. Ces articles avaient passé avec succès l’étape du reviewing, mais il s’est avéré qu’une partie d’entre eux avaient été générés avec l'assistance de l'IA au mépris des règles éthiques et qu’une autre partie avaient été produits dans des « usines à articles » issues de revues prédatrices. Ces revues prédatrices ont inondé par dizaine de milliers la communication scientifique à la faveur de l'accès ouvert. Et malgré les rétractions des articles, les références et les citations restent présentes sur le web, dans d'autres articles, dans les résultats des robots conversationnels… et même dans des moteurs de recherche a priori sérieux comme Google Scholar.

4Pour des évaluateurs peu scrupuleux, il est pratique de copier-coller les textes qu'ils ont en lecture et d'utiliser les robots pour rédiger à leur place des rapports d'évaluation. Ces rapports sont totalement désincarnés, n’ont aucune validité scientifique, mais peuvent conduire à une acceptation de publication. Une autre boite de Pandore s'ouvre là encore puisque qu'il est très probable que les contenus déposés dans le chat conversationnel sont à leur tour mémorisés dans la base de connaissances du robot et peuvent ainsi être restitués dans de nouvelles générations de contenus…

5Exposée comme toute l'édition scientifique à ces secousses technologiques, Cybergeo opte pour la confiance en l'intelligence humaine et dans la déontologie du scientifique afin de garantir la rigueur et la validité des articles qu'elle publie. Tous les publiants et évaluateurs s'engagent à respecter sa charte éthique et ses instructions aux auteurs. Elle n'exclut pas l'usage de l'IA, mais demande aux auteurs d'indiquer au début de leur texte, s'il y a lieu, la nature de l'assistance par IA et de certifier qu'ils ont vérifié tous les résultats fournis ainsi que leurs références bibliographiques. Ne pas le reconnaître peut être considéré comme du plagiat et conduire au retrait de l'article. Les évaluateurs sont quant à eux invités à regarder de près les contenus, les données et les références bibliographiques et à signaler toute incohérence. L'utilisation de l'IA est par ailleurs fermement prohibée pour les rapports d'évaluation, en attendant la sortie d'un outil de détection fiable2 et qui ne mémorise pas par défaut les contenus qu'on y dépose.

6Dans un précédent éditorial, le projet CybergeoNetworks2 a été présenté comme un usage original de l’IA au service de l’édition scientifique. Nul doute que la revue puisse accueillir à l’avenir bien d’autres réalisations démontrant toute la richesse créative que cet outil nouveau peut apporter à des recherches bien conduites.

Haut de page

Notes

1 Van Noorden R., 2023, "More than 10,000 research papers were retracted in 2023 — a new record", Nature, Vol.624, N°7992, 479481. https://www.nature.com/articles/d41586-023-03974-8

2 Guillaume Cabanac et Cyril Labbé : unis contre la fraude scientifique | CNRS Sciences informatiques, avril 2024.

Haut de page

Pour citer cet article

Référence électronique

Christine Kosmopoulos, « Entre prédation et désincarnation, l'édition scientifique à l'épreuve de l'IA », Cybergeo: European Journal of Geography [En ligne], Éditoriaux, mis en ligne le 13 février 2025, consulté le 25 mars 2025. URL : http://journals.openedition.org/cybergeo/41699

Haut de page

Auteur

Christine Kosmopoulos

Articles du même auteur

Haut de page

Droits d’auteur

CC-BY-4.0

Le texte seul est utilisable sous licence CC BY 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search