Entre la depredación y la desnaturalización: la edición científica a prueba de la IA
- Cet article est une traduction de :
- Entre prédation et désincarnation, l'édition scientifique à l'épreuve de l'IA
- Autre(s) traduction(s) de cet article :
- Between predation and disembodiment, scientific publishing to the test of AI
- 人工智能对科学出版的挑战:捕食与脱离实际情境之间
- Μεταξύ αρπαγής και 'αποενσωμάτωσης', η επιστημονική έκδοση απέναντι στην πρόκληση της τεχνητής νοημοσύνης
Notes de la rédaction
Reconocemos el apoyo de ChatGPT-4 por su asistencia en la traducción de este editorial. Si bien las contribuciones intelectuales y los desarrollos conceptuales son enteramente de los autores, el papel de ChatGPT en el trabajo de traducción es debidamente reconocido. Texto verificado por Emilie Lavie.
Texte intégral
1A punto de clausurarse en París la Cumbre de Acción sobre Inteligencia Artificial, resulta crucial examinar los cambios que la IA, y más concretamente la inteligencia artificial generativa, puede introducir en las prácticas de intercambio de conocimientos, la escritura científica y la revisión por pares.
2Los robots conversacionales son extremadamente accesibles y, en su mayoría, gratuitos para todos los ciudadanos. Para los investigadores, ofrecen numerosas ventajas, como asistencia en la redacción, generación de resúmenes y síntesis, traducción y procesamiento de datos. Sin embargo, su funcionamiento no debe pasarse por alto ni subestimarse. El término «inteligencia» puede resultar engañoso en este contexto. En realidad, se trata de algoritmos que, respaldados por una enorme capacidad de cálculo, superan sin duda la inteligencia humana en términos de volumen de datos procesados y velocidad. No obstante, sus respuestas no se basan en un análisis cualitativo de las fuentes, sino en un cálculo probabilístico de asociaciones. Al operar mediante una arquitectura de red neuronal, los modelos de IA generativa no reconocen el valor intrínseco, la veracidad o la significación semántica de los contenidos. Además, dado que no pueden identificar con certeza la base de conocimientos con la que han sido entrenados, ninguna información generada por estos sistemas puede validarse científicamente. Por ello, es responsabilidad del investigador, ya sea autor o evaluador, verificar rigurosamente cada contenido, incluidas las referencias bibliográficas generadas, que en ocasiones pueden ser falsas.
- 1 Van Noorden R., 2023, "More than 10,000 research papers were retracted in 2023 — a new record", Nat (...)
3En 2023, se retiraron más de 10 000 artículos de revistas científicas publicadas por editores de renombre, un fenómeno que, según los expertos, representa solo «la punta del iceberg»1. Aunque estos artículos superaron la fase de revisión, se descubrió posteriormente que algunos habían sido generados con asistencia de IA sin respetar las normas éticas, mientras que otros provenían de «fábricas de artículos» en revistas depredadoras. Estas últimas han inundado la comunicación científica con decenas de miles de publicaciones, aprovechando el acceso abierto. Y, a pesar de su retirada, las referencias y citas de estos artículos siguen circulando en la web, apareciendo en otros trabajos, en las respuestas de robots conversacionales e incluso en motores de búsqueda a priori reconocidos como Google Scholar.
4Para algunos evaluadores sin escrúpulos, copiar y pegar los textos que revisan en un chatbot para generar informes de evaluación resulta una opción tentadora. Sin embargo, estos informes carecen de sustancia y validez científica, pudiendo conducir a la aceptación de publicaciones sin el debido rigor. Este problema abre otra caja de Pandora: es muy probable que los contenidos depositados en un chatbot sean memorizados por el sistema y luego reutilizados en futuras generaciones de respuestas, perpetuando así errores y sesgos.
- 2 Guillaume Cabanac et Cyril Labbé : unis contre la fraude scientifique | CNRS Sciences informatiques (...)
5Como toda la edición científica, Cybergeo se enfrenta a estos desafíos tecnológicos. No obstante, la revista apuesta por la inteligencia humana y la ética científica para garantizar la calidad y validez de los artículos que publica. Todos los autores y evaluadores se comprometen a respetar su código ético y las instrucciones para los autores. Aunque Cybergeo no excluye el uso de la IA, exige que los autores indiquen al inicio de su texto, si procede, la naturaleza de la asistencia recibida y certifiquen que han verificado tanto los resultados proporcionados como sus referencias bibliográficas. No cumplir con esta exigencia puede considerarse plagio y llevar a la retirada del artículo. Por su parte, los evaluadores deben examinar meticulosamente los contenidos, datos y referencias, señalando cualquier incoherencia. Además, el uso de IA está estrictamente prohibido en la redacción de informes de evaluación, al menos hasta que se disponga de una herramienta de detección fiable2 que no memorice por defecto los contenidos analizados.
6En un editorial anterior, se presentó el proyecto CybergeoNetworks² como un ejemplo innovador de uso de la IA al servicio de la edición científica. Sin duda, en el futuro la revista podrá apoyar muchas otras iniciativas que demuestren el enorme potencial creativo de esta herramienta, siempre que se utilice en el marco de una investigación rigurosa y bien fundamentada.
Notes
1 Van Noorden R., 2023, "More than 10,000 research papers were retracted in 2023 — a new record", Nature, Vol.624, N°7992, 479‑481. https://www.nature.com/articles/d41586-023-03974-8
2 Guillaume Cabanac et Cyril Labbé : unis contre la fraude scientifique | CNRS Sciences informatiques, avril 2024.
Haut de pagePour citer cet article
Référence électronique
Christine Kosmopoulos, « Entre la depredación y la desnaturalización: la edición científica a prueba de la IA », Cybergeo: European Journal of Geography [En ligne], Éditoriaux, mis en ligne le 13 février 2025, consulté le 19 avril 2025. URL : http://journals.openedition.org/cybergeo/41707
Haut de pageDroits d’auteur
Le texte seul est utilisable sous licence CC BY 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Haut de page