La inteligencia artificial está transformando la ciencia, pero no siempre para bien. Un creciente número de estudios advierte que los artículos generados por IA están inundando la literatura científica, poniendo en jaque los sistemas de control de calidad. ¿Qué tan grave es el problema?
El auge de la IA en la ciencia
Desde la llegada de ChatGPT en noviembre de 2022, el uso de modelos de lenguaje grandes (LLM) se ha disparado en la redacción de manuscritos científicos. Un estudio publicado en la revista Organization Science analizó casi 7,000 resúmenes y 8,000 informes de revisión por pares entre 2021 y 2026. Los resultados son contundentes: las presentaciones con más del 70% de texto generado por IA se duplicaron entre principios de 2024 y febrero de 2025, y más del 30% de las revisiones por pares contenían algo de texto generado por IA.
Una carrera armamentista
“El suelo se está moviendo bajo nuestros pies de maneras para las que no estamos preparados”, advierte Maria Antoniak, científica computacional de la Universidad de Colorado Boulder. Por su parte, Richard She, biólogo de células madre en la Universidad Tecnológica de Nanyang, Singapur, describe la situación como “una carrera armamentista en escalada” entre quienes usan la IA sin escrúpulos y quienes intentan detectarla.
Herramientas de detección al límite
Detectar contenido generado por IA no es tarea fácil. Las herramientas disponibles a menudo no distinguen entre texto editado por IA y texto completamente generado por ella. Además, pueden marcar falsamente texto humano como generado por IA. Aun así, ofrecen pistas sobre las tendencias. En un preprint de enero de 2025, Antoniak y su colega analizaron más de 124,000 manuscritos en arXiv. Encontraron que, en ciencias de la computación, los preprints de revisión con texto generado por IA aumentaron del 7% en 2023 al 43% en 2025. Los manuscritos que no eran de revisión también crecieron del 3% al 23% en el mismo período.
Las primeras gotas de una tormenta
She analizó 5,000 artículos biomédicos publicados en revistas como Science, Nature y Cell. Seis fueron señalados como completamente escritos por IA, pero uno de cada ocho contenía algo de texto generado por IA. “Estamos al principio de esta nueva era. Lo que vemos son las primeras gotas de una tormenta que se avecina”, afirma.
Riesgos para la integridad científica
El temor es que la investigación de baja calidad o completamente fabricada por LLM pueda saturar los sistemas de control de calidad y contaminar el canon científico. Aunque la IA tiene usos legítimos, su uso indebido amenaza la credibilidad de la ciencia. La comunidad investigadora debe actuar rápido para desarrollar mejores herramientas de detección y establecer normas éticas claras.
Otros artículos relacionados:
