La inteligencia artificial generativa se ha colado en todos los rincones de la producción académica, y con ella un problema que pone en jaque la credibilidad de la literatura científica: las citas bibliográficas inventadas. La revista Nature reportó recientemente que el servidor de preprints arXiv está tomando cartas en el asunto y ha comenzado a prohibir la publicación de artículos que contengan referencias alucinadas por herramientas de inteligencia artificial.
El fenómeno no es menor. Las llamadas “alucinaciones” de la IA ocurren cuando un modelo de lenguaje genera información falsa pero plausible, como referencias a estudios que nunca existieron o atribuciones erróneas a autores reales. En el ámbito científico, donde cada cita es una cadena de confianza que sostiene el edificio del conocimiento, este tipo de errores puede tener consecuencias graves.
arXiv toma medidas drásticas
Según lo publicado por Nature, arXiv ha decidido actuar con mano firme: los manuscritos que incluyan referencias fabricadas por IA serán rechazados. La política busca salvaguardar la integridad del repositorio, que se ha convertido en una pieza central para la difusión rápida de investigaciones en física, matemáticas, ciencias de la computación y otras disciplinas.
La decisión no es aislada. Refleja una preocupación creciente en la comunidad científica sobre el uso indiscriminado de asistentes de escritura basados en IA. Muchos investigadores utilizan estas herramientas para redactar secciones completas, incluida la revisión de literatura, sin verificar adecuadamente cada referencia. El resultado son bibliografías que parecen impecables pero que contienen citas fantasma.
El debate: ¿misconducta o simple error?
La pregunta que divide a los expertos es si incluir citas alucinadas por IA debe considerarse una falta grave a la integridad científica, es decir, una “misconducta” en el sentido formal, o si se trata de un descuido equiparable a un error tipográfico. Nature también ha recogido este debate en sus páginas, donde científicos de diversas áreas exponen posturas encontradas.
Por un lado, están quienes argumentan que la fabricación de referencias es una forma de falsificación de datos. Después de todo, una cita inventada no es un simple error de formato: es la creación deliberada o negligente de una fuente inexistente para respaldar una afirmación. En un entorno donde la reputación se construye sobre la confianza, permitir que esto pase sin consecuencias podría erosionar los cimientos de la comunicación científica.
Por otro lado, hay quienes señalan que la IA es una herramienta nueva y que los investigadores aún están aprendiendo a usarla de manera responsable. Comparan las citas alucinadas con los errores de citación tradicionales, como confundir el año de publicación o el nombre de un autor. La diferencia clave, sin embargo, es la escala: un modelo de lenguaje puede generar docenas de referencias falsas en segundos, y si no se detectan, pueden propagarse a través de revisiones posteriores.
El papel de las editoriales y los repositorios
Más allá de arXiv, las grandes editoriales científicas están desarrollando políticas para detectar y manejar el contenido generado por IA. Algunas revistas ya exigen declaraciones explícitas sobre el uso de estas herramientas en la elaboración de manuscritos. Otras han implementado software de detección, aunque su eficacia es motivo de controversia.
El caso de arXiv es particularmente sensible porque se trata de un repositorio de preprints, es decir, versiones preliminares de artículos que no han pasado por una revisión por pares formal. La velocidad de publicación es su principal atractivo, pero también lo convierte en un blanco fácil para contenido de baja calidad o generado automáticamente. La nueva política de prohibición busca enviar un mensaje claro: la responsabilidad final recae en los autores.
¿Cómo detectar una cita alucinada?
Para los lectores y revisores, identificar referencias inventadas puede ser complicado. Algunas señales de alerta incluyen:
- Referencias a artículos que no aparecen en las bases de datos habituales (PubMed, Scopus, Web of Science, Google Scholar).
- Autores que no han publicado sobre el tema o cuyos nombres están mal escritos.
- Combinaciones extrañas de revistas, volúmenes y números de página.
- DOI que no resuelven o que llevan a páginas inexistentes.
- Citas de trabajos muy recientes o muy antiguos que no encajan con el resto de la bibliografía.
La verificación manual sigue siendo la herramienta más confiable, aunque consume tiempo. Por eso, algunos desarrolladores están creando herramientas automáticas que contrastan las referencias con bases de datos reales y marcan las discrepancias. Sin embargo, ninguna solución es infalible.
Implicaciones para la formación de nuevos investigadores
El uso de IA en la academia también plantea un desafío pedagógico. Los estudiantes y jóvenes investigadores aprenden a citar correctamente como parte de su formación ética. Si las herramientas de IA facilitan atajos, existe el riesgo de que se pierda esa conciencia sobre la importancia de la trazabilidad de las fuentes.
Varias universidades han comenzado a incluir en sus programas de integridad académica módulos sobre el uso responsable de IA. La recomendación general es clara: la IA puede ser una asistente útil para redactar, resumir o generar ideas, pero nunca debe sustituir la verificación humana de las fuentes. Cada cita debe ser confirmada por el autor antes de enviar un manuscrito.
El futuro de la publicación científica
La decisión de arXiv podría ser el primer paso de una tendencia más amplia. Es probable que otras plataformas sigan su ejemplo y establezcan reglas estrictas sobre el contenido generado por IA. Al mismo tiempo, la tecnología seguirá evolucionando, y los modelos de lenguaje serán cada vez más sofisticados, lo que hará más difícil distinguir entre una cita real y una alucinada.
En última instancia, el debate sobre si las citas alucinadas constituyen misconducta científica refleja una tensión más profunda: cómo adaptar las normas de la ciencia a un mundo donde las máquinas participan activamente en la producción de conocimiento. La respuesta no será sencilla, pero pasa por reforzar la responsabilidad individual de los autores y por desarrollar mecanismos de verificación robustos.
Mientras tanto, la comunidad científica observa con atención. Lo que está claro es que la integridad de la literatura científica está en juego, y las decisiones que se tomen ahora marcarán el rumbo para las próximas décadas.