Por Angel Di Matteo   𝕏 @shadowargel

Un estudio detectó miles de referencias falsas dentro de investigaciones biomédicas, mientras expertos advierten que las alucinaciones de inteligencia artificial están infiltrándose silenciosamente en medicina, derecho y periodismo.

***

  • Investigadores hallaron más de 4.000 referencias falsas en papers biomédicos.
  • El problema se disparó tras la adopción masiva de herramientas de IA.
  • Expertos advierten riesgos directos para medicina, ciencia y sistemas legales.

 

Gil Topaz, profesor asociado de la Escuela de Enfermería de Columbia University, estaba acostumbrado a utilizar herramientas de inteligencia artificial para corregir gramática, formato y detalles técnicos en sus investigaciones científicas. Sin embargo, hace algunas semanas recibió una alerta inesperada por parte de una revista académica a la que había enviado uno de sus trabajos, según reseña un reportaje hecho por Fortune.

Los editores encontraron un problema con una de las referencias citadas en el paper. La fuente simplemente no existía. La herramienta de IA utilizada por Topaz había insertado silenciosamente una referencia completamente fabricada dentro del documento, sin advertencia alguna.

“Me sentí profundamente avergonzado… Soy investigador en IA. Sé perfectamente lo que son las alucinaciones. Si esto me está pasando a mí, que soy experto en inteligencia artificial, ¿qué le está ocurriendo al resto de las personas?” confesó Topaz en declaraciones a Fortune.

La IA está inventando referencias científicas a gran escala

El incidente llevó a Topaz y a su equipo a investigar cuán extendido se había vuelto este fenómeno dentro de la literatura científica. Los resultados fueron alarmantes.

En un estudio publicado recientemente en The Lancet, los investigadores analizaron cerca de 2,5 millones de papers biomédicos y aproximadamente 97 millones de citas indexadas en PubMed Central, una de las principales bases de datos utilizadas por médicos, investigadores y profesionales de la salud alrededor del mundo.

El equipo encontró más de 4.000 referencias falsas distribuidas en casi 3.000 investigaciones distintas. Aunque no todas las referencias fraudulentas fueron necesariamente generadas por IA, Topaz explicó que el crecimiento del problema se volvió prácticamente “vertical” durante 2024, coincidiendo con la expansión masiva de herramientas de inteligencia artificial dentro de procesos de investigación académica.

“Es muy razonable asumir que la IA ahora está altamente asociada con esto”, afirmó.

El problema se está acelerando rápidamente

La velocidad del crecimiento preocupa especialmente a investigadores y académicos. Según el estudio, en apenas tres años la presencia de referencias falsas dentro de literatura biomédica aumentó más de doce veces.

En 2023, aproximadamente uno de cada 2.828 papers contenía al menos una referencia inexistente. Para 2025, la cifra ya había escalado a uno de cada 458 trabajos científicos. Durante las primeras siete semanas de 2026, los investigadores encontraron que uno de cada 277 artículos ya incluía al menos una fuente completamente falsa.

“Creo que esto es apenas la punta del iceberg”, advirtió Topaz.

El fenómeno ocurre debido a lo que se conoce como “alucinaciones” de IA: momentos en los que modelos generativos priorizan patrones lingüísticos plausibles por encima de precisión factual. Aunque en muchos contextos estas fallas pueden parecer relativamente inofensivas, dentro del ámbito científico el riesgo es considerablemente mayor.

Un error pequeño puede contaminar toda la cadena científica

La medicina moderna funciona como una enorme cadena acumulativa de evidencia. Los ensayos clínicos citan investigaciones previas; posteriormente, revisiones sistemáticas consolidan esos ensayos; finalmente, las guías médicas utilizan esas revisiones para definir tratamientos aplicados por médicos y hospitales.

El problema es que una referencia falsa introducida al inicio de esa cadena puede terminar propagándose hacia múltiples niveles del sistema científico.

“Esa es la cadena de evidencia. Así es como tratamos y cuidamos personas”, explicó Topaz. “Si introduces un estudio ficticio en la base de la estructura, todo el sistema termina heredándolo.”

El investigador agregó que ya existen casos documentados donde papers fraudulentos producidos por “paper mills” terminaron siendo incluidos en revisiones sistemáticas utilizadas posteriormente para definir recomendaciones clínicas reales.

“Cuando un paper de guías médicas cita investigaciones con referencias parcialmente ficticias, toda la cadena de decisiones médicas basadas en evidencia queda comprometida”, sostuvo.

Las alucinaciones ya afectan a expertos en múltiples industrias

El problema ya no se limita únicamente a estudiantes o usuarios inexpertos. Topaz sostiene que incluso profesionales altamente capacitados están siendo engañados por herramientas de IA debido al enorme nivel de sofisticación alcanzado por estos sistemas.

Uno de los ejemplos recientes más notorios involucra al autor y documentalista Steven Rosenbaum, quien quedó en el centro de una polémica después de que The New York Times identificara múltiples citas falsas e incorrectamente atribuidas dentro de su nuevo libro The Future of Truth: How AI Reshapes Reality.

El libro incluía comentarios promocionales de reconocidos periodistas y hasta un prólogo escrito por Maria Ressa, premio Nobel de la Paz. Sin embargo, posteriormente se descubrió que contenía varias citas inexistentes aparentemente generadas por herramientas de IA utilizadas durante el proceso de investigación.

Rosenbaum terminó reconociendo públicamente los errores, describiendo el episodio como “una advertencia sobre los riesgos de la investigación asistida por IA”.

Medicina, derecho y periodismo ya enfrentan el problema

La expansión masiva de herramientas de IA dentro de trabajos profesionales está acelerando este tipo de incidentes. Diversos medios periodísticos —incluyendo Fortune— ya experimentan con herramientas de IA en procesos de redacción e investigación.

Estudios recientes sugieren además que más de la mitad de los profesionales legales utilizan inteligencia artificial para redactar informes y documentos jurídicos. En medicina, un reporte de la American Medical Association reveló que más del 80% de los médicos ya utiliza IA profesionalmente para resumir investigaciones y generar documentación clínica, una cifra que se duplicó desde 2023.

Incluso premios Nobel reconocen usar inteligencia artificial dentro de sus procesos creativos y profesionales. Pero mientras aumenta la adopción, también crece el número de errores. El analista legal Damien Charlotin mantiene actualmente una base de datos con más de 1.459 decisiones judiciales que contienen contenido incorrecto generado por IA.

Hace apenas un año, los casos aparecían dos o tres veces al mes. Hoy, según explica, ya surgen alrededor de cinco nuevos incidentes diarios.

El sistema académico podría no estar preparado

Otro problema importante es que muchas revistas científicas aún no cuentan con mecanismos sólidos para detectar referencias falsas o contenido generado por IA. Los sistemas de verificación varían enormemente entre publicaciones académicas.

Algunas utilizan software especializado para revisar citas y detectar texto generado artificialmente, mientras otras apenas cuentan con controles mínimos. Topaz señaló además que actualmente no existe un mecanismo eficiente para rastrear retrospectivamente toda la cadena de evidencia científica y detectar referencias fraudulentas ya propagadas.

Su estudio encontró que el 98,4% de los trabajos que contenían referencias falsas seguían publicados y no habían sido retractados al momento del análisis.

La situación se suma a lo que muchos investigadores ya describen como una “crisis de reproducibilidad” dentro de la ciencia moderna, ahora agravada por una ola creciente de contenido generado por IA cuya confiabilidad resulta difícil de verificar.

La IA no es el enemigo, pero necesita supervisión

A pesar de las advertencias, Topaz insiste en que la solución no consiste en abandonar la inteligencia artificial. El investigador afirma que él mismo continúa utilizando herramientas de IA regularmente dentro de su trabajo profesional.

“El problema no es la IA… es permitir que resultados no verificados entren al registro permanente… La solución no es dejar de usar estas herramientas. La solución es incorporar verificación dentro del proceso”, sostuvo.

Y concluyó con una advertencia directa: “Cuanto más tiempo tardemos en implementar mecanismos de verificación, más difícil será limpiar el problema después.”

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados