La inteligencia artificial aún no está en la capacidad de generar conocimiento científico nuevo… aunque sí puede falsearlo. Si bien el deseo de conocer, experimentar y conjeturar es propiamente humano, la alucinación es algo que compartimos con los algoritmos. Y esto es un problema para la ciencia. En los últimos meses, cada vez más investigaciones han detectado abundantes referencias bibliográficas en publicaciones científicas fabricadas por IA.
Las alucinaciones de la inteligencia artificial son uno de los problemas más habituales de esta tecnología. Se trata de información incorrecta generada por estos sistemas, que incluso pueden ofrecer respuestas realmente disparatadas. Aunque las herramientas de IA poseen cada vez un razonamiento más potente, el defecto persiste y el panorama no parece que vaya a cambiar próximamente.
MIRA: León XIV alerta del daño causado por los ‘chatbots’ en vísperas de su encíclica sobre IA
Para el usuario estándar, los errores de la IA no dejan de ser una incomodidad anecdótica, pero cuando hablamos de material académico o científico, las consecuencias pueden ser muy perjudiciales. Que un modelo entrenado para detectar transacciones bancarias fraudulentas o células cancerígenas se equivoque puede ser garrafal. Y eso es precisamente lo que está ocurriendo en el trabajo de producción científica.
Un reciente estudio publicado en The Lancet revela el vertiginoso auge de las referencias fabricadas. En 2023 aproximadamente, 1 de cada 2.828 artículos contenía al menos una cita falsa. En 2025, la cifra escaló dramáticamente a 1 de cada 458 artículos. Mientras que, en las primeras semanas de 2026, la proporción llegó a 1 de cada 277 artículos (alcanzando 56,9 por cada 10.000 publicaciones), lo que representa un incremento de más de 12 veces en comparación con 2023.
A la misma conclusión llega Nature. La revista utilizó un software avanzado de detección de referencias problemáticas en textos, fabricado por la empresa Grounded AI, para analizar 4.000 artículos de cinco grandes editoriales científicas. Sometieron 100 de los trabajos más sospechosos a una revisión manual y confirmaron que 65 contenían, al menos, una referencia inválida.
De acuerdo con la revista, como estimación general, si esta proporción se extrapola al total de la literatura académica, más de 110.000 de los aproximadamente 7 millones de publicaciones de 2025 podrían contener referencias inválidas.
La IA puede generar referencias bibliográficas inexistentes o incorrectas, un problema que preocupa cada vez más a universidades y revistas científicas. (Imagen creada con IA)
Detectar lo falso en la era de la IA
El Perú no es ajeno a esta situación. “En una de nuestras revistas, Desde el Sur, indexada en Scopus, detectamos un artículo chileno en el que uno de los autores supuestamente citados nos envió una carta advirtiendo que el trabajo [citado] no le pertenecía y que, en realidad, era inventado”, señala a El Comercio Percy Mayta, editor científico y vicerrector de Investigación de la Universidad Científica del Sur. “Por ese motivo, estamos retractando el artículo y eso se hará oficial en los próximos días”, añade.
Mayta explica que el fraude científico siempre ha existido, solo que antes era poco visible y complicado de detectar. Hoy, en cambio, con el uso de la IA generativa, estas prácticas se han incrementado.
“Que hayan existido prácticas fraudulentas en el proceso de generar conocimiento no es novedad. Siempre ha habido grupos o personas que, en realidad, hacen investigación por obligación, sin una buena base de integridad, y evidentemente, por cumplir o producir, inventan cosas”, comenta el académico.
Eso es parte del fraude científico: inventar algo que no tiene ningún asidero. Sin embargo, para el vicerrector de la Universidad Científica del Sur, actualmente “el problema que tenemos es que el avance del uso de la IA es mucho más rápido que nuestra capacidad de detectarla y regularla”.
El especialista explica que el uso de inteligencia artificial en trabajos académicos ya no se detecta solo por pequeños errores o frases extrañas, sino por patrones más complejos y sistemáticos. “Antes, cuando uno revisaba, podía identificar pequeñas variaciones en un título o ciertos detalles. Pero ahora lo estamos viendo de forma sistemática”, señala.
Según detalla, una de las primeras señales fueron las llamadas torturous phrases o “frases tortuosas”, términos o sinónimos sin sentido científico que las IA utilizaban para disfrazar patrones de redacción. Posteriormente aparecieron las llamadas IA “humanizadoras”, herramientas que reformulan textos para hacerlos parecer escritos por personas y evitar su detección.
Sin embargo, el problema actual va más allá del estilo de escritura. “Ahora ya no solo se puede detectar por frases extrañas o patrones de redacción, sino también por el uso de artículos o citas falsificadas o inventadas”, advierte.
El aumento de referencias falsas creadas con inteligencia artificial ya preocupa a revistas científicas y universidades en distintas partes del mundo. (Foto: Unsplash)
Y la situación se vuelve más compleja porque las herramientas que se usan para detectar plagio —como Turnitin— no son tan buenas determinando si un texto fue hecho con IA. “Entonces, uno de los principales indicios de que alguien ha utilizado IA es justamente la detección de referencias alucinadas o citas falsas generadas por inteligencia artificial”, señala Mayta.
No obstante, la producción científica es cada vez mayor y, a veces, poder mantenerse al mismo ritmo no es una tarea sencilla. El experto señala también la asimetría existente entre la adopción de estas tecnologías entre alumnos y docentes.
“Las universidades desarrollamos normativas para prevenir y enseñar cómo usar estas herramientas, pero la IA se actualiza mucho más rápido y los estudiantes la adoptan más rápido que sus docentes. Entonces ahí existe una asimetría”, comenta a este Diario.
“Hoy, en un estudiante —y, de hecho, mientras más jóvenes son, más ocurre— el uso de IA ya forma parte de su día a día. Eso no necesariamente pasa con los profesionales, y menos aún con los de mayor edad”, añade.
Para el especialista, esto obliga a docentes, investigadores y jurados a familiarizarse con el funcionamiento de estas herramientas. “No puedes detectar algo si no sabes cómo funciona. Lo primero es usarla y entenderla”, afirma.
De acuerdo con el académico, el año pasado menos del 30 % de los investigadores de la universidad (Científica del Sur) usaban IA o siquiera conocían estas herramientas. Aunque afirma que la situación se ha revertido y, a la fecha, muchos investigadores están optando por la autocapacitación para comprender cómo operan los sistemas de IA, qué herramientas existen y cuáles son sus principales errores. “Cuando uno es experto en un tema, rápidamente se da cuenta cuando la IA inventa o alucina cosas. Pero cuando uno no conoce bien el tema, lo que escribe parece razonable”, explica.
Y si bien están trabajando en evaluar diferentes herramientas —en base a Claude— para detectar citas alucinadas, mientras no estén listas, el trabajo sigue siendo manual.
“El docente, el asesor, el investigador o el editor todavía tienen que revisar manualmente si las referencias que cita un estudiante en una tesis o artículo realmente existen y corresponden a lo que se está afirmando. El problema es que ese proceso resulta tedioso y demanda mucho tiempo. Pero, por ahora, no queda otra alternativa hasta contar con herramientas más precisas”, dice.
El aumento de referencias inventadas por IA ya ha provocado revisiones y retractaciones de artículos científicos en distintas publicaciones académicas. (Imagen creada con IA)
¿Cuál es el límite del uso de la IA en una investigación?
Mayta explica que la IA generativa “es una herramienta más y el autor siempre es la persona”. Por tanto, lo correcto es que, cuando se utilice en un trabajo académico, de investigación o en una publicación, debe declararse. De hecho, asegura, la mayoría de revistas del mundo ya lo pide, bajo la lógica de que se utiliza. La pregunta es: ¿para qué se usa?
“La IA puede ayudar en muchas partes del proceso de investigación. Puede ayudar a buscar y sistematizar información, a corregir si has escrito bien tus referencias, a revisar una traducción, o incluso puedes pedirle que revise el texto y te diga si hay cosas incoherentes o que faltan”, argumenta.
Según el editor científico, el problema llega cuando se le pide a la IA que haga el trabajo, ya que muchas veces, como no ha sido entrenada o no tiene toda la información necesaria, suele inventar cosas.
“Ahí aparece el problema de las citas falsas o alucinadas. Y justamente por eso, uno de los principales indicios de que alguien utilizó IA generativa para elaborar una investigación o tesis es la detección de referencias inexistentes, porque eso evidencia que alguien las inventó”, apunta.
“De hecho, cuando hemos investigado algunos casos, nos respondieron: ‘Fue un error’. Pero nadie inventa una cita por error. Ahí existe una intención de engaño y, por tanto, debería haber una sanción”, acota.
El uso masivo de herramientas de IA generativa ha abierto nuevos desafíos para la integridad académica y la verificación de contenidos científicos. (Foto: Pixabay)
¿Qué se debe hacer?
Una referencia es la fuente que valida el conocimiento sobre el que se construye una investigación. Es, en teoría, el sustento desde donde se toma información para generar nuevo conocimiento. Por eso, cuando esas referencias son inventadas, no solo se pone en duda el artículo, sino que incluso se confirma la posibilidad de que se trate de un trabajo fraudulento.
“Si estamos hablando de algo inventado, eso configura fraude científico y mina la confianza en la investigación, porque una de las fortalezas de la ciencia es justamente la confianza en los resultados y en que el proceso se realizó correctamente”, advierte Mayta.
¿Y qué se debe hacer frente a esta situación? Para el especialista, el principal desafío es fortalecer los mecanismos de verificación y control para asegurar que la información utilizada en investigaciones sea auténtica.
Pero la responsabilidad no recae en un solo actor, sino en todo el ecosistema científico. En el caso del Concytec, como ente rector, surge la pregunta sobre qué medidas puede impulsar frente a este problema.
En las universidades, el escenario también abre debates complejos. Si una tesis contiene citas alucinadas que configuran fraude académico, se pone sobre la mesa si esa persona debería recibir el grado o incluso si este podría ser retirado posteriormente. “Eso también es una gran alerta para el sistema”, sostiene.
Deja una respuesta