🌿 Ciencia
El 68% de los papers de IA tienen citas inventadas: la ciencia se está ahogando en basura
Un investigador marcó dos papers con autores inventados y los señaló a los organizadores de la conferencia. Ambos fueron aceptados como presentaciones orales.
No es un caso aislado. Es la nueva normalidad de la ciencia con IA.
Caleb Robinson e Isaac Corley, dos investigadores de machine learning, revisaron este verano 22 papers enviados a NeurIPS, WACV y TerraBytes (el workshop geoespacial de ECCV). El resultado debería asustar a cualquiera que crea en el método científico:
15 de 22 — el 68% — tenían citas fabricadas, autores alucinados o eran claramente generados por IA.
El peor caso: autores falsos en papers reales
Isaac recibió papers que citaban trabajos cuyos autores conoce personalmente. Pero con nombres inventados intercambiados.
"El paper, la conferencia y los otros autores eran reales. El nombre falso era lo bastante parecido como para pasar un vistazo rápido", escribió.
Los marcó como rechazo y los reportó directamente a los organizadores. Ambos papers fueron aceptados para presentaciones orales con la condición de "arreglar las referencias".
Hubo más joyas: un paper de NeurIPS con 53 páginas de jerga alucinada donde no valía la pena ni mirar la bibliografía. Y otro que incluía notas del LLM al lado de las citas.
La epidemia tiene números que dan miedo
Esto no es anécdota. Los datos agregados son peores:
- Un análisis de arXiv, bioRxiv, SSRN y PubMed Central estimó ~146,900 citas alucinadas en 2025.
- El 85.3% de esas referencias falsas sobrevivió a la revisión por pares y llegó a las versiones publicadas.
- Una auditoría de The Lancet sobre 2.5 millones de papers biomédicos encontró que las referencias fabricadas se multiplicaron por seis en dos años: de 1 en 2,828 papers (2023) a 1 en 458 (2025), y ya 1 en 277 a inicios de 2026.
- En NeurIPS 2025, un análisis de 100 citas alucinadas confirmó que todas pasaron entre 3 y 5 revisores expertos. Los 53 papers que las llevaban siguen hoy en los proceedings.
Los revisores también son IA (sin que nadie lo sepa)
La basura no solo se produce con IA: también se revisa con IA.
En ICLR 2026, el 21% de las reviews — 15,899 — fueron completamente generadas por IA, y más de la mitad tenían algún grado de participación.
En ICML 2026, los organizadores escondieron "stings" de inyección de prompt en las submissions: detectaron 795 reviews escritas por 506 revisores que tenían prohibido usar LLMs.
Y la cereza: un estudio de Li et al. demostró que reescribir el abstract con técnicas adversariales mejora las reviews de IA el 38% de las veces, inflando la nota hasta +1.31 puntos en una escala de 10.
Lo que esto significa para ti
Si eres investigador, estudiante de posgrado o simplemente lees papers para aprender: ya no puedes confiar en las referencias de un paper.
Los más perjudicados son los investigadores jóvenes y los equipos pequeños: los que más presión tienen para publicar y los más propensos a incluir citas alucinadas sin darse cuenta.
En LATAM la situación es aún más delicada: con menos recursos, menos revisores y más presión por métricas, el slop llena todos los huecos. 🧪
¿Se puede arreglar?
Los autores lanzaron una herramienta de auditoría de referencias (bib-audit) y piden que la verificación sea obligatoria en las conferencias.
Pero el problema de fondo no es técnico: es que nadie quiere pagar por la revisión por pares, el trabajo más importante y peor pagado de la ciencia.
Mientras tanto, la solución práctica es una sola: verifica cada referencia antes de citarla. Y si un paper huele a slop, denúncialo.
La ciencia que alimenta a la IA se está comiendo a sí misma.
Comparte esto con alguien que cite papers sin leerlos.
¿Cuántos papers con citas inventadas crees que hay en tu campo? Cuéntalo en los comentarios.