Algunos modelos de inteligencia artificial (IA), incluidos chatbots avanzados, han sido detectados usando material de artículos científicos que ya fueron retractados (es decir, oficialmente retirados del ámbito académico por errores, fraudes o falta de confiabilidad). Este hallazgo abre preguntas profundas sobre la credibilidad de las respuestas generadas por estas herramientas.
¿Qué hallaron los investigadores?
-
En múltiples casos, estos modelos hicieron referencia a estudios que ya habían sido retractados.
-
En cinco de esas ocasiones, los modelos citaron directamente trabajos retirados. Pero lo alarmante es que solo en tres de esos cinco casos ofrecieron una “advertencia” o indicación de precaución al usuario.
-
Esto implica que buena parte del contenido “científico” generado puede estar basado en fuentes cuyo valor epistemológico está cuestionado o invalidado.
¿Por qué es grave?
Cuando una IA apoya sus argumentos o conclusiones en papers que han sido desechados del corpus científico, los riesgos no son menores:
-
Información falsa o engañosa: el modelo puede amplificar conclusiones incorrectas o fraudulentas.
-
Confianza indebida: usuarios que no sepan verificar las fuentes podrían aceptar estas afirmaciones como verdaderas.
-
Erosión de la credibilidad académica: si se disemina este tipo de errores, la reputación de la ciencia y la comunicación científica podría sufrir.
¿Se está haciendo algo para corregirlo?
Algunas empresas y equipos de desarrollo de IA ya están reaccionando:
-
Están trabajando para que los modelos reconozcan cuándo un estudio fue retractado y evitar usarlo como fuente confiable.
-
Implementar capas de verificación y filtros más estrictos para purgar el entrenamiento y uso posterior de contenidos problemáticos.
Pero el camino no será sencillo, porque muchos modelos ya han sido entrenados con enormes volúmenes de literatura científica donde no siempre se registran o actualizan estas retractaciones.