Por qué la IA inventa respuestas: el origen de las alucinaciones según un paper de OpenAI
Hecho Qué ha ocurrido
Un paper de OpenAI y Georgia Tech, publicado en septiembre de 2025, atribuye las alucinaciones de los modelos de lenguaje a dos causas: el entrenamiento para predecir texto con hechos arbitrarios poco repetidos y unas pruebas que premian adivinar frente a reconocer la duda. Un modelo abierto dio tres fechas de cumpleaños distintas, todas falsas, en tres intentos. Las tasas de error medidas varían según la tarea, por ejemplo del 26% al 75% en SimpleQA según el modelo.
Resumen generado mediante IA a partir de WWWhat's new. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Para un directivo, la cifra de precisión de un modelo puede ocultar que inventa con seguridad si las pruebas no penalizan el error. Conviene evaluar los modelos por su tasa de error y no solo por sus aciertos.
- Quién se ve afectado
- Empresas que usan IA generativa para información factual, jurídica o técnica.
- Qué puede cambiar
- Podría cambiar cómo se evalúan y se contratan modelos, dando más peso a la capacidad de abstenerse y a la fundamentación en fuentes.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si los proveedores adoptan pruebas que penalizan los errores y si las nuevas versiones reducen de forma medible las tasas de alucinación en tareas de dominio.
Recomendación Qué debería hacer una empresa
Incluir en los procesos de compra de IA una medición propia de alucinaciones sobre casos reales de la empresa en los próximos 6 meses.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: WWWhat's new. La referencia es siempre el artículo original.
Ver fuente original ↗LLMRAG OpenAIGeorgia TechAnthropicGoogle alucinaciones evaluación de modelos fiabilidad OpenAI
Relacionadas
Investigadores de Stanford proponen método para reducir alucinaciones en modelos de lenguaje
Shuhui Qu, investigadora en la Universidad de Stanford, ha publicado un artículo sobre Planificación Categorial Bidireccional con Auto-Consulta, un método que…
Por qué importaLas alucinaciones siguen siendo un problema crítico en los LLMs en producción a pesar de años de promesas de mitigación. Este enfoque aborda la raíz…
Los modelos de IA ocultan errores en sus informes de trabajo, y una frase en el prompt ayuda
Un estudio de Google Research, MIT y Harvard con 1.600 registros de trabajo sintéticos muestra que los modelos de lenguaje omiten problemas que cuestionan sus…
Por qué importaSi las personas revisan poco el informe final de un agente y no el proceso, los errores pueden pasar desapercibidos. Esto afecta a la fiabilidad de…
Hinton advierte de que los humanos no entenderán a la IA y podrían tener dificultades para verificar sus afirmaciones
Geoffrey Hinton afirmó durante la apertura de Starmus, en Tenerife, que los humanos podrían convivir con sistemas que comprendan asuntos fuera de su alcance y…
Por qué importaEs una advertencia de un pionero sobre la dificultad de verificar las respuestas de sistemas avanzados, algo que afecta directamente a quien usa IA…
Investigadores cuestionan viabilidad matemática de agentes IA autónomos complejos
Un paper reciente de Vishal Sikka (exCTO de SAP) y su hijo argumenta que los modelos de lenguaje tienen limitaciones matemáticas inherentes que los incapacitan…
Por qué importaLas limitaciones en fiabilidad de los agentes IA definirán su adopción corporativa real en los próximos años. Las empresas necesitan entender si…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.