Alucinaciones: por qué la IA se inventa cosas y cómo protegerte

Le pides a un asistente de IA tres libros sobre un tema y te da tres títulos con autor, editorial y año. Suenan perfectos. Buscas el primero y no existe. Ni el segundo. A esto se le llama alucinación: la IA genera información falsa con la misma seguridad con la que da la correcta.

No es un fallo raro ni exclusivo de una herramienta. Entender por qué ocurre es la mejor forma de protegerse.

Por qué pasa

Un modelo de lenguaje no consulta una base de datos de hechos cuando le preguntas. Genera el texto que considera más probable a partir de los patrones que aprendió de enormes cantidades de texto. Casi siempre, lo probable y lo cierto coinciden. Cuando no coinciden, el modelo no lo nota: produce algo que suena bien.

Y suena igual de seguro cuando acierta que cuando se equivoca. Ese es el problema: no avisa.

Cuándo es más probable

• Datos muy concretos: cifras, fechas, citas textuales, referencias bibliográficas, artículos de una ley, sentencias.
• Temas poco documentados o muy recientes, sobre los que el modelo apenas tiene información.
• Preguntas que dan algo falso por supuesto: si preguntas «¿por qué tal empresa cerró en 2019?» y no cerró, puede inventarte el motivo.
• Cuando se le presiona para que responda, sin dejarle decir que no lo sabe.

Cómo protegerte

Úsala para lo que hace bien

Redactar, resumir un texto que tú le das, ordenar ideas, proponer alternativas o revisar un borrador: ahí brilla. Como oráculo de datos exactos es donde más falla.

Dale tú las fuentes

Si necesitas una respuesta precisa, pega el documento y pídele que responda solo con lo que hay en él y que indique en qué parte se basa. Así el error es mucho menos probable y mucho más fácil de detectar. Eso sí, ten en cuenta qué no deberías pegar nunca en un chat de IA.

Pide referencias y ábrelas

Si te da enlaces o referencias, compruébalos. Un enlace que no abre o un libro que no aparece en ningún catálogo es la señal más clara.

Déjale decir «no lo sé»

Añade a tu petición algo como «si no estás seguro, dilo». No lo resuelve todo, pero ayuda.

Verifica lo que importa

Todo lo que vaya a publicarse, firmarse, enviarse a un cliente o servir para tomar una decisión merece una comprobación humana: cifras, nombres, citas y referencias legales, como mínimo.

Desconfía de la precisión excesiva

Una respuesta con decimales, fechas exactas y nombres propios parece más fiable, pero es justo donde más se inventa. Cuanto más concreto, más conviene comprobar.

Lo que hacemos nosotros

En IA para hoy los resúmenes de las noticias los genera un modelo. Por eso lo indicamos en cada pieza y enlazamos siempre al artículo original, para que cualquiera pueda comprobarlo. Las reglas las fija una persona, que responde de lo publicado, y si encuentras un error se corrige o se retira. Qué hace cada uno lo explicamos en quién está detrás.

En resumen

Las alucinaciones se reducen con cada generación de modelos, pero no van a desaparecer del todo. La responsabilidad de lo que se da por bueno sigue siendo de quien lo usa. La IA propone; la comprobación, y el criterio, siguen siendo cosa nuestra.