Estudio de la Universidad de Arizona halla fallas de fiabilidad en chatbots durante diálogos largos
Hecho Qué ha ocurrido
Un estudio de la Universidad de Arizona, publicado en Scientific Reports, evaluó siete chatbots (GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5 Pro, Llama-3-70B y DeepSeek-R1) en conversaciones de múltiples turnos, midiendo falibilidad, persuadibilidad y capacidad de autocorrección. Encontró que todos los modelos son más vulnerables a la desinformación en temas poco conocidos, que ChatGPT 3.5 fue el más propenso a reafirmar información falsa y Claude 3.5 Sonnet el menos vulnerable, y que algunos modelos muestran un fenómeno de 'reverberación' donde oscilan entre aceptar y rechazar la misma afirmación falsa. DeepSeek resultó el más persuadible ante argumentos insistentes.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Estas fallas son especialmente riesgosas en aplicaciones críticas (salud, finanzas, defensa) donde decisiones basadas en un chatbot podrían variar según el momento exacto de la consulta, generando resultados inconsistentes y potencialmente peligrosos.
- Quién se ve afectado
- Empresas que integran chatbots en procesos de decisión crítica, equipos de IT, legal y de cumplimiento, y desarrolladores de aplicaciones basadas en LLM.
- Qué puede cambiar
- Refuerza la necesidad de supervisión humana y validación adicional en usos de alto riesgo, y presiona por mayor transparencia en modelos cerrados para poder diagnosticar estas inestabilidades.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si surgen nuevas herramientas de diagnóstico como el AI Pathology Lab de ACABI, si los proveedores de modelos cerrados ofrecen mayor transparencia, y si reguladores retoman el impulso normativo mencionado por el autor principal.
Recomendación Qué debería hacer una empresa
Las empresas que usen chatbots en decisiones críticas deberían implementar controles de validación humana y pruebas de consistencia en diálogos largos antes de escalar su uso en los próximos 6-12 meses.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbots OpenAIAnthropicGoogle DeepMindDeepSeekMeta chatbots desinformación fiabilidad IA seguridad IA Universidad de Arizona
Relacionadas
Estudio de Harvard y Alberta vincula actualizaciones de chatbots emocionales con angustia en usuarios
Investigadores de Harvard Business School y la Universidad de Alberta analizaron 54.861 mensajes en foros de Replika y ChatGPT tras actualizaciones clave…
Por qué importaEl estudio evidencia que los chatbots de compañía pueden generar vínculos de apego similares a relaciones humanas, cuya ruptura por decisiones de…
Estudios apuntan a que el uso frecuente de chatbots como ChatGPT puede alterar el autoconcepto de los usuarios
Investigaciones publicadas en 2024-2025, entre ellas un estudio en AI & Society y un experimento con GPT-4o, sugieren que la interacción continuada con…
Por qué importaPlantea riesgos poco explorados sobre el uso masivo de asistentes conversacionales en el trabajo y la vida diaria, especialmente por la tendencia de…
Una fórmula matemática busca anticipar cuándo una IA dará respuestas peligrosas
Investigadores de la Universidad George Washington publicaron en la revista Patterns una fórmula que estima cuántas respuestas adecuadas puede generar un…
Por qué importaOfrece una primera vía para detectar señales de riesgo antes de que una respuesta dañina llegue al usuario, algo relevante para empresas que…
Expertos cuestionan la fiabilidad de los detectores de texto generado por IA
Un análisis de AFP examina las herramientas de detección de texto generado por IA (Pangram, GPTZero, Humanlingo, Quillbot) tras la acusación pública contra el…
Por qué importaEstas herramientas se usan masivamente en educación y edición para acusar de plagio o uso de IA, y su falta de fiabilidad puede generar acusaciones…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.