Insultar a un chatbot empeora sus respuestas, según un estudio de Searchable con ocho millones de mensajes

Hecho Qué ha ocurrido
Un estudio de la plataforma Searchable analizó más de ocho millones de mensajes enviados a herramientas de IA durante un año. Según sus datos, las quejas sin insultos se resuelven en la siguiente réplica el 35% de las veces, frente al 24% cuando incluyen groserías. Los investigadores no tienen una explicación definitiva del efecto.
Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
El tono con el que los usuarios interactúan con los chatbots influye en la calidad del resultado, algo que conviene incorporar a la formación de los equipos que los usan a diario. Además, Anthropic ha actualizado su política de uso para prohibir el maltrato sostenido hacia Claude.
- Quién se ve afectado
- Equipos que usan chatbots en su trabajo diario y responsables de formación en herramientas de IA.
- Qué puede cambiar
- Puede cambiar la forma en que se formulan las peticiones y las quejas a los asistentes, con un enfoque más cuidado en el trato. La política de Anthropic también fija un límite explícito al abuso hacia sus modelos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si otros proveedores replican la medida de Anthropic y si nuevos estudios independientes confirman o matizan el efecto del tono en la calidad de las respuestas.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Infobae Tecno. La referencia es siempre el artículo original.
Ver fuente original ↗chatbotsLLM SearchableAnthropic Anthropic ChatGPT Claude estudio Searchable
Relacionadas
Los chatbots de IA dan datos electorales erróneos y citan webs partidistas, según estudios
Según investigaciones citadas por Wired, casi el 40 % de las respuestas electorales de los principales chatbots contenía al menos un error factual, en una…
Por qué importaLos empleados y clientes que usan chatbots para informarse pueden recibir datos falsos o sesgados, lo que plantea riesgos reputacionales y de…
Los chatbots de IA cometen errores frecuentes sobre elecciones y citan fuentes partidistas
Según un estudio de Forum AI, casi el 40% de las respuestas sobre elecciones de los chatbots más populares contenían al menos un error factual. Gemini dio una…
Por qué importaCada vez más votantes consultan chatbots para informarse, y los errores sobre plazos y candidatos pueden afectar a decisiones reales. Para las…
Estudio de la Universidad de Arizona halla fallas de fiabilidad en chatbots durante diálogos largos
Un estudio de la Universidad de Arizona, publicado en Scientific Reports, evaluó siete chatbots (GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5…
Por qué importaEstas fallas son especialmente riesgosas en aplicaciones críticas (salud, finanzas, defensa) donde decisiones basadas en un chatbot podrían variar…
Casi el 40% de las respuestas de chatbots sobre las elecciones en EE. UU. tenía errores factuales
Un estudio de Forum AI, difundido por AFP, halló que casi el 40% de las respuestas de ocho chatbots sobre las elecciones legislativas de EE. UU. contenía al…
Por qué importaMuestra que los chatbots pueden dar información operativa incorrecta en asuntos con consecuencias directas, como perder el plazo para votar. Para las…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.



