Ir al contenido
IA para hoy
Investigación Investigación 2/5 · Declaración interesada

Insultar a un chatbot empeora sus respuestas, según un estudio de Searchable con ocho millones de mensajes

Fotografía de archivo que ilustra: Insultar a un chatbot empeora sus respuestas, según un estudio de Searchable con ocho millones de mensajes
Foto: Gustavo Fring · Licencia Pexels · Pexels

Hecho Qué ha ocurrido

Un estudio de la plataforma Searchable analizó más de ocho millones de mensajes enviados a herramientas de IA durante un año. Según sus datos, las quejas sin insultos se resuelven en la siguiente réplica el 35% de las veces, frente al 24% cuando incluyen groserías. Los investigadores no tienen una explicación definitiva del efecto.

Resumen generado mediante IA a partir de Infobae Tecno. Naturaleza de la información: declaración de parte interesada.

Análisis Por qué importa

El tono con el que los usuarios interactúan con los chatbots influye en la calidad del resultado, algo que conviene incorporar a la formación de los equipos que los usan a diario. Además, Anthropic ha actualizado su política de uso para prohibir el maltrato sostenido hacia Claude.

Quién se ve afectado
Equipos que usan chatbots en su trabajo diario y responsables de formación en herramientas de IA.
Qué puede cambiar
Puede cambiar la forma en que se formulan las peticiones y las quejas a los asistentes, con un enfoque más cuidado en el trato. La política de Anthropic también fija un límite explícito al abuso hacia sus modelos.

Análisis generado a partir de la información disponible; no procede de la fuente.

Predicción Qué observar a continuación

Si otros proveedores replican la medida de Anthropic y si nuevos estudios independientes confirman o matizan el efecto del tono en la calidad de las respuestas.

Compartir WhatsApp LinkedIn X Bluesky Telegram
Enviar esta noticia por correo

Se envía esta noticia con su análisis. La dirección se usa solo para ese envío y no se guarda.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: hacer el envío que pides. Base: nuestro interés legítimo. Lo envía Resend; la comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.

Fuente original: Infobae Tecno. La referencia es siempre el artículo original.

Ver fuente original ↗

chatbotsLLM SearchableAnthropic Anthropic ChatGPT Claude estudio Searchable

Relacionadas

Los chatbots de IA dan datos electorales erróneos y citan webs partidistas, según estudios

Según investigaciones citadas por Wired, casi el 40 % de las respuestas electorales de los principales chatbots contenía al menos un error factual, en una…

Por qué importaLos empleados y clientes que usan chatbots para informarse pueden recibir datos falsos o sesgados, lo que plantea riesgos reputacionales y de…

Impacto bajo Fiabilidad una fuente fiable Wired AI

Los chatbots de IA cometen errores frecuentes sobre elecciones y citan fuentes partidistas

Según un estudio de Forum AI, casi el 40% de las respuestas sobre elecciones de los chatbots más populares contenían al menos un error factual. Gemini dio una…

Por qué importaCada vez más votantes consultan chatbots para informarse, y los errores sobre plazos y candidatos pueden afectar a decisiones reales. Para las…

Impacto bajo Fiabilidad una fuente fiable Relevancia 7/10 Wired en Español

Estudio de la Universidad de Arizona halla fallas de fiabilidad en chatbots durante diálogos largos

Un estudio de la Universidad de Arizona, publicado en Scientific Reports, evaluó siete chatbots (GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5…

Por qué importaEstas fallas son especialmente riesgosas en aplicaciones críticas (salud, finanzas, defensa) donde decisiones basadas en un chatbot podrían variar…

Impacto medio Fiabilidad declaración interesada Infobae Tecno

Casi el 40% de las respuestas de chatbots sobre las elecciones en EE. UU. tenía errores factuales

Un estudio de Forum AI, difundido por AFP, halló que casi el 40% de las respuestas de ocho chatbots sobre las elecciones legislativas de EE. UU. contenía al…

Por qué importaMuestra que los chatbots pueden dar información operativa incorrecta en asuntos con consecuencias directas, como perder el plazo para votar. Para las…

Impacto medio Fiabilidad declaración interesada Relevancia 7/10 Infobae Tecno

Tu opinión

0 comentarios

Escribe un comentario

Sin registro. La primera vez te pediremos confirmar el correo y el comentario pasará por moderación; después se publican al momento si cumplen las normas y firmas con el mismo nombre.

Protección de datos. Responsable: Fernando Lobato, PhD. Finalidad: publicar y moderar tu comentario y evitar abusos. Base: tu consentimiento y, contra los abusos, nuestro interés legítimo. Se publica tu nombre, no tu correo. El texto pasa por un filtro con IA de Anthropic, en Estados Unidos, sin tu nombre ni tu correo, y se guarda un resumen de tu IP 90 días. La comprobación de robots es de Cloudflare. Puedes acceder a tus datos, pedir que los borremos y ejercer tus demás derechos como explica la política de privacidad.