Los chatbots de IA dan datos electorales erróneos y citan webs partidistas, según estudios
Hecho Qué ha ocurrido
Según investigaciones citadas por Wired, casi el 40 % de las respuestas electorales de los principales chatbots contenía al menos un error factual, en una auditoría de Forum AI. NewsGuard halló que estos sistemas citan webs de 'pink slime' (medios con financiación política encubierta) cerca del 50 % de las veces, con ChatGPT como el más frecuente, en más del 70 % de las búsquedas. Google y Anthropic no respondieron a las peticiones de comentario.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Los empleados y clientes que usan chatbots para informarse pueden recibir datos falsos o sesgados, lo que plantea riesgos reputacionales y de cumplimiento para cualquier empresa que publique o distribuya información generada por IA.
- Quién se ve afectado
- Medios de comunicación, plataformas de búsqueda, empresas de chatbots y organismos electorales.
- Qué puede cambiar
- Las organizaciones que integren IA para responder consultas de información pública deberían revisar sus fuentes y sus controles de verificación antes de desplegarla en temas sensibles.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Respuestas de los fabricantes a estas auditorías, cambios en sus fuentes citadas y si los reguladores electorales piden verificación o advertencias específicas en los chatbots.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbotsRAG OpenAIAnthropicGooglexAI chatbots desinformación elecciones Forum AI NewsGuard
Relacionadas
Estudio de la Universidad de Arizona halla fallas de fiabilidad en chatbots durante diálogos largos
Un estudio de la Universidad de Arizona, publicado en Scientific Reports, evaluó siete chatbots (GPT-3.5, GPT-4o, GPT-4o-mini, Claude 3.5 Sonnet, Gemini 1.5…
Por qué importaEstas fallas son especialmente riesgosas en aplicaciones críticas (salud, finanzas, defensa) donde decisiones basadas en un chatbot podrían variar…
OpenAI, Anthropic y Google usan revisores humanos para evaluar chats de sus chatbots de IA
Una investigación de 404 Media reveló que OpenAI opera un programa llamado Project Lily, en el que contratistas externos revisan prompts y respuestas de…
Por qué importaExpone que las conversaciones con chatbots empresariales pueden ser leídas por personas, lo que afecta la confidencialidad de datos sensibles…
La IA se equivoca hasta en un 60% verificando hechos, según estudio de periodistas
Una verificadora de datos de WIRED examina la capacidad de los modelos de IA para verificar información. Según su análisis y estudios citados, las tasas de…
Por qué importaLa verificación de hechos es función crítica en medios y empresas que generan contenido; si los modelos de IA fallan sistemáticamente en tareas de…
Cuándo conviene usar la IA para buscar en la web y cuándo es mejor un buscador tradicional
Un artículo de Wired explica que los chatbots como Claude, ChatGPT y Gemini combinan búsqueda web tradicional con conocimiento de sus datos de entrenamiento…
Por qué importaLos equipos que usan chatbots para investigar de mercado o normativa necesitan criterios para saber cuándo verificar las fuentes. La síntesis…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.