Páginas de ayuda de WhatsApp expusieron instrucciones ocultas de su chatbot de Meta
Hecho Qué ha ocurrido
Unas 80 páginas de ayuda y FAQ de WhatsApp dejaron visible en su código texto destinado a un LLM de Meta, con indicaciones como «WHAT NOT TO SAY» y no dar asesoramiento legal. Según la firma Redact, el texto aparecía en el código de las páginas y también en versiones archivadas. Meta atribuyó el fallo a un bug, que ya está corregido, y eliminó el texto tras contactar la revista Wired.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Muestra cómo las empresas configuran los chatbots de atención al cliente con restricciones que pueden limitar la información que reciben los usuarios sobre sus derechos de protección de datos. Para directivos, es un recordatorio de que las instrucciones internas de un asistente pueden acabar expuestas.
- Quién se ve afectado
- Empresas que despliegan chatbots de atención al cliente y usuarios de servicios con asistentes automatizados.
- Qué puede cambiar
- Las organizaciones podrían revisar qué instrucciones internas incluyen sus asistentes y cómo se publican en sus webs, así como la separación entre contenido público y configuración del modelo.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si Meta publica explicaciones adicionales o auditorías, si reguladores de protección de datos piden información sobre el caso y si otras compañías revisan el código de sus páginas de ayuda.
Recomendación Qué debería hacer una empresa
Auditar en los próximos 3 meses el código público de las páginas de soporte y los chatbots para detectar instrucciones internas expuestas.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMchatbots de soporte MetaWhatsAppRedact chatbotfiltraciónMetaprivacidadWhatsApp
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.
0 comentarios
Relacionadas
Bill Gates advierte de que los riesgos de la IA no reciben atención suficiente y pide intervención pública
En una entrevista en el Vaticano, Bill Gates afirmó que no se prestan suficiente atención a los riesgos de la IA y que el sector no puede autorregularse, por…
Por qué importaLas declaraciones de una figura influyente sobre regulación y acceso desigual a la IA anticipan debates sobre obligaciones públicas que pueden…
Anthropic propone que un juez pueda suspender modelos de IA con riesgo inminente de graves daños en EE. UU.
Anthropic ha presentado ante legisladores del Congreso de EE. UU. un proyecto de ley que permitiría suspender por vía judicial modelos avanzados de IA ante un…
Por qué importaEs una propuesta de marco regulatorio para EE. UU. en un momento en que no hay una ley federal común. Si prospera, podría fijar obligaciones de…
Un hacker chino usa agentes de IA con un presupuesto de 5.000 dólares para atacar más de 100 sitios web
Un investigador de NorForge, Snorre Fagerland, documentó que un pirata informático de habla china usó agentes de IA para intentar acceder a más de 1.200 sitios…
Por qué importaMuestra que agentes de IA disponibles en el mercado pueden ejecutar intrusiones complejas de principio a fin con muy poca intervención humana, lo que…
Solo 2 de 134 modelos de IA superan una prueba contra la ayuda a planes terroristas
Un informe de Tech Against Terrorism evaluó 134 modelos de IA con más de 200 solicitudes sobre ataques y armas, en tres rondas; solo dos superaron por completo…
Por qué importaMuestra que las salvaguardas de los modelos abiertos pueden desaparecer en días, lo que traslada el riesgo de uso indebido a cualquier empresa que…