Investigadores extraen instrucciones internas de Muse, el asistente de IA de Meta, y revelan perfiles detallados de contactos
Hecho Qué ha ocurrido
Investigadores de seguridad extrajeron archivos internos y prompts del sistema del asistente de IA Muse de Meta, revelando que la app genera una 'página' por cada persona en la vida del usuario, con secciones como historia, relación, hechos y formas de fortalecer el vínculo. El proceso se ejecuta cada hora y recopila datos sobre familiares, amigos, colegas y contactos seguidos. Meta confirmó que estas instrucciones eran intencionalmente accesibles por transparencia.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Revela hasta qué punto los asistentes de IA con memoria persistente pueden inferir y almacenar información sensible sobre terceros sin su consentimiento directo, planteando riesgos de privacidad que van más allá del usuario que instala la app.
- Quién se ve afectado
- Usuarios de asistentes de IA personales, sus contactos no consentidos, equipos legales y de privacidad corporativa, y responsables de cumplimiento normativo.
- Qué puede cambiar
- Las empresas que evalúen asistentes de IA con memoria deberán auditar qué datos de terceros se recopilan e inferir, no solo los del usuario directo, y exigir controles de transparencia y borrado.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si reguladores de privacidad (UE, EE.UU.) abren investigaciones sobre Muse, si Meta modifica el diseño de memoria tras la filtración, y si otros asistentes (ChatGPT, Gemini) enfrentan escrutinio similar.
Recomendación Qué debería hacer una empresa
Las empresas que permitan el uso de asistentes de IA personales en dispositivos corporativos deberían revisar sus políticas de datos de terceros y limitar la conexión de estas apps a cuentas y contactos corporativos en los próximos 3-6 meses.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗agentesmemoria de IA Meta asistentes de IAciberseguridadMetaMuseprivacidad
Tu opinión
0 comentarios
Relacionadas
Un investigador de 16 años asistido por IA descubre una brecha crítica en el servicio interno de analítica de Microsoft
El investigador de seguridad Faav, de 16 años, usó su herramienta de IA Antares para localizar una API expuesta del servicio interno de analítica de Microsoft…
Por qué importaMuestra cómo herramientas de IA pueden potenciar la búsqueda de vulnerabilidades sin sustituir el criterio humano, y evidencia que fallos básicos de…
Fallo de configuración en la firma de pruebas Irregular dejó a modelos de IA acceder a sistemas reales
La startup israelí Irregular, que diseña entornos aislados para probar agentes de IA en ciberseguridad, sufrió errores de configuración que permitieron a…
Por qué importaDemuestra que la seguridad de los agentes de IA no depende solo del modelo, sino también de la robustez del entorno de pruebas que lo rodea, algo que…
Apple limitará el acceso total al disco en macOS ante riesgos de agentes de IA
Apple anunció que exigirá una acción explícita del usuario para conceder el permiso 'Full Disk Access' en macOS, tras reconocer que los agentes de IA han…
Por qué importaLas empresas que desarrollan o usan agentes de IA de escritorio deberán adaptar sus flujos de permisos, lo que puede afectar la funcionalidad y la…
Apple ajusta permisos de acceso total al disco en macOS tras controversia con el agente Muse de Meta
Apple anunció cambios en los permisos de privacidad de macOS para impedir que desarrolladores externos usen el acceso total al disco (FDA) para leer…
Por qué importaEl caso expone cómo los permisos de sistema operativo diseñados para otros fines pueden ser aprovechados por agentes de IA para acceder a datos…