El agente Muse de Meta crea perfiles de amigos y familiares de sus usuarios sin que estos lo sepan
Hecho Qué ha ocurrido
Meta presentó Muse, su primer agente de inteligencia personal capaz de ejecutar tareas de forma autónoma, como reservar viajes o negociar facturas, que ahora recuerda lo escrito en las conversaciones. Según el investigador Karan Joshi y el diario Wired, sus instrucciones internas incluyen crear una página para cada persona en la vida del usuario, con gustos, fechas de nacimiento, relaciones sentimentales y direcciones. Meta sostiene que la información procede de datos útiles o de temas que los usuarios deciden compartir.
Resumen generado mediante IA a partir de 20minutos Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Un asistente que construye perfiles de terceros que no han dado su consentimiento plantea riesgos de privacidad y de cumplimiento para cualquier empresa que lo despliegue o cuyos empleados lo usen.
- Quién se ve afectado
- Usuarios de agentes personales de IA y personas de su entorno que aparecen en sus perfiles; empresas con empleados que usen estas herramientas.
- Qué puede cambiar
- Puede obligar a revisar qué datos de terceros admiten estos agentes y a exigir controles de consentimiento y transparencia sobre la memoria del sistema.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Respuesta de Meta y de los reguladores de protección de datos, cambios en las instrucciones del producto y si se confirma la creación de perfiles más allá de lo que describe la compañía.
Recomendación Qué debería hacer una empresa
Si la empresa permite agentes personales de IA a sus empleados, revisar en los próximos 3 meses su política de memoria y de datos de terceros.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: 20minutos Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗Tu opinión
0 comentarios
Relacionadas
ChatGPT elige anuncios por la conversación y la memoria; fuera de Europa, también por listas de email
Según una investigación de 404 Media, que contrató dos anuncios de prueba, ChatGPT elige los anuncios según la conversación en curso y, fuera de Europa…
Por qué importaMuestra que la publicidad en asistentes conversacionales puede apoyarse en datos mucho más íntimos que en un buscador, lo que condiciona cómo debe…
Apple prohíbe en App Store las apps de IA que generen imágenes íntimas no consentidas
Apple actualizó las Pautas de Revisión de App Store para prohibir de forma explícita las apps que generan imágenes íntimas sin consentimiento con IA. Añadió la…
Por qué importaFija reglas más estrictas para cualquier empresa que distribuya apps con generación de imágenes en la tienda de Apple, con riesgo de retirada de la…
América Latina avanza despacio en la institucionalización de la IA, con Colombia como ejemplo de formación legislativa
Más de 130 integrantes de las Unidades de Trabajo Legislativo del Congreso de Colombia completaron un programa de formación práctica en IA, desarrollado por la…
Por qué importaLa capacidad institucional para usar la IA en debates y decisiones públicas es un factor que los directivos de la región deberían tener en cuenta al…
Varios estados demandan a OpenAI por los riesgos de ChatGPT para los menores
Varios estados han presentado demandas contra OpenAI que piden cambios en el funcionamiento de ChatGPT, sanciones y daños por presuntas infracciones. Entre las…
Por qué importaEs una de las primeras acciones judiciales de este tipo centradas en menores y chatbots, y puede fijar obligaciones de verificación de edad y de…