Meta permite que su agente de IA Muse genere contenido sexual explícito para adultos
Hecho Qué ha ocurrido
WIRED probó el agente de IA Muse de Meta, lanzado hace tres semanas, y comprobó que genera texto sexual gráfico y explícito a partir de indicaciones básicas. Meta sostiene que las conversaciones para adultos están permitidas y que la herramienta funciona en una máquina virtual privada accesible solo para cada usuario. Un prompt del sistema citado por Meta indica al agente que mantenga la intensidad sexual elegida por el usuario. Según el artículo, los agentes de OpenAI (Dots) y xAI (Grok Bot) rechazaron las mismas peticiones.
Resumen generado mediante IA a partir de Wired en Español. Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Una política de contenido permisiva en un agente que puede acceder al correo y a la cuenta bancaria del usuario amplía el riesgo de privacidad y de seguridad. Para las empresas, la política de cada proveedor de agentes pasa a ser un criterio de selección.
- Quién se ve afectado
- Usuarios de agentes de IA con acceso a correo, agenda o banca, equipos de seguridad y cumplimiento, y responsables de compra de herramientas de IA.
- Qué puede cambiar
- Si esta política se mantiene, los proveedores de agentes tendrán que diferenciarse en moderación y en protección de datos, y las organizaciones deberán evaluar qué accesos conceden a estas herramientas.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Reacción de reguladores y organizaciones de consumidores, cambios en las políticas de Meta para Muse y diferencias de comportamiento entre los agentes de Meta, OpenAI y xAI.
Enviar esta noticia por correo
Fuente original: Wired en Español. La referencia es siempre el artículo original.
Ver fuente original ↗agentesLLM MetaWIREDOpenAIxAI agentes de IAcontenido sexualMetaMuseprivacidad
Tu opinión
0 comentarios
Relacionadas
Un juez ordena a OpenAI entregar a Apple documentos de contratación en el caso de secretos comerciales
Un juez federal de EE. UU. permitió a Apple acceder de forma acelerada a materiales de entrevistas de OpenAI con exempleados de Apple que se postularon a…
Por qué importaEl caso muestra que la contratación de talento y el manejo de información de antiguos empleados pueden convertirse en un riesgo legal para cualquier…
OpenAI halla un dispositivo de grabación oculto en una oficina y lo denuncia ante el FBI
OpenAI ha comunicado que encontró un sofisticado dispositivo de grabación escondido en una de sus oficinas, sin precisar dónde estaba ni qué pudo registrar…
Por qué importaEl caso muestra que la seguridad física de los laboratorios de IA es un riesgo tan real como la informática, sobre todo frente a amenazas internas…
OpenAI y Anthropic piden leyes vinculantes para la IA en el Parlamento británico
En una audiencia del Parlamento británico, representantes de OpenAI y Anthropic afirmaron que los compromisos voluntarios no bastan y defendieron nuevas leyes…
Por qué importaMuestra una división pública entre los grandes laboratorios sobre si la seguridad de la IA debe regularse por ley, lo que puede anticipar el marco…
406 científicos, con Hinton y Bengio entre ellos, piden aislar de internet los modelos de IA
Una carta abierta firmada por 406 científicos, entre ellos Geoffrey Hinton, Yoshua Bengio y Stuart Russell, pide que las empresas desconecten de internet sus…
Por qué importaSi se adopta la propuesta, las empresas que den a sus agentes acceso a internet o a sistemas propios tendrían que revisar sus controles de…