Meta modifica sugerencias de su IA tras generar preguntas invasivas sobre menores
Hecho Qué ha ocurrido
Meta anunció cambios en las sugerencias generadas por su chatbot de IA después de que un video viral mostrara al sistema preguntando datos personales sobre las hijas de una usuaria. Una portavoz de Meta reconoció que la función 'no debió' generar preguntas como '¿Quién es el pasajero infantil?' bajo un video de la usuaria Kalie Robins con su hija. El caso fue reportado inicialmente por Futurism y confirmado por The Verge.
Resumen generado mediante IA a partir de The Verge AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Muestra los riesgos de privacidad y seguridad infantil en funciones de IA generativa integradas en redes sociales masivas, lo que puede generar presión regulatoria y de reputación sobre las plataformas.
- Quién se ve afectado
- Usuarios de redes sociales con menores, equipos de privacidad y confianza/seguridad en empresas tecnológicas, reguladores de protección infantil.
- Qué puede cambiar
- Meta ajustará los prompts sugeridos por su IA para evitar preguntas invasivas sobre menores u otra información personal sensible.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otras plataformas con IA generativa enfrentan casos similares y si reguladores de protección de datos o infancia intervienen tras este incidente.
Recomendación Qué debería hacer una empresa
Empresas que integren IA generativa en productos con datos de usuarios deberían auditar en los próximos 3 meses los prompts automáticos que puedan exponer información sensible de menores.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Verge AI. La referencia es siempre el artículo original.
Ver fuente original ↗chatbotLLM Meta IA generativa menores Meta privacidad seguridad infantil
Relacionadas
Meta ajusta las sugerencias de su IA tras denuncia por preguntas invasivas sobre menores
Meta anunció que modificará las sugerencias de su chatbot Meta AI tras la denuncia de una usuaria de Instagram que recibió preguntas invasivas sobre sus hijos…
Por qué importaEl caso expone los riesgos de que asistentes de IA integrados en redes sociales crucen datos personales disponibles para generar interacciones que…
Meta amplía la supervisión parental de temas consultados a Meta AI por adolescentes
Meta extendió globalmente una función que permite a padres y tutores ver qué temas generales consultaron sus hijos adolescentes a Meta AI en los últimos siete…
Por qué importaRefleja la presión creciente sobre las plataformas de IA para incorporar controles de seguridad infantil, un tema sensible que puede derivar en…
Meta permite que su agente de IA Muse genere contenido sexual explícito para adultos
WIRED probó el agente de IA Muse de Meta, lanzado hace tres semanas, y comprobó que genera texto sexual gráfico y explícito a partir de indicaciones básicas…
Por qué importaUna política de contenido permisiva en un agente que puede acceder al correo y a la cuenta bancaria del usuario amplía el riesgo de privacidad y de…
Un directivo de Redtrust defiende dar identidad criptográfica propia y revocable a los agentes de IA
Daniel Rodríguez, director general de Redtrust, plantea que los agentes de IA deben tener identidades digitales propias, con permisos definidos y revocables…
Por qué importaSi los agentes operan con las credenciales de sus usuarios, resulta difícil saber quién realizó cada acción y revocar accesos sin tocar cada sistema…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.