Meta tardó días en retirar anuncios de apps 'nudify' con CSAM generado por IA de niñas reales
Hecho Qué ha ocurrido
Una investigación del Tech Transparency Project (TTP) publicada el martes reveló que Meta no detectó 332 anuncios con material de abuso sexual infantil (CSAM) generado por IA en Facebook e Instagram durante 2026. La mayoría promocionaba apps de IA hechas en China, muchas del tipo 'nudify', que permiten alterar digitalmente imágenes de menores. TTP identificó varios anuncios que usaban fotos reales de niñas, incluida una foto de prensa de una joven de una familia real europea y fotos de una influencer preadolescente de Instagram, animadas en vídeos sexuales explícitos.
Resumen generado mediante IA a partir de Ars Technica AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
El caso expone fallos graves de moderación en plataformas publicitarias masivas frente a contenido ilegal generado con IA, y plantea responsabilidad legal y reputacional para Meta según legislación federal de EE.UU. sobre CSAM.
- Quién se ve afectado
- Plataformas de redes sociales, equipos de moderación de contenido, reguladores y empresas de publicidad digital que gestionan anuncios de terceros.
- Qué puede cambiar
- Es probable que aumente la presión regulatoria y legal sobre Meta y otras plataformas para reforzar la detección proactiva de CSAM generado por IA en anuncios, así como para vetar apps 'nudify' de sus ecosistemas publicitarios.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar posibles acciones legales del Departamento de Justicia de EE.UU. contra Meta, cambios en las políticas de publicidad de Meta, y si otras plataformas (Google, TikTok) enfrentan investigaciones similares.
Recomendación Qué debería hacer una empresa
Las empresas que gestionan plataformas con publicidad de terceros deberían auditar en los próximos 3-6 meses sus sistemas de detección de CSAM generado por IA y reforzar la verificación previa a la publicación de anuncios.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Ars Technica AI. La referencia es siempre el artículo original.
Ver fuente original ↗generación de imagengeneración de vídeomodelos multimodales MetaTech Transparency Project apps nudify CSAM Meta moderación de contenido seguridad infantil
Relacionadas
Meta no detecta cientos de anuncios con abuso infantil generado por IA, según un informe
Una investigación del Tech Transparency Project, compartida con WIRED, identificó más de 250 anuncios con material de abuso sexual infantil en plataformas de…
Por qué importaMuestra que los sistemas de detección de contenido generado por IA de las grandes plataformas tienen fallos relevantes, y que la publicidad es una…
San Francisco exige a Meta detener anuncios con abuso infantil generado por IA
El fiscal de la ciudad de San Francisco, David Chiu, envió una carta de cese y desistimiento a Meta exigiendo explicaciones sobre más de 350 anuncios que…
Por qué importaEl caso expone fallos sistémicos en la moderación automatizada de anuncios de una gran plataforma y aumenta la presión regulatoria sobre el uso de IA…
Fiscalía de San Francisco exige a Meta explicar anuncios de abuso infantil generados con IA
El fiscal de San Francisco, David Chiu, envió a Meta una carta de cese y desistimiento tras un informe de WIRED que documentó más de 350 anuncios con contenido…
Por qué importaEl caso expone fallos graves en los sistemas de revisión publicitaria automatizada de una gran plataforma frente a contenido ilegal generado con IA…
Meta amplía uso de IA para detectar anuncios que enlazan a abuso sexual infantil
Meta anunció que usa un modelo de lenguaje para analizar anuncios y sus destinos externos, detectando avisos que enlazan a material de abuso sexual infantil…
Por qué importaMuestra cómo las grandes plataformas usan IA tanto para moderar a escala como para combatir el abuso de la propia IA generativa en contenido ilegal…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.