Cientos de apps de IA aparentemente inofensivas ocultan funciones de deepfakes sexuales abusivos
Hecho Qué ha ocurrido
Una investigación de WIRED identificó unas 400 apps y sitios web, vinculados a desarrolladores de habla china, que parecen herramientas corrientes pero cargan una interfaz para generar imágenes y vídeos sexuales deepfake. Las apps se distribuyeron en tiendas de Apple y Google, y se promocionaron mediante anuncios en Meta. Apple retiró 19 apps tras ser consultada y Google retiró la mayoría de las suyas, según el artículo.
Resumen generado mediante IA a partir de Wired AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Muestra que las revisiones de las tiendas de apps y las plataformas publicitarias pueden eludirse con cambios posteriores a la aprobación, lo que afecta a la responsabilidad de cualquier empresa que distribuya software o publicidad con IA.
- Quién se ve afectado
- Plataformas de apps, anunciantes digitales, equipos de confianza y seguridad, y responsables de cumplimiento.
- Qué puede cambiar
- Las plataformas pueden endurecer la revisión posterior a la aprobación y el control de anuncios, lo que aumentará los costes de cumplimiento para desarrolladores y anunciantes.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si Apple y Google aplican las nuevas restricciones a 'nudify', si Meta retira los anuncios vinculados y si los reguladores abren investigaciones formales.
Recomendación Qué debería hacer una empresa
Las empresas que publiquen apps o anuncios con IA deberían revisar en los próximos 3 meses que sus proveedores no cambian contenidos tras la aprobación de las tiendas.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Wired AI. La referencia es siempre el artículo original.
Ver fuente original ↗deepfakegeneración de imagengeneración de vídeo AppleGoogleMetaAI ForensicsInfoblox Apple deepfakes Google Meta nudify
Relacionadas
Más de 100 apps de desnudos por IA generan 117 millones en Apple y Google
El Tech Transparency Project identificó 102 aplicaciones (55 en Google Play Store y 47 en Apple App Store) capaces de crear imágenes y videos sexualizados sin…
Por qué importaRevela un fracaso sistémico de los principales ecosistemas de aplicaciones en moderar contenido generado con IA que viola derechos fundamentales. La…
San Francisco exige a Apple y Google eliminar apps de desnudos con IA de sus tiendas
El fiscal de San Francisco David Chiu envió cartas de cese y desista a Apple y Google exigiendo la eliminación de 13 apps que generan imágenes de desnudos no…
Por qué importaRepresenta un punto de inflexión en la responsabilidad legal de plataformas gigantes por contenido generado con IA. Las empresas tecnológicas…
Los generadores de deepfakes sexuales se sofistican y expanden con servicios de vídeo
Wired documenta un ecosistema creciente de más de 50 sitios web y decenas de bots en Telegram que generan deepfakes pornográficos no consentidos con tecnología…
Por qué importaEl abuso sexual por deepfakes es una violencia de género sistémica facilitada por modelos de IA abiertos y cada vez más accesibles, sin barreras…
Apple endurece las normas de la App Store contra las apps que generan desnudos con IA
Apple ha actualizado sus directrices de revisión de la App Store para prohibir explícitamente las apps que generan imágenes de desnudez no consensuadas con IA…
Por qué importaFija un criterio de moderación más estricto para las apps de IA generativa que se distribuyen en la App Store y puede afectar a cómo se diseñan y…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.