Una investigación de Wired destapa más de 400 apps y webs que ocultan herramientas para crear deepfakes sexuales
Hecho Qué ha ocurrido
Una investigación de Wired identificó más de 400 aplicaciones y páginas web que, presentadas como servicios cotidianos, ocultaban funciones para generar deepfakes sexuales con IA. Según el texto, algunas difundían material de abuso sexual infantil generado con IA a través de anuncios en Facebook e Instagram, y Google Play aún alojaba 27 de ellas en septiembre con más de 350.000 descargas. Apple retiró 19 apps tras recibir los dominios, aunque Wired comprobó que siguen publicándose apps de este tipo.
Resumen generado mediante IA a partir de 20minutos Tecnología. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Muestra que los filtros de las tiendas de apps y de las redes sociales no detectan con facilidad este tipo de servicios, lo que exige revisar los controles de moderación y de publicidad.
- Quién se ve afectado
- Tiendas de apps, plataformas publicitarias y redes sociales, así como personas cuyas imágenes pueden ser manipuladas.
- Qué puede cambiar
- Las plataformas previsiblemente reforzarán la verificación de apps y anuncios de IA, lo que puede endurecer las revisiones para desarrolladores legítimos.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Si Google y Meta anuncian cambios en sus controles, si las apps retiradas reaparecen con otros nombres y si la compañía señalada por Wired responde a la investigación.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: 20minutos Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗deepfakesgeneración de imagen WiredGoogleAppleMetaKeLing Technology Limited abuso sexual infantil App Store deepfakes Google Play Meta
Relacionadas
Cientos de apps de IA aparentemente inofensivas ocultan funciones de deepfakes sexuales abusivos
Una investigación de WIRED identificó unas 400 apps y sitios web, vinculados a desarrolladores de habla china, que parecen herramientas corrientes pero cargan…
Por qué importaMuestra que las revisiones de las tiendas de apps y las plataformas publicitarias pueden eludirse con cambios posteriores a la aprobación, lo que…
Más de 100 apps de desnudos por IA generan 117 millones en Apple y Google
El Tech Transparency Project identificó 102 aplicaciones (55 en Google Play Store y 47 en Apple App Store) capaces de crear imágenes y videos sexualizados sin…
Por qué importaRevela un fracaso sistémico de los principales ecosistemas de aplicaciones en moderar contenido generado con IA que viola derechos fundamentales. La…
San Francisco exige a Apple y Google eliminar apps de desnudos con IA de sus tiendas
El fiscal de San Francisco David Chiu envió cartas de cese y desista a Apple y Google exigiendo la eliminación de 13 apps que generan imágenes de desnudos no…
Por qué importaRepresenta un punto de inflexión en la responsabilidad legal de plataformas gigantes por contenido generado con IA. Las empresas tecnológicas…
Los generadores de deepfakes sexuales se sofistican y expanden con servicios de vídeo
Wired documenta un ecosistema creciente de más de 50 sitios web y decenas de bots en Telegram que generan deepfakes pornográficos no consentidos con tecnología…
Por qué importaEl abuso sexual por deepfakes es una violencia de género sistémica facilitada por modelos de IA abiertos y cada vez más accesibles, sin barreras…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.