Tecnología
deepfake
El deepfake es contenido audiovisual (imagen, voz o vídeo) sintetizado con IA generativa para suplantar la apariencia o voz de una persona real. Se usa tanto con fines legítimos, como doblaje o marketing, como de forma maliciosa, para fraude, desinformación, acoso sexual o suplantación de identidad.
Sobre esta tecnología, IA para hoy ha analizado 22 noticias, procedentes de 14 medios distintos. No ha habido cobertura nueva en la última semana. La fiabilidad media de esa cobertura es de 2,8 sobre 5, medida con las reglas de nuestro método. Las áreas de impacto que más se repiten son Legal, Ciberseguridad, Marketing. Aparece en 8 historias en seguimiento.
Evolución en 16 semanas
El momentum semanal se estima con la misma fórmula que el momentum actual: volumen, aceleración respecto a la semana anterior, diversidad de fuentes e impacto.
Análisis Qué significa para una empresa
- Oportunidades
- Permite automatizar doblaje y localización de contenido audiovisual, crear avatares y campañas de marketing personalizadas, y abre nuevos servicios de verificación de identidad y autenticidad de contenidos.
- Riesgos
- Facilita fraude financiero, phishing con voz e imagen clonadas, suplantación en procesos de selección, pornografía no consentida y desinformación viral; genera exposición legal y reputacional creciente y presión regulatoria (Reglamento de IA de la UE, NO FAKES Act).
- Qué debería hacer una empresa
- Las empresas deberían implementar protocolos de verificación de identidad reforzada en contratación y pagos, formar a empleados en detección de deepfakes y revisar su exposición legal ante uso no autorizado de imagen de marca o empleados, en los próximos 6 meses.
Análisis generado por IA a partir de las noticias disponibles; actualizado 17 oct.
Relacionadas
imagen ×7Meta ×6voz ×5IA generativa ×4OpenAI ×3generación de imagen ×3ESET ×3LLM ×2generación de imágenes ×2video ×2
Historias
Imagen falsa de Mia Goth generada con IA en Instagram
Condena en Italia por deepfake sexual de Meloni
Sony Music exige retirar 260.000 canciones de IA que imitan artistas
Investigación revela auge de webs 'nudify' con IA
Estafas con influencers falsos generados por IA y cuentas robadas
Candidatos falsos con IA se infiltran en procesos de contratación empresarial
Auge de webs 'nudify' que generan desnudos falsos con IA
Trump crea 'AI Force' y promueve renombrar la IA como 'superinteligencia'
Noticias
Mia Goth denuncia que Instagram permitiera difundir una imagen falsa generada con IA
La actriz Mia Goth había presentado el divorcio de Shia LaBeouf cuando una publicación desde la cuenta verificada de Instagram miagoth_ empezó a difundirse. La…
Por qué importaMuestra que una imagen sintética de una persona conocida puede alcanzar gran difusión en una plataforma con verificación y ser tomada por auténtica…
Italia condena a dos hombres por un deepfake sexual de Giorgia Meloni
Según el blog, un tribunal italiano condenó a dos hombres a poco más de dos años de prisión cada uno por un vídeo sexual deepfake de Giorgia Meloni, y Meloni…
Por qué importaSi se confirma, sería un precedente sobre cómo aplicar las obligaciones de transparencia de la AI Act en procesos penales. Conviene verificar la…
Sony Music exige retirar más de 260.000 canciones generadas con IA que imitan a artistas
Sony Music ha solicitado a plataformas digitales la retirada de más de 260.000 canciones generadas con IA que, según la discográfica, imitan sin autorización…
Por qué importaMuestra la escala industrial que ha alcanzado la suplantación de voces de artistas mediante IA y la presión creciente sobre plataformas para moderar…
Investigación revela 181 webs de 'nudify' con IA que suman 40 millones de visitas mensuales
Una investigación del Institute for Strategic Dialogue, con apoyo del AI Security Institute, identificó 181 páginas web que ofrecen herramientas 'nudify'…
Por qué importaEvidencia la escala industrial de un abuso facilitado por IA generativa accesible y barata, con riesgo legal, reputacional y de protección de menores…
Influencers falsos generados con IA y cuentas robadas se usan para estafas de phishing y fraude
Panda Security y medios como VerificaRTVE y el FBI alertan de estafas que usan identidades de influencers, ya sea copiando su imagen, robando sus cuentas o…
Por qué importaEl uso de IA generativa para crear personas inexistentes que parecen reales añade una capa de sofisticación a las estafas basadas en confianza…
Candidatos falsos con IA generativa se infiltran en procesos de selección empresarial
Empresas de todo el mundo detectan candidatos que usan deepfakes de rostro y voz, currículums y perfiles de LinkedIn generados con IA para pasar entrevistas…
Por qué importaEl fraude de identidad en procesos de selección convierte a RRHH en un frente de ciberseguridad, con riesgo de robo de datos, malware interno y…
Estudio revela 40 millones de visitas mensuales a webs que generan desnudos falsos con IA
El Institute for Strategic Dialogue identificó 181 páginas web que ofrecen herramientas 'nudify' capaces de generar imágenes íntimas falsas a partir de fotos…
Por qué importaExpone un riesgo reputacional y legal creciente para empresas y plataformas que gestionan imágenes de usuarios, así como una responsabilidad…
Gobierno de Trump reemplaza 'inteligencia artificial' por 'superinteligencia' en documentos oficiales
El gobierno de Trump está sustituyendo el término 'inteligencia artificial' por 'superinteligencia' en documentación oficial, tras una encuesta en redes…
Por qué importaIlustra la tensión entre la promoción entusiasta de la IA por parte de gobiernos y su exposición simultánea a los efectos secundarios, como los…
Amazon prueba una IA que modifica los labios de actores para sincronizarlos con doblajes
Amazon ha presentado una herramienta de IA que altera digitalmente los labios y la parte inferior del rostro de los actores, fotograma a fotograma, para que…
Por qué importaEs una muestra más de cómo Amazon integra IA generativa en toda la cadena de producción audiovisual, lo que puede reducir costes de localización pero…
Investigadores descubren apps de citas fraudulentas que usan avatares IA para estafar a usuarios
Un investigador de seguridad analizó una app de citas fraudulenta llamada Dora y recibió una videollamada de un perfil generado con IA llamado 'Jennifer'. El…
Por qué importaEste tipo de fraude combina generación de avatares con IA e ingeniería social para estafar a usuarios en plataformas de citas, un vector de ataque…
La Fiscalía de Manhattan incauta 12 webs que vendían vídeos deepfake pornográficos de 1.200 personas
La Oficina del Fiscal de Distrito de Manhattan incautó 12 sitios web que creaban y vendían vídeos pornográficos falsos generados con IA de aproximadamente…
Por qué importaEs una acción legal concreta contra el porno deepfake, un fenómeno que amenaza la reputación y privacidad de personas y que hasta ahora tenía escasa…
Estudio de Kaspersky halla que IA hace más difíciles de detectar estafas por WhatsApp y SMS
Un estudio internacional de Kaspersky señala que WhatsApp (43%) y SMS/iMessage (40%) son los canales más usados en estafas de mensajería, y que el 63% de los…
Por qué importaLa IA generativa está eliminando las señales tradicionales de phishing (errores de redacción, traducciones torpes), lo que obliga a empresas y…
ESET alerta sobre suplantación de identidad con DNI mediante IA generativa y recomienda protocolos de protección
ESET publicó un análisis sobre el uso de IA generativa para crear fotos y vídeos sintéticos que suplantan el DNI y burlan verificaciones biométricas bancarias…
Por qué importaEl fraude de identidad basado en IA generativa aumenta la responsabilidad legal y financiera de bancos, hoteles y otras empresas que verifican…
Estafas con IA generativa se disparan en WhatsApp y SMS, según estudio de Kaspersky
Un estudio internacional de Kaspersky, 'The Great Messaging Heist', halla que WhatsApp aparece en el 43% de las estafas por mensajería y SMS/iMessage en el…
Por qué importaLa IA generativa reduce las barreras técnicas para crear engaños creíbles a escala, lo que aumenta el riesgo de fraude para empleados y clientes que…
Deepfakes de Luisito Comunica y Kenia Os alaban al gobierno mexicano sin su consentimiento
El youtuber Luisito Comunica denunció videos generados con IA en los que una versión artificial suya y de Kenia Os hablaban favorablemente del gobierno…
Por qué importaEl caso ilustra un vacío legal creciente en América Latina sobre el uso no autorizado de identidad sintética con fines políticos o comerciales, algo…
Investigación revela 138 mujeres parlamentarias europeas en webs de deepfakes pornográficos
Un análisis de 160 sitios web de deepfakes sexuales, realizado por el investigador Benjamin Shultz para Agora Digitale Transformation, halló que al menos 138…
Por qué importaEl fenómeno muestra cómo la IA generativa se ha industrializado para el acoso dirigido a mujeres con poder público, con efecto disuasorio sobre su…
Guía práctica para detectar deepfakes de voz e imagen en videollamadas
El artículo describe técnicas para identificar deepfakes en videollamadas en tiempo real, como desincronización labial, iluminación inconsistente, parpadeo…
Por qué importaLas estafas por suplantación de identidad mediante deepfakes en videollamadas son una amenaza creciente para empresas y familias, especialmente en…
Meta elimina función de Instagram que permitía modificar fotos públicas con IA Muse
Meta anunció el viernes la eliminación de una característica de Instagram integrada con Muse Image que permitía a cualquier usuario modificar, editar o…
Por qué importaIlustra las tensiones entre capacidad tecnológica y aceptación social en herramientas de IA generativa: incluso empresas grandes pueden subestimar el…
Más de 100 apps de desnudos por IA generan 117 millones en Apple y Google
El Tech Transparency Project identificó 102 aplicaciones (55 en Google Play Store y 47 en Apple App Store) capaces de crear imágenes y videos sexualizados sin…
Por qué importaRevela un fracaso sistémico de los principales ecosistemas de aplicaciones en moderar contenido generado con IA que viola derechos fundamentales. La…
Usuarios de redes sociales crean imágenes falsas con IA para identificar al agente que disparó
Tras el disparo mortal de un agente de ICE contra Renee Nicole Good en Minneapolis el 8 de enero, usuarios de redes sociales han compartido imágenes alteradas…
Por qué importaIlustra un riesgo emergente de los sistemas de IA generativa: su capacidad para producir imágenes faciales convincentes pero completamente fabricadas…
Francia y Malasia investigan a Grok por generar deepfakes sexualizados
Francia y Malasia se suman a India investigando a Grok, el chatbot de xAI, por generar imágenes deepfake sexualizadas de mujeres y menores. Grok publicó una…
Por qué importaMarca un punto de inflexión crítico en la regulación de herramientas de IA generativa: gobiernos clave están ejecutando acciones legales coordinadas…
Deepfakes e imágenes falsas inundan redes tras anuncio de captura de Maduro
Tras el anuncio del presidente Donald Trump sobre la captura del presidente venezolano Nicolás Maduro y su esposa el 3 de enero de 2026, se propagaron…
Por qué importaDemuestra cómo la combinación de IA generativa (vídeos, imágenes deepfake) con redes sociales con moderation laxo amplifica desinformación en eventos…