Ofcom investiga a X por generación de imágenes sexualizadas con Grok
Hecho Qué ha ocurrido
Ofcom, el regulador de comunicaciones del Reino Unido, ha abierto una investigación formal contra X por posibles violaciones de la Online Safety Act relacionadas con el chatbot Grok generando imágenes sexualizadas de personas sin consentimiento, incluidas menores. La investigación fue anunciada el 12 de enero de 2026 tras meses de presión política y reportes de abuso. El regulador ha fijado un plazo urgente para que X explique qué medidas ha tomado para proteger a los usuarios británicos. Las violaciones pueden resultar en multas de hasta 18 millones de libras (24 millones de dólares) o el 10% de los ingresos mundiales, con posibles sanciones que incluyen restricción de acceso al servicio en el Reino Unido.
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Este caso marca el primer punto de quiebre regulatorio serio contra una capacidad de generación de imágenes de IA en una economía importante, estableciendo precedente sobre responsabilidad de plataformas por contenido sintético. Para directivos y responsables de IA, muestra cómo los marcos legales existentes comienzan a aplicarse a nuevas capacidades de IA generativa, incluso con lagunas legislativas.
- Quién se ve afectado
- Plataformas de redes sociales con capacidades de generación de imágenes, empresas de IA que integran modelos de imagen sin salvaguardas adecuadas, y reguladores globales que enfrentan presión para actuar contra deepfakes sexualizados.
- Qué puede cambiar
- Las empresas de IA y plataformas pueden ver restricciones regulatorias más estrictas en generación de contenido sintético, modelos de imagen restringidos a usuarios pagados, y potencialmente bloqueos de servicio en jurisdicciones que no cumplan con normativas locales. La tendencia sugiere que la regulación de deepfakes íntimos pasará de debate a implementación activa en mercados clave.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Resultado de la investigación de Ofcom antes de finales de Q1 2026; implementación del Data Use and Access Act del Reino Unido (que incluye provisiones contra deepfakes) y su entrada en vigencia; posibles bloqueos de X en otras jurisdicciones (Malaysia e Indonesia ya lo han hecho); reacción de otras reguladores europeos (especialmente Francia y Alemania); cambios en políticas de moderación de contenido de X y restricciones adicionales en Grok.
Recomendación Qué debería hacer una empresa
Las empresas que desarrollan o integran herramientas de generación de imágenes deben revisar en los próximos 6-12 meses su cumplimiento con leyes de contenido íntimo no consensuado (Online Safety Act, Data Use and Access Act, normativas similares en EU), implementar controles técnicos detectables y verificables, y evaluar si sus términos de servicio y mecanismos de moderación son robustos ante acción regulatoria.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗generación de imágenesdeepfakesLLM multimodal XxAIOfcom deepfakesGrokOnline Safety Actregulación UKsexualización sin consentimiento
Forma parte de la historia X y Grok bajo investigación por deepfakes sexuales no consentidos (15 noticias, estado: cerrada).
Tu opinión
0 comentarios
Relacionadas
Autoridad irlandesa abre investigación a X por deepfakes sexualizados generados con IA
La Comisión de Protección de Datos de Irlanda (DPC) ha iniciado una investigación exhaustiva sobre la plataforma X de Elon Musk, centrada en imágenes…
Por qué importaLa investigación sienta precedente sobre responsabilidad de plataformas al integrar herramientas generativas sin salvaguardas suficientes. Para…
España activa vía penal contra plataformas por pornografía infantil generada con IA
El Gobierno español ha invocado el artículo 8 del Estatuto Orgánico del Ministerio Fiscal ante el Consejo de Ministros para solicitar formalmente que la…
Por qué importaEste movimiento convierte una preocupación regulatoria en una posible vía de responsabilidad penal concreta contra plataformas, alineándose con…
Estudio: herramientas IA como Grok y Gemini generan imágenes falsas de políticos en segundos
NewsGuard, observatorio estadounidense contra la desinformación, prueba que Grok Imagine (xAI) y Gemini (Google) son capaces de crear imágenes falsas…
Por qué importaDemuestra que los guardrails de seguridad en herramientas generativas comerciales son inconsistentes y vulnerables a explotación para crear…
Grok sigue generando imágenes sexualizadas pese a restricciones de X
The Verge ha documentado que Grok, la IA de xAI integrada en X, continúa generando imágenes sexualizadas no consentidas, incluyendo desnudos de hombres y…
Por qué importaEste hallazgo demuestra que las salvaguardas contra la generación de deepfakes íntimos siguen siendo insuficientes en plataformas de masas, lo que…