Ofcom mantiene investigación a X pese a restricciones de Grok para generar desnudos
Hecho Qué ha ocurrido
Ofcom continúa su investigación formal contra X tras confirmarse que la plataforma ha implementado medidas tecnológicas para impedir que Grok genere imágenes íntimas no consentidas de personas. X había restringido inicialmente la función a usuarios de pago, pero tras la presión del Gobierno del Reino Unido, extendió la prohibición a todos los usuarios, incluidos suscriptores. Además, implementó un bloqueo geográfico en la capacidad de Grok para generar imágenes de personas en ropa interior o reveladora donde la ley lo restringe. La investigación comenzó el 5 de enero tras reportes de que Grok se usaba para desnudar digitalmente imágenes, principalmente de mujeres y menores.
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Establece un precedente regulatorio crucial sobre responsabilidad corporativa en IA generativa y seguridad infantil en redes sociales. Para empresas y plataformas, evidencia que los gobiernos pueden forzar cambios técnicos sustanciales y que no basta con correcciones parciales: la respuesta inicial limitada de X a usuarios pagos fue rechazada públicamente por autoridades.
- Quién se ve afectado
- Plataformas de redes sociales, proveedores de IA generativa, empresas de tecnología en el Reino Unido y jurisdicciones con leyes de seguridad digital.
- Qué puede cambiar
- Acelera la exigencia de auditoría técnica sobre contenido generado por IA en redes sociales. Las empresas no podrán justificar restricciones con modelos de negocio (acceso de pago); deben implementar controles uniformes. Probable imposición de mecanismos de verificación y reporte obligatorio a autoridades.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Resultado final de la investigación de Ofcom y magnitud de multa potencial bajo la Online Safety Act. Reacciones normativas similares de otros reguladores (la Fiscalía de California también investiga). Adopción de controles técnicos análogos por otras plataformas de IA. Cambios en términos de servicio y políticas de moderación de contenido no consentido.
Recomendación Qué debería hacer una empresa
Las empresas de IA y redes sociales deben revisar en los próximos 3-6 meses sus políticas de contenido íntimo generado y verificar conformidad con leyes de seguridad infantil locales (Online Safety Act, COPPA, GDPR). Evaluar si requieren auditoría independiente de capacidades de generación de imágenes.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗generación de imágenesIA generativamodelos multimodal XOfcomxAI contenido no consentidoGrokOnline Safety ActReino Unidoseguridad infantil
Forma parte de la historia X y Grok bajo investigación por deepfakes sexuales no consentidos (15 noticias, estado: cerrada).
Tu opinión
0 comentarios
Relacionadas
Autoridad irlandesa abre investigación a X por deepfakes sexualizados generados con IA
La Comisión de Protección de Datos de Irlanda (DPC) ha iniciado una investigación exhaustiva sobre la plataforma X de Elon Musk, centrada en imágenes…
Por qué importaLa investigación sienta precedente sobre responsabilidad de plataformas al integrar herramientas generativas sin salvaguardas suficientes. Para…
España activa vía penal contra plataformas por pornografía infantil generada con IA
El Gobierno español ha invocado el artículo 8 del Estatuto Orgánico del Ministerio Fiscal ante el Consejo de Ministros para solicitar formalmente que la…
Por qué importaEste movimiento convierte una preocupación regulatoria en una posible vía de responsabilidad penal concreta contra plataformas, alineándose con…
Estudio: herramientas IA como Grok y Gemini generan imágenes falsas de políticos en segundos
NewsGuard, observatorio estadounidense contra la desinformación, prueba que Grok Imagine (xAI) y Gemini (Google) son capaces de crear imágenes falsas…
Por qué importaDemuestra que los guardrails de seguridad en herramientas generativas comerciales son inconsistentes y vulnerables a explotación para crear…
Grok sigue generando imágenes sexualizadas pese a restricciones de X
The Verge ha documentado que Grok, la IA de xAI integrada en X, continúa generando imágenes sexualizadas no consentidas, incluyendo desnudos de hombres y…
Por qué importaEste hallazgo demuestra que las salvaguardas contra la generación de deepfakes íntimos siguen siendo insuficientes en plataformas de masas, lo que…