Ofcom mantiene investigación a X pese a restricciones de Grok para generar desnudos
Hecho Qué ha ocurrido
Ofcom continúa su investigación formal contra X tras confirmarse que la plataforma ha implementado medidas tecnológicas para impedir que Grok genere imágenes íntimas no consentidas de personas. X había restringido inicialmente la función a usuarios de pago, pero tras la presión del Gobierno del Reino Unido, extendió la prohibición a todos los usuarios, incluidos suscriptores. Además, implementó un bloqueo geográfico en la capacidad de Grok para generar imágenes de personas en ropa interior o reveladora donde la ley lo restringe. La investigación comenzó el 5 de enero tras reportes de que Grok se usaba para desnudar digitalmente imágenes, principalmente de mujeres y menores.
Resumen generado mediante IA a partir de The Register AI (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
Establece un precedente regulatorio crucial sobre responsabilidad corporativa en IA generativa y seguridad infantil en redes sociales. Para empresas y plataformas, evidencia que los gobiernos pueden forzar cambios técnicos sustanciales y que no basta con correcciones parciales: la respuesta inicial limitada de X a usuarios pagos fue rechazada públicamente por autoridades.
- Quién se ve afectado
- Plataformas de redes sociales, proveedores de IA generativa, empresas de tecnología en el Reino Unido y jurisdicciones con leyes de seguridad digital.
- Qué puede cambiar
- Acelera la exigencia de auditoría técnica sobre contenido generado por IA en redes sociales. Las empresas no podrán justificar restricciones con modelos de negocio (acceso de pago); deben implementar controles uniformes. Probable imposición de mecanismos de verificación y reporte obligatorio a autoridades.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Resultado final de la investigación de Ofcom y magnitud de multa potencial bajo la Online Safety Act. Reacciones normativas similares de otros reguladores (la Fiscalía de California también investiga). Adopción de controles técnicos análogos por otras plataformas de IA. Cambios en términos de servicio y políticas de moderación de contenido no consentido.
Recomendación Qué debería hacer una empresa
Las empresas de IA y redes sociales deben revisar en los próximos 3-6 meses sus políticas de contenido íntimo generado y verificar conformidad con leyes de seguridad infantil locales (Online Safety Act, COPPA, GDPR). Evaluar si requieren auditoría independiente de capacidades de generación de imágenes.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Register AI. La referencia es siempre el artículo original.
Ver fuente original ↗generación de imágenesIA generativamodelos multimodal XOfcomxAI contenido no consentido Grok Online Safety Act Reino Unido seguridad infantil
Forma parte de la historia X y Grok bajo investigación por deepfakes sexuales no consentidos (15 noticias, estado: cerrada).
Relacionadas
Autoridad irlandesa abre investigación a X por deepfakes sexualizados generados con IA
La Comisión de Protección de Datos de Irlanda (DPC) ha iniciado una investigación exhaustiva sobre la plataforma X de Elon Musk, centrada en imágenes…
Por qué importaLa investigación sienta precedente sobre responsabilidad de plataformas al integrar herramientas generativas sin salvaguardas suficientes. Para…
España activa vía penal contra plataformas por pornografía infantil generada con IA
El Gobierno español ha invocado el artículo 8 del Estatuto Orgánico del Ministerio Fiscal ante el Consejo de Ministros para solicitar formalmente que la…
Por qué importaEste movimiento convierte una preocupación regulatoria en una posible vía de responsabilidad penal concreta contra plataformas, alineándose con…
Estudio: herramientas IA como Grok y Gemini generan imágenes falsas de políticos en segundos
NewsGuard, observatorio estadounidense contra la desinformación, prueba que Grok Imagine (xAI) y Gemini (Google) son capaces de crear imágenes falsas…
Por qué importaDemuestra que los guardrails de seguridad en herramientas generativas comerciales son inconsistentes y vulnerables a explotación para crear…
Grok sigue generando imágenes sexualizadas pese a restricciones de X
The Verge ha documentado que Grok, la IA de xAI integrada en X, continúa generando imágenes sexualizadas no consentidas, incluyendo desnudos de hombres y…
Por qué importaEste hallazgo demuestra que las salvaguardas contra la generación de deepfakes íntimos siguen siendo insuficientes en plataformas de masas, lo que…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.