Investigadores alertan de que OpenAI y Google dejan generar desnudos con IA
Hecho Qué ha ocurrido
Investigadores en seguridad advierten de que se difunde sin control mucho contenido sexual explícito generado con IA. Un estudio coescrito por Google, realizado en Estados Unidos, Australia y Reino Unido, concluyó que el punto de intervención más crítico está en las herramientas que crean las imágenes falsas. Pruebas de red teaming recientes sugieren que los generadores de imagen más capaces de Google y OpenAI podrían estar bloqueando peor las salidas explícitas.
Resumen generado mediante IA a partir de Ars Technica AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Las salvaguardas de los generadores de imagen más usados pueden fallar, lo que eleva el riesgo legal y reputacional para las empresas que integran estas herramientas en sus productos o procesos.
- Quién se ve afectado
- Empresas que integran generación de imágenes en sus productos, plataformas de contenido y áreas de cumplimiento y seguridad.
- Qué puede cambiar
- Es probable que aumenten las exigencias de filtrado y verificación de las herramientas de imagen, y que las plataformas tengan que revisar sus controles de contenido.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Respuestas de OpenAI y Google a los hallazgos, cambios en sus filtros de imagen y posibles iniciativas regulatorias sobre contenido sexual generado con IA.
Enviar esta noticia por correo
Fuente original: Ars Technica AI. La referencia es siempre el artículo original.
Ver fuente original ↗generación de imagen OpenAIGoogle contenido sexualdeepfakesGoogleOpenAIseguridad
Tu opinión
0 comentarios
Relacionadas
Un informe revela que solo 2 de 134 modelos de IA superaron pruebas sobre terrorismo y armas
El grupo Tech Against Terrorism, respaldado por las Naciones Unidas, probó 134 modelos de IA con más de 200 pedidos vinculados a atentados y armas químicas o…
Por qué importaMuestra que las salvaguardas de los modelos pueden eludirse con cambios de encuadre y que los modelos abiertos sin filtros se difunden en pocos días…
Brad Smith pide normas globales de seguridad para la IA y un freno de emergencia
Brad Smith, presidente de Microsoft, pidió normas globales de seguridad para la IA en declaraciones al podcast Big Boss Interview de la BBC. Afirmó que una…
Por qué importaMuestra la división entre grandes empresas de IA sobre si la autorregulación basta, con Microsoft, accionista de OpenAI, en desacuerdo con la postura…
Hassabis advierte de posibles incidentes graves con agentes de IA en uno o dos años
El presidente de Google DeepMind, Demis Hassabis, advirtió en Dublín que los agentes de IA podrían causar 'incidentes graves' en uno o dos años si empresas y…
Por qué importaLa advertencia procede de un responsable de uno de los laboratorios líderes y sugiere que la gestión de riesgos de los agentes debería entrar en la…
El FBI detiene a un ingeniero de OpenAI acusado de espiar reuniones de alta dirección con un micrófono oculto
El FBI ha detenido a Abdulrahman Alfozan, ingeniero saudí de 35 años que llevaba unos meses trabajando en OpenAI, acusado de intentar obtener información de…
Por qué importaMuestra que el espionaje industrial es un riesgo real para las empresas de IA, incluso dentro de sus propias oficinas. Obliga a revisar el control de…