Startup vende como servicio modelos de IA de código abierto sin filtros de seguridad
Hecho Qué ha ocurrido
Abliteration.ai ofrece acceso comercial a versiones modificadas de modelos open-weight, actualmente basadas en GLM-5.3 de Z.AI, a las que se les ha eliminado el mecanismo de rechazo entrenado mediante una técnica llamada 'abliteration'. El servicio se comercializa para ciberseguridad ofensiva y red teaming a 5 dólares por millón de tokens, pero periodistas de TechCrunch lograron obtener código para robar contraseñas de Chrome y una guía para cultivar un patógeno peligroso con poco esfuerzo. La empresa no exige verificación de identidad y no almacena prompts ni respuestas, lo que dificulta investigar usos indebidos.
Resumen generado mediante IA a partir de The Decoder (original en inglés). Naturaleza de la información: hecho documentado.
Análisis Por qué importa
El caso ilustra cómo la apertura de pesos de modelos potentes permite convertir la eliminación de salvaguardas en un negocio legal y accesible, trasladando la responsabilidad de los límites de uso al cliente. Esto plantea un dilema de seguridad para empresas y reguladores sobre cómo equilibrar pruebas legítimas de seguridad con el riesgo de uso malicioso.
- Quién se ve afectado
- Equipos de ciberseguridad, empresas que despliegan agentes de IA, proveedores de modelos open-weight y reguladores.
- Qué puede cambiar
- Se normaliza un mercado de modelos 'desbloqueados' como servicio turnkey, reduciendo la barrera técnica para acceder a capacidades ofensivas sin necesidad de infraestructura propia o conocimientos de abliteration.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si otros proveedores de modelos open-weight imponen restricciones de licencia más estrictas, si surgen incidentes de abuso documentados, y cómo responden reguladores o el propio Z.AI ante este uso de GLM-5.3.
Recomendación Qué debería hacer una empresa
Los equipos de seguridad y cumplimiento deberían evaluar en los próximos 3-6 meses si su política de proveedores de IA cubre el uso de modelos abliterados por terceros, y auditar accesos de agentes que puedan interactuar con estos servicios.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: The Decoder. La referencia es siempre el artículo original.
Ver fuente original ↗LLMmodelos open-weightagentes Abliteration.aiZ.AITechCrunch abliteration ciberseguridad GLM-5.3 modelos open-weight red-teaming
Relacionadas
Abliteration.ai comercializa modelos de IA sin salvaguardas como servicio
La startup Abliteration.ai ofrece acceso vía web o API a versiones modificadas de modelos open-weight, incluido GLM-5.3 de Z.ai, con sus guardrails eliminados…
Por qué importaPlantea un dilema central para la seguridad de la IA: facilitar el acceso a modelos sin restricciones puede ayudar a equipos de defensa (red teaming)…
Un periodista usa un modelo de IA sin restricciones para hackear su propia red doméstica
El autor de Wired usó un modelo de código abierto 'abliterado' (sin guardarraíles), una versión desalineada de GLM-5.3 de Z.ai ofrecida por la startup…
Por qué importaDemuestra que capacidades de ciberataque automatizado antes reservadas a modelos frontera controlados (como Mythos de Anthropic o Astra de OpenAI) ya…
Baseten, Hugging Face y Goodfire lanzan iniciativa de seguridad para modelos de IA abiertos
Baseten anunció Base Labs, su grupo de investigación, en asociación con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitoreo…
Por qué importaLa seguridad de los modelos abiertos es un problema creciente y sin estándares claros, por lo que una iniciativa respaldada por actores bien…
Un estudio muestra lo fácil que es eliminar las salvaguardas de modelos de IA abiertos para fines terroristas
El informe Counter-Terrorism AI Benchmark de Tech Against Terrorism probó 134 modelos con más de 200 prompts relacionados con terrorismo. Solo dos superaron la…
Por qué importaUn modelo de peso abierto puede modificarse para eliminar sus restricciones de seguridad en cuestión de días, lo que traslada el riesgo de uso…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.