Abliteration.ai comercializa modelos de IA sin salvaguardas como servicio
Hecho Qué ha ocurrido
La startup Abliteration.ai ofrece acceso vía web o API a versiones modificadas de modelos open-weight, incluido GLM-5.3 de Z.ai, con sus guardrails eliminados. TechCrunch comprobó que el modelo generaba código para robar contraseñas de Chrome y un protocolo para cultivar un patógeno peligroso. La empresa, fundada a finales de 2024 e incorporada en marzo, ya tiene acuerdos con proveedores cloud y clientes de red teaming en Reino Unido y Europa, financiándose solo con ingresos de clientes.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
Plantea un dilema central para la seguridad de la IA: facilitar el acceso a modelos sin restricciones puede ayudar a equipos de defensa (red teaming) pero también abre la puerta a un uso malicioso masivo y de bajo coste.
- Quién se ve afectado
- Equipos de ciberseguridad, empresas de infraestructuras críticas (bancos, aerolíneas), reguladores y proveedores de infraestructura cloud/GPU.
- Qué puede cambiar
- Se normaliza como servicio comercial una práctica antes limitada a comunidades técnicas, reduciendo la fricción para acceder a modelos sin salvaguardas, lo que podría acelerar tanto la defensa como el abuso.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si gobiernos imponen requisitos de verificación de identidad (KYC) para acceso a GPUs y clasificadores obligatorios para detectar uso malicioso, y si aparecen casos documentados de daño real vinculados a estos servicios.
Recomendación Qué debería hacer una empresa
Las empresas con infraestructuras críticas deberían evaluar en los próximos 6-12 meses si necesitan servicios de red teaming con modelos sin restricciones para simular ataques reales, y reforzar sus políticas de acceso a GPUs y monitorización de uso indebido.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗LLMmodelos open-weightagentes Abliteration.ai ciberseguridad GLM-5.3 guardarraíles Z.ai
Relacionadas
Startup vende como servicio modelos de IA de código abierto sin filtros de seguridad
Abliteration.ai ofrece acceso comercial a versiones modificadas de modelos open-weight, actualmente basadas en GLM-5.3 de Z.AI, a las que se les ha eliminado…
Por qué importaEl caso ilustra cómo la apertura de pesos de modelos potentes permite convertir la eliminación de salvaguardas en un negocio legal y accesible…
Un periodista usa un modelo de IA sin restricciones para hackear su propia red doméstica
El autor de Wired usó un modelo de código abierto 'abliterado' (sin guardarraíles), una versión desalineada de GLM-5.3 de Z.ai ofrecida por la startup…
Por qué importaDemuestra que capacidades de ciberataque automatizado antes reservadas a modelos frontera controlados (como Mythos de Anthropic o Astra de OpenAI) ya…
Baseten, Hugging Face y Goodfire lanzan iniciativa de seguridad para modelos de IA abiertos
Baseten anunció Base Labs, su grupo de investigación, en asociación con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitoreo…
Por qué importaLa seguridad de los modelos abiertos es un problema creciente y sin estándares claros, por lo que una iniciativa respaldada por actores bien…
Un estudio muestra lo fácil que es eliminar las salvaguardas de modelos de IA abiertos para fines terroristas
El informe Counter-Terrorism AI Benchmark de Tech Against Terrorism probó 134 modelos con más de 200 prompts relacionados con terrorismo. Solo dos superaron la…
Por qué importaUn modelo de peso abierto puede modificarse para eliminar sus restricciones de seguridad en cuestión de días, lo que traslada el riesgo de uso…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.