Una subcultura de «abliteradores» elimina las salvaguardas de modelos abiertos de IA
Hecho Qué ha ocurrido
Según el reportaje, Devon Thomas fundó Abliteration AI, una empresa que elimina las medidas de seguridad de modelos de peso abierto potentes y los distribuye al público. El artículo describe una comunidad de ingenieros que comparte técnicas en Reddit, Discord y X para eliminar los rechazos de modelos como ChatGPT o Claude y de modelos abiertos. Un caso citado es Dolphin, un modelo sin censura basado en Llama de Meta, desarrollado por Eric Hartford.
Resumen generado mediante IA a partir de Wired en Español. Naturaleza de la información: análisis u opinión.
Análisis Por qué importa
La disponibilidad de modelos sin restricciones reduce el control que tienen los proveedores sobre el uso de sus sistemas y traslada parte de la responsabilidad de seguridad a quien los despliega. Para una empresa, esto afecta a la gestión de riesgos al usar modelos abiertos descargados.
- Quién se ve afectado
- Equipos de ciberseguridad, responsables de cumplimiento y empresas que usan modelos de peso abierto.
- Qué puede cambiar
- Las empresas que despliegan modelos abiertos podrían encontrar versiones sin salvaguardas circulando, lo que obliga a revisar qué modelos se usan y cómo se controlan.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Conviene vigilar si los proveedores de modelos abiertos refuerzan sus salvaguardas, si aparecen incidentes atribuidos a modelos modificados y qué respuesta dan los reguladores.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: Wired en Español. La referencia es siempre el artículo original.
Ver fuente original ↗modelos de peso abiertoLLM Abliteration AIMetaOpenAIAnthropic abliteration Dolphin modelos abiertos seguridad en IA
Relacionadas
Los 'abliteradores' eliminan las salvaguardas de modelos de IA de pesos abiertos y los distribuyen a cualquiera
Un reportaje de Wired describe a una corriente de desarrolladores que elimina las restricciones de modelos de IA de pesos abiertos y los pone a disposición de…
Por qué importaMuestra que los modelos abiertos pueden reconfigurarse para rechazar casi ninguna petición, lo que traslada parte del control de seguridad al usuario…
Abliteration.ai comercializa modelos de IA sin salvaguardas como servicio
La startup Abliteration.ai ofrece acceso vía web o API a versiones modificadas de modelos open-weight, incluido GLM-5.3 de Z.ai, con sus guardrails eliminados…
Por qué importaPlantea un dilema central para la seguridad de la IA: facilitar el acceso a modelos sin restricciones puede ayudar a equipos de defensa (red teaming)…
Startup vende como servicio modelos de IA de código abierto sin filtros de seguridad
Abliteration.ai ofrece acceso comercial a versiones modificadas de modelos open-weight, actualmente basadas en GLM-5.3 de Z.AI, a las que se les ha eliminado…
Por qué importaEl caso ilustra cómo la apertura de pesos de modelos potentes permite convertir la eliminación de salvaguardas en un negocio legal y accesible…
Baseten, Hugging Face y Goodfire lanzan iniciativa de seguridad para modelos de IA abiertos
Baseten anunció Base Labs, su grupo de investigación, en asociación con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitoreo…
Por qué importaLa seguridad de los modelos abiertos es un problema creciente y sin estándares claros, por lo que una iniciativa respaldada por actores bien…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.