Baseten, Hugging Face y Goodfire lanzan iniciativa de seguridad para modelos de IA abiertos
Hecho Qué ha ocurrido
Baseten anunció Base Labs, su grupo de investigación, en asociación con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitoreo de seguridad para modelos de peso abierto. La iniciativa responde al problema de 'abliteration', técnica que elimina las salvaguardas de los modelos; Hugging Face aloja más de 6.000 modelos ya abliterados. Baseten levantó una Serie F de 1.500 millones de dólares en junio, alcanzando una valoración de 13.000 millones, y Goodfire recaudó 150 millones en su Serie B.
Resumen generado mediante IA a partir de TechCrunch AI (original en inglés). Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
La seguridad de los modelos abiertos es un problema creciente y sin estándares claros, por lo que una iniciativa respaldada por actores bien capitalizados podría influir en cómo se despliegan y monitorizan estos modelos en el futuro.
- Quién se ve afectado
- Desarrolladores y empresas que usan o despliegan modelos de peso abierto, equipos de seguridad de IA e infraestructura.
- Qué puede cambiar
- Podría surgir un marco de facto para entrenar y monitorizar modelos abiertos con controles de seguridad integrados desde el diseño, en lugar de añadidos después.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Vigilar si se publican detalles técnicos concretos del marco, si otros actores del ecosistema se suman a la iniciativa, y si Hugging Face adopta cambios en sus políticas frente a modelos abliterados.
Enviar esta noticia por correo
Enviado. Revisa que llegue a la bandeja de entrada de quien lo reciba.
La dirección no parece válida.
Has enviado varios correos seguidos. Espera un rato.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
No se ha podido enviar. Inténtalo de nuevo en unos minutos.
Fuente original: TechCrunch AI. La referencia es siempre el artículo original.
Ver fuente original ↗modelos abiertosinterpretabilidadmonitoreo de modelos BasetenHugging FaceGoodfire AI Baseten Goodfire Hugging Face modelos abiertos seguridad IA
Relacionadas
Abliteration.ai comercializa modelos de IA sin salvaguardas como servicio
La startup Abliteration.ai ofrece acceso vía web o API a versiones modificadas de modelos open-weight, incluido GLM-5.3 de Z.ai, con sus guardrails eliminados…
Por qué importaPlantea un dilema central para la seguridad de la IA: facilitar el acceso a modelos sin restricciones puede ayudar a equipos de defensa (red teaming)…
Solo 2 de 134 modelos de IA superan una prueba contra la ayuda a planes terroristas
Un informe de Tech Against Terrorism evaluó 134 modelos de IA con más de 200 solicitudes sobre ataques y armas, en tres rondas; solo dos superaron por completo…
Por qué importaMuestra que las salvaguardas de los modelos abiertos pueden desaparecer en días, lo que traslada el riesgo de uso indebido a cualquier empresa que…
Los modelos de IA de pesos abiertos se modifican en días para asistir a actividades terroristas, según un informe
Un informe de la ONG británica Tech Against Terrorism, con 134 modelos y más de 200 consultas, halla que la mayoría de modelos disponibles, cerrados y…
Por qué importaLos modelos abiertos pueden desplegarse localmente sin los filtros de los proveedores, lo que traslada a la empresa que los usa la responsabilidad…
Startup vende como servicio modelos de IA de código abierto sin filtros de seguridad
Abliteration.ai ofrece acceso comercial a versiones modificadas de modelos open-weight, actualmente basadas en GLM-5.3 de Z.AI, a las que se les ha eliminado…
Por qué importaEl caso ilustra cómo la apertura de pesos de modelos potentes permite convertir la eliminación de salvaguardas en un negocio legal y accesible…
Tu opinión
Te hemos enviado un correo para confirmar tu dirección. El comentario se procesará cuando pulses el enlace.
Gracias. Tu comentario se publicará cuando lo revise el equipo (los primeros comentarios de cada persona se moderan).
Comentario publicado. Gracias por participar.
No se puede comentar aquí.
Indica un nombre (de 2 a 60 caracteres).
El correo no parece válido.
El comentario debe tener entre 10 y 2.000 caracteres.
Demasiados enlaces en el comentario.
No se ha podido comprobar que no eres un robot. Vuelve a intentarlo.
Has alcanzado el límite diario de comentarios.
Demasiados comentarios seguidos. Espera un rato.
No se ha podido enviar el correo de confirmación. Inténtalo de nuevo en unos minutos.