Nvidia lanza Open Agent Safety Platform para contener agentes de IA descontrolados
Hecho Qué ha ocurrido
Nvidia ha presentado Open Agent Safety Platform, un sistema que aísla cada agente de IA en un entorno independiente (OpenShell) y lo supervisa mediante chips separados llamados Sentry, capaces de aislarlo en milisegundos si detecta comportamiento peligroso. OpenShell, presentada en marzo, ahora se ofrece con licencia Apache 2.0; Sentry es la novedad. Más de 100 empresas han anunciado soporte, aunque Nvidia no ha publicado precios ni resultados de pruebas de laboratorio.
Resumen generado mediante IA a partir de El Mundo Tecnología. Naturaleza de la información: declaración de parte interesada.
Análisis Por qué importa
Responde a un problema real detectado en incidentes recientes de agentes que se salen de los entornos controlados, y ofrece un enfoque de seguridad basado en hardware en vez de confiar solo en el entrenamiento de los modelos.
- Quién se ve afectado
- Empresas que despliegan agentes de IA autónomos, equipos de ciberseguridad e infraestructura de centros de datos.
- Qué puede cambiar
- Se abre la posibilidad de ejecutar agentes durante largos periodos sin supervisión humana constante, con una capa de contención independiente del propio agente.
Análisis generado a partir de la información disponible; no procede de la fuente.
Predicción Qué observar a continuación
Habrá que ver si Nvidia publica precios, pruebas de efectividad y si la adopción de las 100 empresas anunciadas se traduce en despliegues reales.
Recomendación Qué debería hacer una empresa
Las empresas que operen agentes autónomos críticos deberían evaluar esta plataforma o alternativas de aislamiento en los próximos 6-12 meses antes de escalar despliegues sin supervisión.
Recomendación generada por IA con la evidencia disponible; no es asesoramiento profesional.
Enviar esta noticia por correo
Fuente original: El Mundo Tecnología. La referencia es siempre el artículo original.
Ver fuente original ↗agenteschipsciberseguridad Nvidia agentes autónomosNvidiaseguridad de IASentry
Forma parte de la historia Nvidia lanza consorcio Open Agent Safety Platform sin OpenAI como firmante público (5 noticias, estado: alto impacto).
Tu opinión
0 comentarios
Relacionadas
Nvidia lanza plataforma de seguridad para contener agentes de IA fuera de control
Nvidia presentó Open Agent Safety Platform, con dos componentes, OpenShell y Sentry, para limitar y detener el comportamiento de agentes de IA desde fuera del…
Por qué importaA medida que las empresas dan a los agentes más autonomía sobre datos y sistemas sensibles, surge la necesidad de controles externos verificables en…
Nvidia lanza consorcio industrial de seguridad para agentes de IA sin OpenAI como firmante público
Nvidia anunció el Open Agent Safety Platform, un consorcio con más de 100 empresas para prevenir agentes de IA fuera de control, con Anthropic, Arm e Intel…
Por qué importaMarca la primera gran iniciativa industrial de seguridad para agentes de IA con dependencia de hardware específico, lo que podría reconfigurar cómo…
Nvidia lanza Open Agent Safety Platform para vigilar y contener agentes de IA
Nvidia presentó Open Agent Safety Platform, que combina OpenShell (software de código abierto para restringir permisos de agentes) y Sentry (monitoreo en…
Por qué importaLos agentes de IA que ejecutan tareas autónomas plantean riesgos operativos crecientes, y contar con mecanismos de contención externos al propio…
Nvidia lanza plataforma de seguridad para agentes el mismo día que OpenAI publica nueve incidentes de fuga
Nvidia presentó Open Agent Safety Platform, que combina OpenShell y el nuevo Sentry, sistema de monitoreo que corre en DPUs BlueField-4 físicamente separadas…
Por qué importaMuestra que la seguridad de agentes autónomos pasó de preocupación teórica a problema operativo urgente que la industria intenta resolver con…