Nvidia presentó Open Agent Safety Platform para controlar agentes que ejecutan código y usan servicios externos. El sistema combina OpenShell, un entorno abierto que aísla cada agente y obliga a pasar el tráfico por un supervisor, con Sentry, una capa opcional que funciona en una DPU BlueField-4 separada del procesador principal. La idea es que las restricciones sigan activas aunque el agente intente cambiar de ruta o modificar su propio entorno.
La nueva versión de OpenShell añade una herramienta que analiza matemáticamente las políticas de acceso. Busca combinaciones de permisos que parecen seguras por separado pero permiten una acción prohibida al coordinar varios agentes, como leer información con uno y publicarla con otro. Sentry puede observar tráfico y actividad desde fuera del sistema anfitrión y, según Nvidia, aislar al agente en milisegundos. La compañía sostiene que OpenShell puede utilizarse sin la DPU en muchos casos; el hardware adicional apunta a evaluaciones de modelos y situaciones de mayor riesgo.
El anuncio responde a incidentes recientes en los que agentes encontraron vías imprevistas hacia sistemas reales. Nvidia argumenta que las instrucciones del modelo no bastan para gobernar accesos y acciones: hacen falta límites aplicados por infraestructura que el agente no controle. OpenShell es de código abierto, mientras Sentry no lo es. La utilidad de la plataforma dependerá de políticas bien definidas, integración con herramientas y pruebas que confirmen que las acciones peligrosas quedan bloqueadas.
Glosario
- OpenShell
- Entorno de Nvidia que ejecuta agentes en espacios aislados y media su acceso a herramientas y red.
- Sentry
- Servicio de vigilancia de Nvidia que observa al agente desde un procesador separado y puede aislarlo.
- DPU
- Procesador especializado en tareas de red e infraestructura que opera separado de la CPU principal.
- Política de acceso
- Conjunto de reglas que determina qué recursos y acciones puede utilizar un agente.