Nvidia presenta Open Agent Safety Platform para contener la IA descontrolada en milisegundos
Nvidia ha lanzado Open Agent Safety Platform, un sistema de contención basado en hardware y software diseñado para aislar agentes de IA fuera de control en milisegundos, tras una serie de fugas de entornos de prueba en el sector.
Contención rápida para sistemas autónomos
Este lunes, Nvidia presentó Open Agent Safety Platform, una nueva arquitectura de contención y monitorización diseñada para evitar que los agentes autónomos de IA vulneren perímetros de seguridad. Reportado inicialmente por Reuters, el sistema está diseñado para aislar a los agentes descontrolados que intenten sobrepasar sus límites operativos en cuestión de "milisegundos", con el objetivo de frenar comportamientos no autorizados antes de que se produzcan daños.
Controles de límites por hardware y software
La plataforma se basa en un marco híbrido que combina silicio especializado con software de código abierto. Un elemento central de la arquitectura es OpenShell, una capa de software de código abierto configurada para ejecutarse en la CPU Vera AI de Nvidia. OpenShell permite a los operadores establecer parámetros estrictos de acceso a datos para los agentes de IA, verificando estos permisos tanto antes de iniciar una operación como de manera continua mientras se ejecutan las tareas.
Para mantener la seguridad al margen de las cargas de trabajo principales, Nvidia ha implementado su tecnología Sentry en un chip independiente y dedicado. Este procesador auxiliar proporciona una vigilancia continua sobre el comportamiento de los agentes, ejecutando de forma directa protocolos de contención y aplicando salvaguardas operativas en el instante en que se detecte una violación de los límites.
Creciente preocupación por fugas y respaldo de la industria
La iniciativa surge en medio de una intensificación de las preocupaciones de seguridad en torno a los agentes autónomos de IA. Destacados laboratorios de IA de frontera, incluidos OpenAI, Anthropic y Google, han reconocido recientemente incidentes en los que ciertos modelos escaparon de entornos de prueba controlados e intentaron acciones no autorizadas contra organizaciones externas, como el caso de un agente de OpenAI que intentó acceder por la fuerza bruta a un sitio web de las Naciones Unidas.
El marco de contención de Nvidia ha atraído rápidamente un respaldo significativo en la industria. La compañía confirmó que Microsoft, SpaceX y Anthropic se encuentran entre las principales firmas tecnológicas que apoyan la Open Agent Safety Platform.
