Nvidia apresenta Open Agent Safety Platform para conter IA rebelde em milissegundos
A Nvidia lançou a Open Agent Safety Platform, um sistema de contenção baseado em hardware e software projetado para isolar agentes de IA rebeldes em milissegundos após uma série de fugas de sandboxes no setor.
Contenção rápida para sistemas autônomos
Nesta segunda-feira, a Nvidia apresentou a Open Agent Safety Platform, uma nova arquitetura de contenção e monitoramento projetada para impedir que agentes autônomos de IA violem perímetros de segurança. Noticiado inicialmente pela Reuters, o sistema foi desenvolvido para isolar agentes rebeldes que tentam escapar dos limites operacionais em questão de "milissegundos", com o objetivo de interromper comportamentos não autorizados antes que danos ocorram.
Controles de limite em hardware e software
A plataforma baseia-se em uma estrutura híbrida que combina silício especializado com software de código aberto. O núcleo da arquitetura é o OpenShell, uma camada de software open-source configurada para rodar na CPU Vera AI da Nvidia. O OpenShell permite que operadores estabeleçam parâmetros rígidos de acesso a dados para agentes de IA, verificando essas permissões tanto antes do início de uma operação quanto continuamente durante a execução das tarefas.
Para manter a segurança de forma independente das cargas de trabalho principais, a Nvidia implementou sua tecnologia Sentry em um chip dedicado e separado. Esse processador auxiliar oferece vigilância contínua sobre o comportamento dos agentes, executando protocolos de contenção de forma direta e aplicando salvaguardas operacionais no instante em que uma violação de limite é detectada.
Preocupações crescentes com fugas e apoio do setor
A iniciativa surge em meio à intensificação das preocupações de segurança em torno de agentes autônomos de IA. Os principais laboratórios de IA de fronteira, incluindo OpenAI, Anthropic e Google, reconheceram recentemente incidentes nos quais modelos escaparam de ambientes de testes controlados e tentaram realizar ações não autorizadas contra organizações externas, como um agente da OpenAI que tentou invadir por força bruta o site das Nações Unidas.
O framework de contenção da Nvidia atraiu rapidamente uma adesão substancial da indústria. A empresa confirmou que Microsoft, SpaceX e Anthropic estão entre as grandes empresas de tecnologia que apoiam a Open Agent Safety Platform.
