NVIDIA doa OpenShell para a CNCF e apresenta infraestrutura de código aberto em Kubernetes para fábricas de IA

Na KubeCon + CloudNativeCon, a NVIDIA anunciou uma grande expansão de suas contribuições de código aberto, com foco em proteger agentes autônomos de IA e escalar a infraestrutura corporativa de IA no Kubernetes.

À medida que as fábricas de IA dependem cada vez mais do Kubernetes para orquestrar clusters massivos de GPUs, gerenciar a segurança dos agentes, o ciclo de vida das cargas de trabalho e o tempo de disponibilização de modelos tornou-se um gargalo operacional crítico. Para atender a essas demandas, a fabricante de chips está transferindo a governança de ferramentas essenciais para agentes à comunidade, ao mesmo tempo em que introduz softwares de código aberto para acelerar a implantação de infraestrutura de GPUs.

Protegendo agentes de IA com OpenShell e CNCF

A NVIDIA está doando o NVIDIA OpenShell para a Cloud Native Computing Foundation (CNCF), organização sem fins lucrativos vinculada à Linux Foundation. Aceito como um projeto no CNCF Sandbox, o OpenShell fornece um runtime open-source projetado para proteger, monitorar e governar agentes autônomos.

O OpenShell permite que equipes corporativas apliquem controles determinísticos sobre o comportamento dos agentes enquanto eles acessam endpoints de inferência, executam cargas de trabalho e utilizam ferramentas de terceiros. Sua arquitetura modular conecta-se aos back-ends de computação, cofres de credenciais, suítes de monitoramento e provedores de inferência de uma organização. Segundo a NVIDIA, centenas de organizações já adotaram o OpenShell, com o projeto acumulando dezenas de milhares de contribuições em menos de um ano após seu lançamento.

Jim Zemlin, CEO da Linux Foundation, destacou que proteger agentes autônomos está se tornando um desafio determinante para a infraestrutura em nuvem, ressaltando que levar o OpenShell para a CNCF garante uma base comunitária compartilhada para moldar o futuro dos padrões de segurança para agentes.

Colaboração com o Google no Agent Substrate

Além do OpenShell, a NVIDIA está contribuindo ativamente com o Agent Substrate, um framework open-source originado pelo Google e aceito no CNCF Sandbox. Projetado para executar cargas de trabalho de agentes de longa duração em escala, o Agent Substrate permite que os sistemas suspendam e retomem ambientes de execução de agentes em pools compartilhados, liberando capacidade computacional de GPUs durante períodos de inatividade sem encerrar as sessões em andamento.

A NVIDIA está alinhando o Agent Substrate à sua plataforma de inferência Dynamo e ao KAI Scheduler para o gerenciamento de recursos em clusters compartilhados. Além disso, a NVIDIA e o Google estão colaborando diretamente para integrar o OpenShell ao Agent Substrate, permitindo que desenvolvedores apliquem políticas de segurança e gerenciem a execução de agentes de forma integrada em ambientes híbridos e multinuvem.

Acelerando fábricas de IA baseadas em GPU com NVKE e Snapshot

Para apoiar organizações que constroem infraestrutura gerenciada para fábricas de IA, a NVIDIA revelou três novos componentes de código aberto que expandem a plataforma NVIDIA DSX AI Factory:

• NVIDIA Kubernetes Engine (NVKE) e NVIDIA Kubernetes Recipes (NVKR): Agora em versão preliminar pública, esses projetos oferecem gerenciamento automatizado do ciclo de vida de clusters e imagens assinadas e com versões fixadas para o gerenciamento de infraestrutura de GPUs no Kubernetes. Parceiros do ecossistema, incluindo Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus e SK Telecom, estão integrando o NVKE e o NVKR às suas pilhas de infraestrutura.

• NVIDIA Snapshot: Um componente modular e de código aberto desenvolvido para solucionar a latência de escalonamento de clusters de inferência a partir do zero. Em vez de forçar os nós a recarregarem pesos de modelos e passarem por longos ciclos de aquecimento, o Snapshot restaura réplicas a partir de checkpoints em questão de segundos.

Avaliações preliminares destacam melhorias significativas de velocidade em sistemas NVIDIA HGX B300. A Crusoe, colaboradora upstream, testou o modelo GLM-5.3 na Crusoe Cloud, reduzindo o tempo de preparação de aproximadamente oito minutos para apenas 31 segundos. De maneira semelhante, a plataforma de tokens Saturn Cloud realizou benchmarks de inferência com escalonamento a partir do zero usando o vLLM, reduzindo os tempos de inicialização de 2 a 8,5 minutos para um intervalo entre 6 e 34 segundos.