NVIDIA, CNCF에 OpenShell 기증 및 AI 팩토리용 오픈소스 Kubernetes 인프라 공개

KubeCon + CloudNativeCon에서 NVIDIA는 자율형 AI 에이전트의 보안을 강화하고 Kubernetes 환경에서 엔터프라이즈 AI 인프라를 확장하기 위한 오픈소스 기여를 대폭 확대한다고 발표했다.

대규모 GPU 클러스터를 오케스트레이션하기 위해 Kubernetes에 의존하는 AI 팩토리가 늘어남에 따라, 에이전트 보안 관리, 워크로드 수명 주기 제어, 모델 서빙 시간 단축이 운영상 핵심적인 병목 현상으로 부상했다. 이러한 요구를 해결하기 위해 NVIDIA는 핵심 에이전트 툴의 거버넌스를 커뮤니티로 이관하는 동시에 GPU 인프라 배포를 가속화하는 오픈소스 소프트웨어를 선보이고 있다.

OpenShell과 CNCF를 통한 AI 에이전트 보안 강화

NVIDIA는 Linux Foundation 산하 비영리 단체인 클라우드 네이티브 컴퓨팅 재단(CNCF)에 NVIDIA OpenShell을 기증한다. CNCF 샌드박스(Sandbox) 프로젝트로 승인된 OpenShell은 자율형 에이전트의 보안, 모니터링 및 거버넌스를 지원하도록 설계된 오픈소스 런타임이다.

OpenShell을 통해 엔터프라이즈 팀은 에이전트가 추론 엔드포인트에 접근하고 워크로드를 실행하며 서드파티 툴을 활용할 때 에이전트의 동작에 대해 결정론적 제어(deterministic controls)를 적용할 수 있다. 모듈식 아키텍처로 구성된 OpenShell은 조직의 컴퓨팅 백엔드, 자격 증명 보관소(credential vaults), 모니터링 스위트, 추론 제공업체와 연동된다. NVIDIA에 따르면 수백 개 기업이 OpenShell을 도입했으며, 출시 후 1년 만에 수만 건의 기여를 기록했다.

짐 젬린(Jim Zemlin) Linux Foundation CEO는 자율형 에이전트의 보안 확보가 클라우드 인프라의 결정적인 과제로 떠오르고 있다고 강조하며, OpenShell의 CNCF 이관을 통해 미래의 에이전트 보안 표준을 수립할 공유 커뮤니티 기반이 마련될 것이라고 밝혔다.

Google과의 Agent Substrate 협력

NVIDIA는 OpenShell 외에도 CNCF 샌드박스에 채택된 Google 주도의 오픈소스 프레임워크인 Agent Substrate에도 적극적으로 기여하고 있다. 장기 실행 에이전트 워크로드를 대규모로 구동하도록 설계된 Agent Substrate는 시스템이 공유 풀 전반에서 에이전트 실행 환경을 일시 중단 및 재개할 수 있도록 지원하며, 진행 중인 세션을 종료하지 않고도 유휴 시간 동안 GPU 컴퓨팅 리소스를 확보할 수 있게 돕는다.

NVIDIA는 공유 클러스터 리소스 관리를 위해 자사의 Dynamo 추론 플랫폼 및 KAI Scheduler와 Agent Substrate를 연동하고 있다. 나아가 NVIDIA와 Google은 OpenShell과 Agent Substrate를 통합하기 위해 직접 협력 중이며, 이를 통해 개발자는 하이브리드 및 멀티클라우드 환경 전반에서 보안 정책을 적용하고 원활하게 에이전트 실행을 관리할 수 있다.

NVKE와 Snapshot으로 GPU AI 팩토리 가속화

관리형 AI 팩토리 인프라를 구축하는 기업을 지원하기 위해, NVIDIA는 NVIDIA DSX AI Factory Platform을 확장하는 세 가지 신규 오픈소스 컴포넌트를 공개했다.

• NVIDIA Kubernetes Engine(NVKE) 및 NVIDIA Kubernetes Recipes(NVKR): 현재 퍼블릭 프리뷰로 제공되는 이 프로젝트들은 Kubernetes 상에서 GPU 인프라를 관리하기 위한 자동화된 클러스터 수명 주기 관리와 서명 및 버전 고정된 이미지를 제공한다. Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud, vCluster, Firmus, SK Telecom 등 다양한 생태계 파트너들이 자사 인프라 스택에 NVKE와 NVKR을 통합하고 있다.

• NVIDIA Snapshot: 제로 상태에서 추론 클러스터를 스케일링(scale-from-zero)할 때 발생하는 지연 시간을 해결하기 위해 구축된 오픈소스 모듈식 컴포넌트다. 노드가 모델 가중치를 다시 로드하고 긴 웜업 주기를 거치도록 강제하는 대신, Snapshot은 체크포인트된 복제본을 수 초 만에 복원한다.

초기 평가 결과 NVIDIA HGX B300 시스템에서 눈에 띄는 속도 향상이 입증되었다. 업스트림 기여사인 Crusoe는 Crusoe Cloud에서 GLM-5.3 모델을 테스트하여 준비 시간을 약 8분에서 31초로 단축했다. 마찬가지로 토큰 플랫폼인 Saturn Cloud는 vLLM을 사용한 제로 스케일 추론을 벤치마킹하여 시작 시간을 기존 2~8.5분에서 6~34초 사이로 대폭 줄였다.