AI RACE— 每日追蹤 AI 競爭賽局
New Models

NVIDIA 將 OpenShell 捐贈予 CNCF,並推出適用於 AI 工廠的開源 Kubernetes 基礎架構

在 KubeCon 大會上,NVIDIA 將其 OpenShell Agent 治理執行環境捐贈給 CNCF 沙箱專案,宣布與 Google 合作推進 Agent Substrate,並推出多項全新 Kubernetes 工具以大幅縮短 AI 推論啟動時間。

2026/11/10 23:00
NVIDIA đóng góp OpenShell cho CNCF, công bố hạ tầng Kubernetes mã nguồn mở cho các "nhà máy AI"

在 KubeCon + CloudNativeCon 大會上,NVIDIA 宣布擴大開源貢獻力道,旨在保障自主 AI Agent 的安全性,並擴大企業在 Kubernetes 上的 AI 基礎架構規模。

隨著 AI 工廠日益仰賴 Kubernetes 來調度龐大的 GPU 叢集,管理 Agent 安全性、工作負載生命週期以及模型提供服務(serving)的啟動時間,已成為關鍵的營運瓶頸。為了解決這些需求,這家晶片大廠正將關鍵 Agent 工具的治理權移交給社群,同時推出開源軟體以加速 GPU 基礎架構的部署。

透過 OpenShell 與 CNCF 強化 AI Agent 安全

NVIDIA 正將 NVIDIA OpenShell 捐贈予 Linux 基金會旗下的非營利組織雲端原生運算基金會(CNCF)。OpenShell 已被接納為 CNCF 沙箱(Sandbox)專案,提供專為保護、監控與治理自主 Agent 所設計的開源執行環境(runtime)。

OpenShell 讓企業團隊能夠在 Agent 存取推論端點、執行工作負載以及使用第三方工具時,對其行為實施確定性控制。其模組化架構可與企業的運算後端、憑證保存庫、監控套件以及推論供應商無縫串接。根據 NVIDIA 指出,已有數百家組織採用 OpenShell,該專案在發布後的一年內便累積了數萬次貢獻。

Linux 基金會執行長 Jim Zemlin 強調,保護自主 Agent 的安全正成為雲端基礎架構的關鍵挑戰;他指出,將 OpenShell 移交給 CNCF,可確保社群擁有共同的基礎,攜手制定未來的 Agent 安全標準。

與 Google 攜手合作 Agent Substrate

除了 OpenShell 之外,NVIDIA 也積極為源自 Google、同樣獲准進入 CNCF 沙箱的開源框架 Agent Substrate 做出貢獻。Agent Substrate 專為大規模執行長時間運行的 Agent 工作負載而設計,允許系統在共享資源池中暫停並恢復 Agent 執行環境,在閒置期間釋放 GPU 運算資源,且無須終止正在進行的工作階段(sessions)。

NVIDIA 正著手將 Agent Substrate 與其 Dynamo 推論平台以及用於共享叢集資源管理的 KAI Scheduler 進行整合。此外,NVIDIA 與 Google 正展開直接合作,將 OpenShell 與 Agent Substrate 整合,讓開發者能夠在混合雲與多雲環境中無縫強制執行安全政策並管理 Agent 的執行。

透過 NVKE 與 Snapshot 加速 GPU AI 工廠

為支援企業建構代管式 AI 工廠基礎架構,NVIDIA 發表了三款擴展 NVIDIA DSX AI Factory Platform 的全新開源元件:

  • NVIDIA Kubernetes Engine (NVKE) 與 NVIDIA Kubernetes Recipes (NVKR): 目前已推出公開預覽版,這兩項專案提供自動化叢集生命週期管理,以及已簽署、鎖定版本的映像檔,用於在 Kubernetes 上管理 GPU 基礎架構。包括 Mirantis、Netris、OpenNebula Systems、Rafay、Spectro Cloud、vCluster、Firmus 與 SK Telecom 在內的生態系合作夥伴,正陸續將 NVKE 與 NVKR 整合至其基礎架構技術堆疊中。
  • NVIDIA Snapshot: 這是一款模組化開源元件,專門解決推論叢集從零擴充(scale from zero)時的延遲問題。Snapshot 無需讓節點重新載入模型權重並經歷漫長的預熱週期,而是能在數秒內還原已建立檢查點的複本。

早期評測顯示其在 NVIDIA HGX B300 系統上展現顯著的速度提升。上游貢獻者 Crusoe 在 Crusoe Cloud 上測試 GLM-5.3 模型,將就緒時間從大約 8 分鐘縮短至 31 秒。同樣地,Token 平台 Saturn Cloud 以 vLLM 針對從零擴充的推論進行基準測試,將啟動時間從 2 至 8.5 分鐘大幅縮減至 6 到 34 秒之間。

◗ 參考來源

NVIDIA Blog11/10

相關文章