AI RACE— 每日追蹤 AI 競爭賽局
Business

NVIDIA 與 CoreWeave 部署 Vera Rubin NVL72 與 Vera CPU 加速 Agentic AI 產業化

CoreWeave 在其雲端推出 NVIDIA Vera Rubin NVL72 GPU 與 Vera CPU,實現高達 4.8 倍的 Token 吞吐量提升與 3 倍更快的沙盒啟動速度,服務 Agentic AI 工作負載。

2026/09/30 22:00
NVIDIA và CoreWeave ra mắt hạ tầng “Agentic AI” mới: Vera Rubin NVL72 và CPU Vera trên đám mây

1. Announcement and Key Players

2026 年 9 月 30 日,NVIDIA 與雲端運算專家 CoreWeave 宣佈其次世代 AI 基礎建設已正式投入生產。於 CoreWeave Fully Connected 於舊金山舉辦的活動中,雙方揭曉 NVIDIA Vera Rubin NVL72 系統——搭配 Spectrum‑X 102.4 Tbps 乙太網路——以及首款為 Agentic AI 量身打造的 NVIDIA Vera CPU。Cognition(Devin AI 軟體工程師背後的應用 AI 實驗室)成為首批在 Vera Rubin 平台上執行生產工作負載的客戶。

2. Technical Details and Early Results

  • Hardware rollout: CoreWeave 收到首批 Vera Rubin NVL72 生產機架,並透過 CoreWeave Cloud 向客戶開放,成為首批將此平台公開的雲端服務商之一。此部署包含 128 顆 Vera CPU,單機架提供 11,264 核心,足以支援超過 11,000 個同時獨立環境。
  • Performance gains: Cognition 以真實軟體工程工作負載(取樣自 FrontierCode)對 Vera Rubin NVL72 與 GB200 NVL72 基線進行基準測試。結果顯示 SWE‑2 推論的 Token 吞吐量提升最高達 4.8 倍,等同於即時程式碼生成更快、多人步驟推理更即時。
  • Sandbox acceleration: 透過 CoreWeave Sandboxes,Vera CPU 的 代理沙盒啟動時間提升逾 3 倍,在 Terminal‑Bench 套件上取得 1.7 倍的整體效能提升。每個沙盒皆在硬體隔離環境中執行,搭配 Spectrum‑X 交換器與 BlueField‑4 DPU,確保低延遲且安全的通訊。
  • Software stack: AI 工廠採用 NVIDIA Dynamo——一套開源推論框架,同時支援 RL Rollouts(私有預覽功能),可在不中斷服務的情況下載入新 checkpoint。
  • CoreWeave Forge: 為了縮短生產與訓練之間的迴路,CoreWeave 推出 Forge,提供一站式環境,整合 Weights & Biases、OpenPipe 後訓練工具與 marimo notebook 專案。新服務包括:
  • CoreWeave ARIA – 以 AI 輔助的研究與程式碼撰寫助理,能分析執行結果、提出實驗建議,並自動在 GitHub 記錄變更。
  • CoreWeave Agent Lens – 針對生產代理的可觀測性工具,將失敗偵測率提升 20 %,修復成本減半。
  • CoreWeave Sandboxes – 正式 GA,提供 CPU 或 GPU 隔離執行環境,支援代理、工具呼叫、強化學習與評估,可於無伺服器或既有訓練基礎建設上運行。無伺服器監督式微調與 RL 的執行速度提升 1.4 倍,成本降低 40 %,相較自行管理的部署更具效益。
  • Early adopters: 除 Cognition 外,Canva、Capital One、MasterClass 與醫療服務提供商 Ennoble Care 皆已開始在 Forge 上建置。Ennoble Care 將於 CoreWeave Kubernetes Service 上保留 NVIDIA RTX PRO 6000 GPU,用於臨床文件與決策支援代理。

Quotes:

「NVIDIA 加速運算在各代皆能創造價值,」Ian Buck 表示,身為 NVIDIA 超大規模與 HPC 副總裁。「CoreWeave 的 V100 GPU 在 Volta 推出近十年後仍持續為客戶服務,即便 CoreWeave 正將 Vera Rubin NVL72 交付生產,仍展現出卓越的耐用性。」
「Agentic coding 是一項複雜工作負載:長上下文、高併發與大量 Token,成本每個 Token 決定我們能交付的規模,」Silas Alberti、Cognition 創始團隊成員指出。「所有資源都集中於同一平台,且有 NVIDIA 與 CoreWeave 的工程師與我們一起解決硬核問題,對我們而言遠比單一規格更具意義。」

3. Industry Implications

此發佈凸顯了 Agentic AI 的整體趨勢——大型語言模型不再僅是工具,而是能自動執行程式設計、臨床診斷或客服對話的自主軟體代理。透過提供從訓練到即時推論的全端多代平台,NVIDIA 與 CoreWeave 旨在降低長期以來阻礙原型到生產轉移的碎片化問題。他們所宣稱的 V100 GPU 十年 ROI,突顯了 NVIDIA 硬體路線圖的持久性,成為相較 AWS、Azure、Google Cloud 等競爭對手的關鍵優勢。

高通量的 Spectrum‑X 乙太網路、BlueField‑4 DPU 與專為 Agentic 工作負載打造的 CPU,讓此合作能同時滿足 低延遲服務 與 大規模平行訓練 的雙重需求。隨著更多企業——尤其是醫療、金融與創意產業——採用自主 AI 代理,快速啟動數千個獨立沙盒環境的能力,將可能成為雲端選擇的決定性因素。

---

所有數據與引述皆取自 NVIDIA 部落格文章《From Training to Production, NVIDIA and CoreWeave Close the Loop on Agentic AI》(發佈於 2026 年 9 月 30 日)。

◗ 參考來源

NVIDIA Blog09/30

相關文章