Nvidia 推出 Nemotron 3.5 Super VL：專為企業 AI Agent 打造的 120B 開源多模態模型

Nvidia 正式擴大旗下開源模型陣容，推出 Nemotron 3.5 Super VL。這款擁有 1,200 億（120B）參數的多模態模型，專為驅動持續在背景運行的企業級人工智慧代理（AI Agent）而設計。除了這款旗艦模型外，Nvidia 還推出了兩款輕量級的 Bolt 衍生版本，旨在將本機 AI 能力導入個人電腦與邊緣裝置。

Super VL 是與 Nemotron Coalition 聯盟（成員包括 Mistral AI、Thinking Machines Lab、Perplexity 與 Black Forest Labs）聯手開發，採用混合專家架構（Mixture-of-Experts, MoE），在 1,200 億個參數中，每個 token 僅啟動 120 億個參數。

專為複雜工作流程與文件分析打造

Nvidia 設計 Super VL 的目的，是為了支援能夠執行多步驟業務流程、遵循複雜指令、調用工具，並處理文字、圖片、文件與影片的專業代理。

該模型原生即可解析表格、圖表與 PDF，無需額外的視覺模型輔助。根據 Nvidia 指出，Super VL 在 CharXiv 基準測試中拿下 80.8% 的分數（結合 Python 程式碼執行時更提升至 84%），並在 OCRBench v2 評測中名列開源模型前茅。

在效能表現方面，Nvidia 是從其規模更大的推理模型 Nemotron 3 Ultra 蒸餾出 Super VL。Super VL 僅使用了五分之一的參數量，卻能達到與 Ultra 相當的準確度。在單一 GPU 上，其吞吐量更達到同級開源模型的五倍之多。

適用於本機硬體的輕量級 Bolt 衍生版本

為了支援本機端執行，Nvidia 推出了兩款較小型的模型：

• Nemotron 3.5 Bolt 74B-A9B 24GB：這是一款混合 MoE 模型（在 740 億個參數中僅啟動 90 億個參數），並透過激進的 2 位元（2-bit）權重量化進行最佳化。該模型專為強大工作站以及如 RTX Spark、DGX Spark 等本機系統設計，不過需要至少配備 24 GB 記憶體的高階硬體支援。

• Bolt E4B 4GB：預計於本月稍晚推出的更小型版本，主要鎖定快速語音助理、互動式角色，以及運行於 GeForce RTX 顯示卡與 Jetson 模組上的邊緣裝置。

企業導入與最佳化技術

早期企業採用者正運用 Super VL 處理大量文件與資料敏感度高的工作負載。Scale AI 為 Skydance 調整了該模型以處理供應商信用審查；Ramp 利用它將收據照片轉換為結構化資料；安永（EY）則將其應用於併購盡職調查。Alice、Dream 與 CrowdStrike 等資安公司也正針對該模型進行微調，以用於漏洞分析與威脅偵測。

為了將運算開銷降至最低，Nvidia 使用其 4 位元 NVFP4 格式壓縮了 Super VL，並整合了旗下 Dynamo 推論軟體。藉由上下文快取（context caching）與投機起草（speculative drafting）技術，使該模型能同時服務高達八倍的並發使用者，同時將首字輸出時間（time-to-first-token）縮短了 85%。

開放權重與高可取得性

有別於業界常規作法，Nvidia 不僅發布了模型權重（已在 Hugging Face 上提供基礎版、後訓練版及 4 位元壓縮版），還公開了訓練配方、強化學習環境，以及涵蓋預訓練與後訓練的大規模資料集。這之中包含與印度理工學院馬德拉斯分校（IIT Madras）及 AI4Bharat 共同開發、涵蓋 22 種印度語言並包含 2.83 兆個 token 的印度語系資料集。