Nvidia、企業向けAIエージェントに特化した120Bのオープンマルチモーダルモデル「Nemotron 3.5 Super VL」を発表

Nvidiaは、エンタープライズ向けの常時稼働型バックグラウンドAIエージェントを駆動するために特化設計された1200億（120B）パラメータのマルチモーダルモデル「Nemotron 3.5 Super VL」をリリースし、オープンモデルのラインナップを拡充した。このフラッグシップモデルに加え、NvidiaはPCやエッジデバイスにローカルAI機能をもたらすよう設計されたコンパクトなBoltバリアント2種も発表した。

Mistral AI、Thinking Machines Lab、Perplexity、Black Forest Labsが参加する「Nemotron Coalition」と共同で開発されたSuper VLは、トークンごとにアクティブになるパラメータが1200億中わずか120億にとどまるMixture-of-Experts（MoE）アーキテクチャ上に構築されている。

複雑なワークフローと文書解析向けに構築

Nvidiaは、複数ステップのビジネスプロセスの実行、複雑な指示への追従、ツールの呼び出し、ならびにテキスト、画像、文書、動画の処理が可能な特化型エージェントを動かせるようSuper VLを設計した。

本モデルは、独立したビジョンモデルを必要とせず、表、グラフ、PDFをネイティブに解析する。Nvidiaによると、Super VLはCharXivベンチマークで80.8%のスコアを記録し（Pythonコード実行と組み合わせると84%に向上）、OCRBench v2でもオープンモデルとしてトップクラスにランクインしているという。

性能面において、NvidiaはSuper VLをより大規模な推論モデルであるNemotron 3 Ultraから蒸留した。Super VLはUltraのわずか5分の1のパラメータでありながら同等の精度を達成している。単一GPU上では、匹敵するオープンモデルと比較して最大5倍のスループットを実現する。

ローカルハードウェア向けのコンパクトなBoltバリアント

ローカル環境での実行をサポートするため、Nvidiaは2つの小型モデルを投入した：

• Nemotron 3.5 Bolt 74B-A9B 24GB：積極的な2ビット重み量子化を用いて最適化されたハイブリッドMoEモデル（740億パラメータ中90億がアクティブ）。RTX SparkやDGX Sparkなどの強力なワークステーションやローカルシステム向けに設計されているが、最低24GBのメモリを搭載したハイエンドハードウェアが必要となる。

• Bolt E4B 4GB：今月末にリリース予定のより小型のバリアントで、GeForce RTXカードやJetsonモジュール上で動作する高速な音声アシスタント、インタラクティブキャラクター、エッジデバイスをターゲットとしている。

エンタープライズでの導入と最適化

初期のエンタープライズ導入企業は、文書を多用するワークロードや機密性の高いデータ処理にSuper VLを活用している。Scale AIはSkydanceにおけるベンダークレジット処理に本モデルを適応させ、Rampは領収書の写真を構造化データに変換するために使用、EYは買収デューデリジェンスに活用している。さらにAlice、Dream、CrowdStrikeなどのサイバーセキュリティ企業も、脆弱性分析や脅威検知のために本モデルをファインチューニングしている。

計算オーバーヘッドを最小限に抑えるため、Nvidiaは4ビットのNVFP4フォーマットを用いてSuper VLを圧縮し、推論ソフトウェア「Dynamo」を統合した。これにより、コンテキストキャッシングと投機的ドラフティング（speculative drafting）を通じてTTFT（最初のトークン出力までの時間）指標を85%削減しつつ、8倍の同時アクセスユーザーに対応可能となった。

オープンウェイトによるアクセシビリティ

Nvidiaは業界の標準的な慣行を打ち破り、モデルの重み（Hugging Face上でベース、事後学習済み［post-trained］、4ビット圧縮版が提供される）だけでなく、トレーニングレシピ、強化学習環境、さらには事前学習および事後学習の大規模なデータセットも公開している。これには、Indian Institute of Technology MadrasやAI4Bharatと共同開発された、22のインド系言語にまたがる2兆8300億トークンを含むインド系言語データセットが含まれる。