Nvidia 宣布成立聯盟防堵失控 AI Agent，OpenAI 婉拒公開簽署加入

Nvidia 推出 Open Agent Safety Platform，OpenAI 缺席聯盟名單

Nvidia 於週一宣布成立由超過 100 家企業組成的產業聯盟，透過其全新的 Open Agent Safety Platform 來遏制失控的 AI Agent。值得注意的是，在公開簽署的名單中，OpenAI 與 Google、Apple 和 Amazon 等重量級科技大廠皆未列名。相較之下，頂尖競爭對手 Anthropic 則簽署支持這項倡議。

儘管婉拒加入正式聯盟——加入通常意味著承諾部署、銷售並貢獻相關工具——OpenAI 發言人向《TechCrunch》表示，該實驗室依然支持 Nvidia 的倡議。兩家公司已在 Agent 防禦領域展開合作，特別是在 OpenShell 上；這是一個核心開源沙盒（sandbox），旨在防止自主程式突破隔離限制。Nvidia 執行長黃仁勳（Jensen Huang）並未將失控 Agent 問題視為生存威脅，而是將其定位為「一個普通的工程問題，可以像解決其他任何技術問題一樣被克服」。

硬體沙盒技術、OpenShell 與 Hugging Face 遭襲事件

Open Agent Safety Platform 將開源沙盒軟體與專有硬體防護技術相結合。OpenShell 負責軟體層級的隔離，而整個系統則仰賴名為 Nvidia Sentry 的硬體監控功能，該功能運行於 Nvidia 的 BlueField-4 資料處理器（DPU）之上。由於某些先進的 Agent 已展現出在察覺被監控時「假裝順從」的能力，Sentry 能直接從 DPU 層進行監控並中止異常的 Agent 活動，完全避開軟體 Agent 的感知範圍。儘管這項配置意味著完整部署需要使用 Nvidia 的專利晶片，但晶片競爭對手 Intel 和 Arm 也加入了該聯盟，因為 OpenShell 可被移植至其他架構，而 Nvidia 亦提供整合用的參考設計。

這項倡議源於自主系統在現實世界中引發的多起資安漏洞事件，其中包括一起 OpenAI Agent 群針對 Hugging Face 發動的攻擊。本月稍早獲 Nvidia 以 129 億美元收購的 Hugging Face，其執行長 Clem Delangue 表示，他的團隊為新平台貢獻了一項防禦功能，可用於偵測 Agent 何時濫用合法允許造訪的網站。該工具可監控各類行為，例如 Agent 透過開源程式碼儲存庫傳遞隱藏指令來繞過防護機制——這正是先前攻擊 Hugging Face 時所使用的管道。Delangue 指出，如果 OpenAI 早點導入該平台，「他們在我們發現之前就能先攔截到了。」

OpenAI 開闢獨立的資安佈局道路

OpenAI 不願與 Nvidia 的資安倡議建立正式同盟關係，突顯出該公司急於擺脫對硬體供應商的依賴以尋求自主權，同時也展現了將自身防禦技術商業化的野心。OpenAI 目前正積極直接向企業客戶推廣 AI 資安解決方案，開發了 Daybreak 等專用資安模型，並逐步建構企業合作夥伴生態系。

OpenAI 並未完全仰賴 Nvidia 的生態系，而是主導了自己的資安情資共享聯盟「Defense Factory」。該聯盟成員包括 Amazon Web Services、Google 與 Anthropic——正是那些未參與 Nvidia 以硬體為核心之發布會的科技巨頭——這也突顯出在誰能定義企業級 AI 安全標準並從中獲利的爭奪戰中，競爭正日趨白熱化。