NVIDIA 發表 AIOps 可觀測性平台 Minerva，專為超大規模 AI 工廠打造

NVIDIA 推出專門的 AIOps 平台 Minerva，旨在為龐大的 AI 基礎架構提供端到端的可觀測性。該系統鎖定容納高達數十萬顆 GPU 的現代「AI 工廠」，將實體硬體遙測資料與運作中的 AI 工作負載直接連結，以識別效能瓶頸並確保叢集以最高效能運作。

現代 AI 訓練與推論工作負載高度仰賴龐大且互連的處理器叢集。在這些環境中，微小的故障——例如單顆 GPU 溫度異常升高，或是 NVMe 硬碟在高讀寫負載下效能衰退——都可能悄悄拖垮整個任務的效能。Minerva 正是為了解決這項痛點，將維運模式從被動式的故障排除轉向主動修復。

整合叢集拓撲與 AI 工作負載

傳統資料中心監控工具往往將維運分割為不同的孤島，導致機器學習、運算、網路與網站可靠性（SRE）團隊的掌握度支離破碎。Minerva 透過蒐集橫跨 NVIDIA GPU、SuperNIC、交換器、線纜、儲存系統、排程器以及工作負載的訊號，打破了這些藩籬。

藉由這些遙測資料，Minerva 建立了動態知識圖譜，將實體硬體與叢集上運行的具體任務進行對應。該平台利用監督式與非監督式機器學習演算法，每小時處理數十億個資料點。透過學習基準行為、偵測新型異常，並將相關事件與叢集拓撲進行關聯分析，Minerva 能將吵雜的「事件風暴」（event storms）濃縮為單一且重點明確的事件，並指出其根本原因。

Minerva 還內建原生 AI 助理，並能串接外部代理式 AI（agentic AI）系統。維運人員可以使用自然語言查詢叢集健康狀況並檢視基礎架構，獲得基於即時遙測資料、具備情境脈絡的修復建議。團隊既可手動審查這些建議，也能透過 API 將 Minerva 直接連接至基礎架構自動化系統。

最大化 AI 工廠良率

該平台的核心設計旨在提升「AI 工廠良率」（AI factory yield）——這項指標涵蓋了叢集運作時間、GPU 工時、有效輸送量（goodput）以及 Token 生成量。NVIDIA 列出了三大營運優勢：

• 延長中斷間隔時間： 預測性故障偵測能在任務停擺前解決問題。

• 加快修復時間： 精準定位根本原因，大幅縮短診斷硬體故障所花費的時間。

• 具體可行的見解： 機器學習模型能過濾龐大的資料串流，僅呈現高優先等級的警報。

「隨著我們擴大 AI 工廠規模，為客戶提供最佳服務的關鍵在於最大化 GPU 的生產力，」資料中心營運商 IREN 技術長 Denis Skrinnikoff 表示：「NVIDIA Minerva 為我們的維運團隊提供跨網路、GPU 以及其上運行任務的單一全景檢視，讓我們能更專注於主動維護，而非疲於排除故障。」

產業廣泛採用

眾多雲端與企業運算業者正準備導入該平台。除 IREN 外，包括 Tesla、IBM、Bitdeer AI、Lambda、Jio、Quake AI 和 Aolani 等企業皆計劃部署 Minerva。

企業級伺服器製造商 Dell Technologies、Lenovo 與 Supermicro 也將把 Minerva 直接整合至其 AI 工廠基礎架構產品組合中。