NVIDIA, 초거대 AI 팩토리용 AIOps 옵저버빌리티 플랫폼 'Minerva' 공개

NVIDIA가 시간당 수십억 개의 텔레메트리 데이터를 분석해 하드웨어 결함을 찾아내고 다운타임을 단축하며 AI 팩토리 수율을 극대화하는 AIOps 플랫폼 'Minerva'를 발표했다.

NVIDIA가 대규모 AI 인프라를 위한 엔드투엔드 옵저버빌리티(전체 가시성)를 제공하도록 설계된 전용 AIOps 플랫폼 'Minerva'를 출시했다. 최대 수십만 개의 GPU를 탑재한 최신 'AI 팩토리'를 겨냥한 이 시스템은 물리적 하드웨어 텔레메트리를 실행 중인 AI 워크로드와 직접 연결해 병목 현상을 파악하고 클러스터가 최고 성능으로 작동하도록 유지한다.

최신 AI 학습 및 추론 워크로드는 상호 연결된 프로세서들로 구성된 방대한 클러스터에 의존한다. 이러한 환경에서는 단 하나의 GPU 온도가 비정상적으로 상승하거나 과도한 읽기/쓰기 부하로 인해 NVMe 드라이브 성능이 저하되는 등의 미세한 장애가 전체 작업의 성능을 은밀하게 저하시킬 수 있다. Minerva는 운영 방식을 사후 문제 해결(troubleshooting)에서 선제적 해결(remediation)로 전환함으로써 이러한 취약점을 해결한다.

클러스터 토폴로지와 AI 워크로드의 통합

기존 데이터센터 모니터링 툴은 운영을 개별 사일로로 분리하는 경우가 많아 머신러닝, 컴퓨팅, 네트워킹, 사이트 신뢰성 엔지니어링(SRE) 팀에 파편화된 가시성을 제공하는 데 그쳤다. Minerva는 NVIDIA GPU, SuperNIC, 스위치, 케이블, 스토리지 시스템, 스케줄러, 워크로드 전반에서 신호를 수집해 이러한 경계를 허문다.

Minerva는 이 텔레메트리를 활용해 물리적 하드웨어와 클러스터 전반에서 실행되는 특정 작업을 함께 매핑하는 동적 지식 그래프(Knowledge Graph)를 구축한다. 이 플랫폼은 지도 및 비지도 머신러닝 알고리즘을 사용해 시간당 수십억 개의 데이터 포인트를 처리한다. 기본 동작 기준을 학습하고 새로운 이상 징후를 감지하며 클러스터 토폴로지에 맞춰 관련 이벤트를 상호 연관시킴으로써, Minerva는 노이즈가 많은 '이벤트 폭풍(event storms)'을 근본 원인이 규명된 단일 인시던트로 압축해 제시할 수 있다.

또한 Minerva에는 외부 에이전틱 AI(Agentic AI) 시스템과 연동할 수 있는 네이티브 AI 어시스턴트가 내장되어 있다. 운영자는 자연어를 사용해 클러스터 상태를 쿼리하고 인프라를 점검할 수 있으며, 실시간 텔레메트리를 기반으로 한 맥락적 조치 방안을 제공받는다. 운영팀은 제안 사항을 수동으로 검토하거나 API를 통해 Minerva를 인프라 자동화 시스템에 직접 연결할 수 있다.

AI 팩토리 수율 극대화

이 플랫폼은 클러스터 가동 시간(업타임), GPU 시간, 유효 처리량(굿풋, goodput), 토큰 생성을 아우르는 지표인 'AI 팩토리 수율(AI factory yield)'을 개선하도록 설계됐다. NVIDIA는 다음과 같은 세 가지 주요 운영상의 이점을 제시한다.

중단 간격 연장: 예측 기반 장애 감지를 통해 작업이 중단되기 전에 문제를 해결한다.

수리 시간 단축: 정확히 파악된 근본 원인을 통해 하드웨어 결함 진단에 소요되는 시간을 대폭 줄인다.

실행 가능한 인사이트: 머신러닝 모델이 대규모 데이터 스트림을 필터링해 우선순위가 높은 알림만 선별해 제공한다.

데이터센터 운영사 IREN의 데니스 스크린니코프(Denis Skrinnikoff) 최고기술책임자(CTO)는 "AI 팩토리를 확장함에 따라 고객에게 최고의 서비스를 제공하는 핵심은 GPU 생산성을 극대화하는 것"이라며, "NVIDIA Minerva는 네트워크와 GPU, 그 위에서 실행되는 작업을 아우르는 단일 뷰를 운영팀에 제공하므로, 사후 문제 해결보다는 선제적 유지보수에 더 집중할 수 있게 해준다"고 말했다.