NVIDIA, 기가와트급 AI 팩토리 협력 위해 OCP에 ‘베라 루빈’ 아키텍처 개방

미국 새너제이에서 열린 OCP(Open Compute Project) 글로벌 서밋에서 NVIDIA는 차세대 ‘베라 루빈(Vera Rubin)’ 아키텍처의 핵심 설계를 업계에 개방한다고 발표했다. 데이터센터 규모가 수 메가와트(MW) 수준에서 기가와트(GW)급으로 급격히 확대됨에 따라, NVIDIA는 개방형 ‘NVIDIA MGX’ 아키텍처를 통해 랙 및 컴퓨트 트레이 설계를 기증함으로써 전 세계 AI 팩토리를 위한 표준화된 기반을 구축한다는 방침이다.

이번 발표는 Meta, Google, Microsoft, Cisco, Visionbay 등 주요 하이퍼스케일러 및 네트워킹 선도 기업들이 대거 동참하는 인프라 표준화 및 하드웨어 협력의 일환으로 이뤄졌다.

오픈 MGX 1.2 및 특화형 CPU 랙 공개

NVIDIA는 OCP 오픈 DC 이니셔티브(Open DC Initiative)를 통해 3세대 MGX AI 데이터센터 레퍼런스 디자인에 기여했다. 새롭게 업데이트된 MGX 1.2 규격은 랙 스케일 블라인드 메이트 액체 냉각(blind-mate liquid cooling), 표준화된 전력 인터페이스, 팬리스 컴퓨트 트레이, 전력 집약적 배포를 위해 설계된 수랭식 5,000A 버스바(busbar)를 포함한다.

이 아키텍처는 기본 19인치 장비 호환성을 제공하면서 최대 250kW에 달하는 랙 전력 밀도를 지원한다. 대규모 학습 및 추론 워크로드를 위해 개발된 Vera Rubin NVL72 플랫폼과 함께, NVIDIA는 ‘Vera CPU’ 랙 설계 사양도 공개했다. MGX 기반으로 구축된 이 플랫폼은 실시간 도구 호출(tool calling), 오케스트레이션, 샌드박스 실행 등 에이전틱 AI(agentic AI) 워크로드에 특화되어 설계됐다.

하이퍼스케일러, 데이터센터 레이아웃 및 전력망 복원력 표준화 추진

AI 인프라 구축 과정에서의 파편화를 방지하기 위해 NVIDIA는 업계 파트너들과 함께 두 가지 핵심 개방형 규격을 마련했다.

• 오픈 데이터센터 사양 v0.7(Open Data Center Specification v0.7): AMD, Google, Meta와 공동 개발한 표준 문서로, 전력 아키텍처, 냉각 시스템, 물리적 데이터센터 레이아웃 전반을 아우르는 표준화된 청사진을 제공한다.

• OCP 전력망 복원력 사양(OCP Grid Resilience Specification): Google, Meta, Microsoft와 공동 발표한 규격으로, 초대형 AI 클러스터가 전력망 장애에 대처하는 방식을 정의한다. 전력망 교란 시에도 시스템의 연결을 유지하고, 부하를 자동으로 조절하며, 2초 이내에 거의 완전한 부하 상태로 복귀할 수 있는 프로토콜을 확립했다.

날로 높아지는 전력 밀도 문제에 대응해 Visionbay는 NVIDIA 레퍼런스 디자인과 Vertiv의 전력 및 열 관리 시스템을 결합한 800V DC AI 팩토리 플랫폼 ‘K-1’ 계획을 발표했다. K-1은 클러스터 레벨의 파워 센터를 통해 컴퓨트 트레이 인근에서 교류(AC)를 800V 직류(DC)로 변환함으로써, 기존 저전압 배전 대비 구리 케이블 사용량과 전력 변환 손실을 크게 줄였다.

차세대 네트워킹: Spectrum-6, USFP, Falcon

이번 서밋에서는 차세대 네트워킹 기술 역시 주요 의제로 다뤄졌으며, 주목할 만한 성과들이 연이어 발표됐다.

• Meta의 Spectrum-6 도입: Meta는 자사의 액체 냉각 IcePack 랙에 NVIDIA Spectrum-6 102.4Tb/s 이더넷 스위치를 전격 도입한다. ‘N-IceCube’로 명명된 이 스위치는 Meta의 오픈소스 네트워크 운영체제인 FBOSS를 구동한다. ConnectX-9 SuperNIC과 결합된 Spectrum-X 멀티플레인 아키텍처를 기반으로 GPU 트래픽을 최대 8개 네트워크 플레인에 분산해 10만 개 이상의 GPU 클러스터를 원활히 지원한다.

• Cisco와 NVIDIA의 USFP 공개: 양사는 초고밀도 소형 폼팩터 플러그형(USFP, Ultra-Dense Small Form Factor Pluggable) 트랜시버 모듈 계획을 공개했다. 레인당 200Gb/s 속도의 기존 OSFP 표준과 유사한 크기를 유지하면서, 레인당 400Gb/s 링크를 위한 16개 전이중(full-duplex) 레인을 제공한다(향후 로드맵상 32개 레인까지 확장). 이 설계는 대역폭 밀도를 4배 높이고 전력 효율성을 약 1.3배 개선하며, Amphenol과 TE Connectivity가 생태계 지원에 참여한다.

• Google Falcon Transport 지원 통합: NVIDIA와 Google은 차세대 NVIDIA ConnectX-10 SuperNIC 및 BlueField DPU에서 Google의 Falcon Transport 프로토콜을 지원한다고 발표했다. 이를 통해 대규모 AI 클러스터 전반에서 신뢰성 높은 하드웨어 가속 기반 멀티패스 이더넷 전송 환경을 제공하게 된다.

DSX AI 팩토리를 위한 오픈소스 소프트웨어 출시

이러한 물리적 시스템들을 통합 제어하기 위해 NVIDIA는 DSX AI 팩토리 운영 레이어를 위한 새로운 오픈소스 소프트웨어 툴도 공개했다. NVIDIA DGX Cloud 현장 운영 노하우를 바탕으로 제작된 이 모듈들은 스위치 배포 자동화를 지원하는 ‘NVIDIA Config Manager’, 학습 작업 시작 전 GPU 클러스터의 부하를 검증하는 ‘Cluster Readiness Engine’, 펌웨어 운영을 일원화하는 ‘Rack Management Service’, 베어메탈 멀티테넌트 프로비저닝을 위한 ‘Cluster API Provider’ 등으로 구성된다.