엔비디아, 기가와트급 AI 인프라 구축 위한 재무적 타당성 제시

멀티 메가와트급 AI 인프라의 경제학

최신 AI 데이터센터가 메가와트(MW) 및 기가와트(GW) 규모로 확장되면서, 컴퓨팅 용량 구축은 천문학적인 자본이 투입되는 사업으로 변모했다. 팩토리 용량 메가와트당 약 6천만 달러의 비용이 소요됨에 따라, 운영사들은 장기적인 투자 수익률(ROI)을 통해 투자 당위성을 입증해야 하는 상황에 놓였다. 10월 1일, NVIDIA는 소위 'AI 팩토리'를 위한 상세한 재무 프레임워크를 공개하며 상업적 수익은 수익 창출 능력(earning capacity), 하드웨어 내구연한(useful hardware life), 워크로드 대체 유연성(workload fungibility)이라는 세 가지 상호 연결된 변수에 달려 있다고 주장했다.

NVIDIA에 따르면 하드웨어 수익성은 단순한 최고 속도나 단기적인 수요 급증에만 의존할 수 없다. 그 대신 지속 가능한 인프라라면 고정된 전력 한도 내에서 처리량을 극대화하고, 다년간의 감가상각 주기 전반에 걸쳐 2차 시장 가치를 유지해야 하며, 통합 소프트웨어 스택을 통해 AI 및 비-AI 워크로드를 모두 처리할 수 있어야 한다. 회사는 중앙유럽 여름시간(CEST) 기준 10월 21일 오전 11시에 예정된 젠슨 황 창업자 겸 CEO의 GTC Berlin 기조연설을 앞두고 이 프레임워크를 발표했다.

벤치마크, 인프라 수명 및 엔터프라이즈 도입 데이터

하이퍼스케일러와 클라우드 제공업체 운영의 실질적 한계선이 가용 전력량인 만큼, 수익 창출 능력의 핵심은 전력 효율성에 있다. NVIDIA는 SemiAnalysis AgentX의 데이터를 인용해, 자사의 차세대 Vera Rubin NVL72 시스템이 DeepSeek V4 Pro 모델 구동 시 GB300 NVL72 시스템 대비 메가와트당 처리량이 30배 이상 높고 100만 토큰당 비용은 최대 45배 절감된다고 강조했다. 또한 GLM 5.3 모델을 대상으로 GB300 NVL72 성능을 평가한 AgentX의 분석 결과도 함께 제시했다.

빠른 세대 교체로 인해 기존 반도체가 급격히 구형화된다는 우려에 맞서, NVIDIA는 데이터센터 인프라가 본래의 회계상 내용연수를 훨씬 지나서도 유효한 활용성을 유지한다는 데이터를 공개했다.

• 수명 연장: 2020년에 출시된 NVIDIA의 A100 GPU는 6년이 지난 지금도 여전히 상업 현장에서 활발히 운영되고 있다. 클라우드 제공업체 CoreWeave는 2020년에 처음 도입된 하드웨어에 대한 고객 예약 기간을 최근 2029년까지 연장했다.

• 중고 가치 및 계약: Barkr의 독립 평가에 따르면 8-GPU H100 시스템의 경제적 내구연한은 5~6년으로 추정되며, 장비 재판매 동향을 고려할 때 GB300 NVL72는 9~10년에 이를 것으로 전망됐다. Silicon Data의 분석 결과, 6년 된 A100 프로세서는 표준 5년 감가상각 기준상 장부가액이 0에 수렴함에도 불구하고 여전히 초기 도입 가격의 25% 수준에서 거래되고 있다. Ornn Data의 시장 지표에 따르면 A100 시스템의 5년 임대 계약 가격은 1개월 단기 임대 가격의 80% 수준을 유지하고 있는 것으로 나타났다.

• 감가상각 일정: Sprout이 2026년 9월 발표한 '데이터센터 GPU의 생산적 수명' 보고서에 따르면, 주요 클라우드 사업자들은 서버 감가상각 일정을 지속적으로 늦춰 왔다. 과거 사례 중 하나로 Microsoft는 회계상 장부 수명이 6년이었던 NVIDIA V100 클러스터를 8.4년 동안 운영한 바 있다.

NVIDIA는 이러한 장수명의 배경으로 1,000개 이상의 CUDA-X 라이브러리와 1,000만 명의 개발자가 뒷받침하는 CUDA 생태계의 하위 호환성을 꼽았다. 최신 알고리즘 패턴이 기존 반도체에서도 원활히 구동되기 때문에 운영사는 자산 가치 하락에 따른 손실을 방지할 수 있다는 설명이다.

현재 실제 현장의 도입 사례들은 이러한 하드웨어의 폭넓은 유용성을 잘 보여준다.

• Eli Lilly는 내부 에이전트 어시스턴트와 더불어 저분자 화합물, 단백질 및 유전체 모델링을 지원하기 위해 1,016개의 GPU로 구성된 온프레미스 클러스터를 운영 중이다.

• Pinterest는 NVIDIA Blackwell, Hopper 및 기존 아키텍처가 혼합된 14,000개의 클라우드 GPU 인프라 전반에서 비전-언어 모델의 사후 학습과 추론을 수행하고 있다.

• Revolut는 파운데이션 모델을 훈련하고 배포하기 전, 수십억 건의 금융 거래 데이터를 처리하는 데 cuDF 라이브러리를 활용하고 있다.

• Runway는 파이프라인을 세대별로 분리해 Hopper 시스템에서는 비디오 월드 모델을 훈련하고, Blackwell에서는 실시간 사용자 추론을 서비스하고 있다.

• 텍사스 A&M 대학교는 신약 개발 및 분자 시뮬레이션을 위한 슈퍼컴퓨팅 클러스터를 활용해 26개 연구 과제 전반에서 95%~98%의 가동률을 유지하고 있다.

• 핵심 머신러닝 분야 외에도 Dassault Systèmes는 위치타 주립대학교의 항공기 인증 및 Lucid Motors의 차량 엔지니어링을 위한 디지털 트윈 시뮬레이션에 GPU 가속을 적용하고 있으며, 소비재 대기업 Unilever는 제품 이미지를 디지털 트윈으로 전면 대체 제작해 마케팅 제작 비용을 50% 절감했다.

전력 제한이 촉발한 하드웨어 대체 유연성의 필요성

NVIDIA가 제시한 재무적 타당성은 데이터센터 업계 전반의 근본적 변화를 반영한다. 이제 운영 성장의 핵심 결정 요인은 상면 공간이나 서버 랙 가용성이 아니라 전력망 확보 능력으로 옮겨갔다. 엄격한 메가와트 한도 하에서 운영사들은 모델 아키텍처의 급격한 변화에 대비하는 동시에 단위 전력당 더 많은 수익을 창출해야만 한다.

NVIDIA는 추론 비용 절감이 새로운 소비자 및 기업용 애플리케이션의 등장을 촉진하므로, 토큰 단가를 낮추는 것이 전체 수요를 위축시키기보다 오히려 확대할 것이라고 주장한다. 프로그래밍 가능한 GPU와 CUDA 스택을 전용 맞춤형 ASIC의 대안으로 내세움으로써, NVIDIA는 데이터센터 구축 기업들이 향후 10년 가까운 기간 동안 훈련, 추론, 일반 기업용 병렬 컴퓨팅 사이를 유연하게 오갈 수 있는 인프라에 우선순위를 둘 것으로 내다보고 있다.