엔비디아, 에이전트 AI 및 엣지 하드웨어에 최적화된 오픈소스 네모트론 3.5 모델 출시

엔비디아는 오픈 가중치 인공지능 시스템 라인업을 확장하며 네모트론(Nemotron) 제품군에 3가지 새로운 모델을 출시했습니다. 플래그십 모델인 네모트론 3.5 슈퍼 VL(Super VL)과 함께 네모트론 3.5 볼트 74B-A9B 24GB(Bolt 74B-A9B 24GB), 네모트론 3.5 볼트 E4B 4GB(Bolt E4B 4GB)가 포함됩니다.

이번 출시는 지난 8월 네모트론 3.5 라이트닝(Lightning) 출시 이후 이어진 것이며, 지난달 오픈소스 머신러닝 허브인 허깅 페이스(Hugging Face) 인수 계약 발표 이후 엔비디아의 첫 모델 출시입니다. 이 세 가지 모델은 현재 허깅 페이스에 호스팅되어 있습니다.

즉각적인 완료 및 로컬 에이전트 목표

새롭게 출시된 모델 중 선두 주자는 "항상 켜져 있는(always on)" 자율 에이전트를 위해 설계된 1,200억 개 매개변수 모델인 네모트론 3.5 슈퍼 VL입니다. 엔비디아에 따르면, 이 모델은 빠른 완료 기능을 제공하여 높은 정확도를 유지하면서 거의 즉각적으로 작업을 실행할 수 있습니다.

1,200억 개 매개변수 모델과 함께 엔비디아는 볼트(Bolt)라는 이름으로 두 가지 변형 모델을 소개했습니다.

• 네모트론 3.5 볼트 74B-A9B 24GB: 균형과 처리 속도를 제공하도록 최적화된 중간 규모 모델입니다.

• 네모트론 3.5 볼트 E4B 4GB: 대화형 에이전트를 위해 특별히 설계된 경량 모델입니다.

업계 전반에 걸쳐 흔히 볼 수 있는 부분적으로만 공개되는 모델들과 달리, 엔비디아는 이 세 가지 모델을 완전히 오픈소스로 공개하여 가중치, 훈련 데이터셋, 그리고 기본 훈련 레시피에 대한 대중의 접근을 허용했습니다.

경쟁사 견제 및 GPU 생태계 지원

이번 신규 모델 출시는 미국 개발자들이 알리바바(Alibaba)의 큐웬(Qwen) 제품군과 같은 중국산 저비용 고성능 오픈 가중치 모델에 대항할 강력한 오픈 대안을 모색하는 시점에 이루어졌습니다. 옴디아(Omdia)의 애널리스트 알렉산더 해로웰(Alexander Harrowell)에 따르면, 개발자들은 이미 새로운 모델로 전환하고 있으며, 알리바바의 큐웬 3.6 35B와 같은 모델을 네모트론 볼트로 적극적으로 대체하고 있습니다.

이번 움직임은 엔비디아의 광범위한 하드웨어 이익에도 부합합니다. 주요 클라우드 제공업체와 핵심 고객들은 구글(Google)의 TPU, 아마존(Amazon)의 트레이니움(Trainium) 가속기 칩, 오픈AI(OpenAI)의 개발 중인 할라페뇨(Jalapeño) 칩 등 자체 실리콘을 점점 더 많이 설계하고 있습니다. 엔비디아는 최적화된 오픈 모델을 출시하고, Run.ai GPU 오케스트레이션 플랫폼을 오픈소스화하는 등의 조치를 통해 자체 컴퓨팅 스택에 대한 수요를 유지하는 것을 목표로 합니다.

해로웰은 "엔비디아는 GPU 주변의 더 넓은 생태계를 지원하기 위해 이러한 노력을 하고 있다"고 언급하며, 칩 제조업체들이 모델, 소프트웨어, 하드웨어를 긴밀하게 통합하는 업계 전반의 움직임을 지적했습니다.

에이전트 워크로드를 온디바이스 컴퓨팅으로 발전

네모트론 3.5 슈퍼 VL과 볼트 모델의 아키텍처 설계는 단순 벤치마크 성능을 넘어 향상된 메모리 스케일링을 특징으로 하며, 이는 복잡하고 다단계적인 에이전트 워크플로우에 필요한 컨텍스트 창을 확장합니다.

E4B와 같은 소형 변형 모델의 컴팩트한 크기는 에이전트 실행을 중앙 집중식 데이터 센터에서 로컬 머신으로 옮기려는 업계의 움직임과도 일치합니다. 엔비디아 DGX 스파크(Spark) 및 애플 맥 미니(Mac Minis)와 같은 시스템은 에이전트 워크로드를 로컬에서 실행할 잠재력을 제공합니다. 하지만 해로웰은 더 광범위한 채택을 위해서는 기업들이 클라우드 호스팅 API에만 의존하기보다는 물리적 장치에 직접 호스팅되는 패키지 소프트웨어를 관리하는 방식으로 다시 전환해야 할 것이라고 지적했습니다.