NVIDIA, Nemotron 3.5 Transcribe·Liquid AI 모델·에이전트 리소스 제어 기능으로 RTX Spark 생태계 확장

NVIDIA가 자사 RTX Spark Windows 노트북 플랫폼을 위한 온디바이스 AI 소프트웨어, 오픈 가중치(open-weight) 모델, 개발자 도구 패키지를 발표했다. 이번 업데이트는 NVIDIA Nemotron 3.5 Transcribe와 Liquid AI의 LFM3 제품군을 필두로 한 음성, 멀티모달, 에이전트 중심 모델을 도입하고, NVIDIA App 내 정밀한 GPU 리소스 할당 제어 기능을 함께 제공한다.

현재 ASUS, Dell, HP, Lenovo, Microsoft, MSI에서 2,599달러부터 출시 중인 RTX Spark 시스템은 단일 슈퍼칩에 NVIDIA Blackwell RTX GPU와 NVIDIA Grace CPU를 결합했다. 이 시스템은 최대 128GB의 통합 메모리와 최대 1페타플롭스(petaflop)의 FP4 AI 성능을 제공하며, 14mm에 불과한 얇은 두께와 3파운드의 가벼운 폼팩터를 구현했다.

Nemotron 3.5 Transcribe, 로컬 실리콘에 프롬프트 지원 오디오 기능 제공

이번 NVIDIA 소프트웨어 배포의 핵심은 텍스트 전사(transcription), 화자 식별, 번역, 오디오 질의 응답을 단일 모델로 통합하도록 설계된 오픈 가중치 음성 모델인 Nemotron 3.5 Transcribe다. 개발자는 여러 특화 파이프라인을 복잡하게 연결하는 대신 자연어 명령 프롬프트를 사용해 화자 라벨이 포함된 텍스트 전사를 요청하거나, 오디오를 영어로 번역하거나, 녹음된 회의에서 결정된 사항 목록을 정리하도록 모델에 지시할 수 있다.

Nemotron 3.5 Transcribe의 주요 사양 및 벤치마크 결과는 다음과 같다.

• 규모 및 효율성: 약 43억 개의 활성 파라미터를 사용하며, 이는 현재 1위 오픈 가중치 모델 대비 파라미터 수가 80% 적다.

• 벤치마크: Hugging Face Open ASR에서 1위를 차지했으며, Artificial Analysis의 오픈 가중치 모델 중 2위를 기록했다.

• 지원 언어: 7개 인도어군 언어를 포함한 40개 언어를 지원하며, 의료, 금융, 고객 서비스 분야 전반에서 도메인별 서식 및 어휘에 맞춘 맞춤형 설정 옵션을 제공한다.

• 배포 옵션: 현재 Hugging Face에서 이용 가능하며, 양자화된 NVFP4 버전은 NeMo-Speech.cpp 및 vLLM을 통해 RTX Spark, DGX Spark, Jetson AGX Thor, Blackwell 데이터센터 GPU 전반에 배포될 예정이다.

Liquid AI LFM3 및 컴팩트 에이전트 모델

NVIDIA는 Liquid AI의 리퀴드 파운데이션 모델(Liquid Foundation Models) 제품군인 LFM3에 대한 데이원(Day-zero) 지원도 함께 발표했다. 단일 백본을 기반으로 텍스트, 비전, 오디오, 옴니, 의사결정 작업을 아우르는 이 오픈 가중치 모델들은 llama.cpp 및 vLLM을 사용해 RTX Spark에서 로컬로 구동 및 파인튜닝할 수 있다. 특히 Liquid AI의 17억(1.7B) 파라미터 기본 모델은 기존 26억(2.6B) 파라미터 아키텍처보다 뛰어난 성능을 보이며, Hermes Agent, Pi, OpenClaw의 자율 에이전트가 화면 입력을 처리하고 이메일과 일정을 관리하며 기술 문서를 분석할 수 있도록 지원한다.

경량 로컬 에이전트 배포 확대를 위해 NVIDIA는 다음 모델들도 강조했다.

• Nemotron 3.5 Bolt E4B: Ollama, Unsloth, LM Studio, vLLM 등의 도구에서 다단계 에이전트 작업과 대화형 작업을 수행하는 데 최소 4GB의 메모리만 필요하다. 더 큰 모델인 Nemotron 3.5 Bolt 74B-A9B(24GB)는 더 무거운 로컬 워크로드에 맞게 설계됐다.

• FLUX 3 Image Klein: Black Forest Labs의 56억(5.6B) 파라미터 오픈 가중치 이미지 생성 및 편집 모델로, 8GB VRAM을 갖춘 RTX GPU에 배포할 수 있으며 NVIDIA NeMo AutoModel 레시피를 사용해 맞춤화할 수 있다.

시스템 리소스 분할 및 시뮬레이션 워크플로우

활성 사용자 작업을 처리하면서 동시에 자율 백그라운드 에이전트를 구동하는 시스템을 지원하기 위해, NVIDIA App은 '시스템 > 고급(System > Advanced)' 메뉴에 리소스 관리 기능을 도입했다. 사용자는 GPU 연산 밸런스를 활성 포그라운드 소프트웨어 쪽으로 이동시키거나 백그라운드에서 실행되는 에이전트에 더 높은 우선순위를 부여할 수 있다. 해당 기능은 Windows 하드웨어 가속 GPU 일정 예약(Hardware-Accelerated GPU Scheduling)이 활성화되어 있어야 지원된다.

로보틱스 분야와 관련해 NVIDIA는 GTC Berlin 기조연설 시연 중 Hugging Face의 Microduck 로봇 훈련에 RTX Spark가 어떻게 활용되었는지 공개했다. 해당 워크플로우에서는 Hermes Agent와 Nemotron 3.5 Bolt가 장애물 코스를 계획하고, Astra가 3D 에셋을 생성했으며, NVIDIA Isaac Lab이 내비게이션 정책을 훈련하고 RTX Spark가 NVIDIA Isaac Sim 내에서 정책 검증을 처리했다.

단독 워크스테이션 환경을 위해 NVIDIA는 제조 파트너들이 엣지 파인튜닝과 추론을 위한 DGX OS 기반 GB10 Grace Blackwell Superchip을 탑재한 데스크톱형 DGX Spark 64GB도 출하하고 있음을 확인했다.