NVIDIA mở rộng hệ sinh thái RTX Spark với Nemotron 3.5 Transcribe, loạt mô hình Liquid AI và công cụ quản trị tài nguyên cho Agent

NVIDIA vừa công bố một bộ phần mềm trí tuệ nhân tạo (AI) chạy cục bộ, các mô hình trọng số mở (open-weight) và công cụ dành cho nhà phát triển trên nền tảng laptop Windows RTX Spark. Bản cập nhật lần này mang đến các mô hình tập trung vào giọng nói, đa phương thức (multimodal) và agent — dẫn đầu bởi NVIDIA Nemotron 3.5 Transcribe và dòng mô hình LFM3 của Liquid AI — cùng khả năng phân bổ tài nguyên GPU chi tiết ngay trong ứng dụng NVIDIA App.

Các hệ thống RTX Spark hiện do ASUS, Dell, HP, Lenovo, Microsoft và MSI sản xuất với giá khởi điểm từ 2.599 USD, kết hợp giữa GPU NVIDIA Blackwell RTX và CPU NVIDIA Grace trên cùng một siêu chip (superchip). Hệ thống cung cấp bộ nhớ hợp nhất (unified memory) lên đến 128GB, hiệu năng AI FP4 đạt mức 1 petaflop, trong khi thân máy chỉ mỏng từ 14mm và nặng khoảng 3 pound (khoảng 1,36 kg).

Nemotron 3.5 Transcribe: Xử lý âm thanh qua câu lệnh trực tiếp trên phần cứng cục bộ

Tâm điểm của đợt phát hành phần mềm lần này là Nemotron 3.5 Transcribe, một mô hình giọng nói trọng số mở được thiết kế để tích hợp khả năng phiên âm, nhận diện người nói, dịch thuật và trả lời các truy vấn âm thanh vào trong một mô hình duy nhất. Thay vì phải kết nối nhiều quy trình chuyên biệt (pipeline) phức tạp, các nhà phát triển giờ đây có thể ra lệnh cho mô hình bằng ngôn ngữ tự nhiên, chẳng hạn như yêu cầu chép lại đoạn hội thoại kèm tên người nói, dịch âm thanh sang tiếng Anh hoặc tóm tắt các quyết định được đưa ra trong một cuộc họp đã ghi âm.

Các thông số kỹ thuật chính và kết quả thử nghiệm hiệu năng của Nemotron 3.5 Transcribe bao gồm:

• Quy mô và hiệu quả: Sử dụng khoảng 4,3 tỷ tham số hoạt động (active parameters) — ít hơn 80% số tham số so với mô hình trọng số mở đang đứng đầu hiện nay.

• Điểm chuẩn (Benchmarks): Xếp vị trí số 1 trên bảng xếp hạng Hugging Face Open ASR và đứng thứ 2 trong số các mô hình trọng số mở trên Artificial Analysis.

• Hỗ trợ ngôn ngữ: Hỗ trợ 40 ngôn ngữ, bao gồm 7 ngôn ngữ Ấn Độ (Indic), đi kèm khả năng tùy biến định dạng và từ vựng chuyên ngành trong các lĩnh vực như y tế, tài chính và dịch vụ khách hàng.

• Tùy chọn triển khai: Hiện đã có mặt trên Hugging Face; các phiên bản lượng tử hóa NVFP4 dự kiến sẽ được triển khai qua NeMo-Speech.cpp và vLLM trên các nền tảng RTX Spark, DGX Spark, Jetson AGX Thor và GPU trung tâm dữ liệu Blackwell.

Liquid AI LFM3 và các mô hình Agent gọn nhẹ

NVIDIA cũng công bố hỗ trợ ngay từ ngày đầu (day-zero) cho dòng mô hình nền tảng LFM3 (Liquid Foundation Models) của Liquid AI. Trải rộng từ các tác vụ văn bản, thị giác, âm thanh, omni (đa thể thức) cho đến ra quyết định trên cùng một kiến trúc cốt lõi, các mô hình trọng số mở này có thể chạy và tinh chỉnh (fine-tune) cục bộ trên RTX Spark bằng llama.cpp và vLLM. Đáng chú ý, mô hình cơ sở 1,7 tỷ tham số của Liquid AI cho hiệu năng vượt trội hơn kiến trúc 2,6 tỷ tham số trước đó của hãng, hỗ trợ các agent tự hành trong Hermes Agent, Pi và OpenClaw xử lý dữ liệu đầu vào từ màn hình, quản lý email, lịch biểu và phân tích các tài liệu kỹ thuật.

Để mở rộng khả năng triển khai các agent gọn nhẹ cục bộ, NVIDIA cũng nhấn mạnh:

• Nemotron 3.5 Bolt E4B: Chỉ yêu cầu 4GB bộ nhớ cho các tác vụ hội thoại và chuỗi hành động agent nhiều bước thông qua các công cụ như Ollama, Unsloth, LM Studio và vLLM. Phiên bản lớn hơn là Nemotron 3.5 Bolt 74B-A9B (24GB) được thiết kế riêng cho các khối lượng công việc nặng hơn chạy cục bộ.

• FLUX 3 Image Klein: Mô hình tạo và chỉnh sửa hình ảnh trọng số mở với 5,6 tỷ tham số từ Black Forest Labs, có thể triển khai trên GPU RTX có 8GB VRAM và tùy biến linh hoạt bằng các công thức (recipes) của NVIDIA NeMo AutoModel.

Phân chia tài nguyên hệ thống và quy trình mô phỏng

Nhằm tối ưu cho các hệ thống vừa chạy agent tự hành ngầm vừa xử lý tác vụ của người dùng, NVIDIA App đã bổ sung tính năng quản lý tài nguyên trong mục System > Advanced. Người dùng có thể điều chỉnh cán cân tính toán của GPU nghiêng về các phần mềm đang hoạt động ở tiền cảnh (foreground) hoặc cấp mức ưu tiên cao hơn cho các agent chạy nền (background). Tính năng này yêu cầu phải kích hoạt tính năng Lập lịch GPU tăng tốc phần cứng (Hardware-Accelerated GPU Scheduling) trên Windows.

Trong lĩnh vực robot, NVIDIA đã minh họa cách RTX Spark được ứng dụng tại bài thuyết trình chính ở GTC Berlin để huấn luyện robot Microduck của Hugging Face. Trong quy trình đó, Hermes Agent và Nemotron 3.5 Bolt đảm nhận việc lên kế hoạch vượt chướng ngại vật, Astra tạo các tài nguyên 3D, NVIDIA Isaac Lab huấn luyện chính sách điều hướng (navigation policy), còn RTX Spark chịu trách nhiệm xác thực chính sách bên trong NVIDIA Isaac Sim.

Đối với các thiết lập máy trạm độc lập, NVIDIA xác nhận các đối tác sản xuất cũng đang xuất xưởng dòng máy để bàn DGX Spark 64GB, trang bị siêu chip GB10 Grace Blackwell chạy DGX OS phục vụ cho nhu cầu tinh chỉnh và suy luận AI tại biên (edge).