Salesforce bắt tay NVIDIA ra mắt Koa: Mô hình lý luận chuyên biệt cho CRM chạy trên hạ tầng riêng

Sự hợp tác giữa Salesforce và NVIDIA tạo bước đột phá cho AI doanh nghiệp

Tại sự kiện thường niên Dreamforce diễn ra ở Moscone Center, CEO NVIDIA Jensen Huang đã bất ngờ bước xuống khán phòng cùng CEO Salesforce Marc Benioff để công bố Koa — mô hình lý luận (reasoning model) chuyên biệt cho CRM đầu tiên của Salesforce. Mô hình này được phát triển để phục vụ trực tiếp cho nền tảng Agentforce, đánh dấu sự kết hợp chặt chẽ giữa phần mềm quản trị doanh nghiệp và hạ tầng mô hình nguồn mở của NVIDIA.

Điểm cốt lõi của Koa nằm ở việc mô hình được hậu huấn luyện (post-training) từ nền tảng NVIDIA Nemotron 3 Super dựa trên tập dữ liệu tổng hợp (synthetic dataset) đúc kết từ 27 năm kinh nghiệm triển khai CRM của Salesforce. Mô hình vận hành hoàn toàn khép kín bên trong cơ sở hạ tầng của Salesforce, giúp hãng làm chủ hoàn toàn các trọng số (weights) mà không làm rò rỉ thông tin ra bên ngoài.

Chi tiết kỹ thuật, hiệu năng và quy trình triển khai Koa

Một trong những cam kết quan trọng nhất được ông Rohan Kumar, Chủ tịch phụ trách Kỹ thuật và Nền tảng của Salesforce, nhấn mạnh là quyền riêng tư dữ liệu: "Không có một byte dữ liệu khách hàng nào bị sử dụng trong quá trình huấn luyện lẫn suy luận". Koa được tối ưu hoàn toàn bằng dữ liệu mô phỏng tình huống doanh nghiệp thuộc hơn 14 nhóm ngành khác nhau như sản xuất, dịch vụ tài chính, chăm sóc sức khỏe và du lịch.

Về mặt kỹ thuật, Salesforce đã áp dụng phương pháp tinh chỉnh có giám sát (SFT) kết hợp học tăng cường thông qua bộ công cụ NVIDIA NeMo RL, NeMo Gym và NeMo AutoModel. Kết quả đánh giá trên CRM Bench — bài kiểm tra gồm các tác vụ thực tế như cập nhật cơ hội bán hàng, điều hướng hồ sơ hỗ trợ hay đặt lịch theo dõi — cho thấy Koa đạt hiệu năng ngang bằng hoặc vượt trội so với các mô hình hàng đầu hiện nay, đồng thời giảm lỗi tới 3 lần (3x fewer errors).

Về lộ trình thương mại hóa, Koa hiện đã được đưa vào sử dụng nội bộ tại Salesforce để vận hành trợ lý ảo cho nhân viên trên Slack. Bắt đầu từ tháng 10, mô hình sẽ bước vào giai đoạn thử nghiệm cho khách hàng chọn lựa trên Agentforce, với những cái tên đầu tiên gồm Giải đua xe Công thức 1 (Formula 1), UChicago Medicine, Baxter Credit Union, 1-800Accountant, Engine và Xero. Phiên bản thương mại rộng rãi (GA) dự kiến sẽ ra mắt vào mùa đông năm 2026 tại thị trường Mỹ.

Tầm nhìn của Jensen Huang về làn sóng AI Agent và an toàn công nghệ

Chia sẻ trên sân khấu, Jensen Huang cho rằng nhân loại đang bước vào một kỷ nguyên mới tương tự như sự ra đời của điện lực hay internet: "Với điện, chúng ta thắp sáng mọi thứ. Với internet, chúng ta tìm thấy mọi thứ. Và giờ đây, với AI là lớp hạ tầng toàn cầu, chúng ta có thể biết mọi thứ và làm mọi thứ". Ông khẳng định làn sóng này sẽ biến mọi công ty phần mềm và tổ chức thành các "doanh nghiệp đại diện" (agentic enterprise).

Trước câu hỏi của Marc Benioff về rủi ro an toàn AI, CEO NVIDIA thẳng thắn chỉ ra rằng an toàn thực chất là một bài toán kỹ thuật chứ không phải là sự đánh đổi với tốc độ phát triển. Ông kêu gọi các doanh nghiệp tự tin tiến nhanh, nhưng cần lập tức dừng lại kiểm tra nếu sản phẩm chưa đạt chuẩn an toàn trước khi phát hành. Huang cũng bác bỏ lo ngại AI sẽ xóa sổ ngành phần mềm hay đe dọa việc làm, đồng thời lưu ý rằng tỷ trọng các mô hình mở trên thị trường đã tăng vọt từ 30% đầu năm ngoái lên mức khoảng 70% hiện nay, mở đường cho các doanh nghiệp tự xây dựng AI tùy biến như cách Salesforce đã làm với Koa.