Inception trình làng Mercury 3: Mô hình AI dựa trên Diffusion vượt mặt GPT-6 Luna với tốc độ hơn 1.000 token/giây

Startup AI Inception vừa công bố ra mắt Mercury 3, một mô hình ngôn ngữ mới được xây dựng trên kiến trúc khuếch tán (diffusion) thay vì phương pháp tự hồi quy (auto-regressive) truyền thống vốn đang được các ông lớn trong ngành áp dụng. Theo công ty, Mercury 3 vượt trội hơn các mô hình hàng đầu hiện nay như GPT-6 Luna và Claude Haiku 5.5 cả về tốc độ lẫn độ chính xác trên nhiều bài benchmark quan trọng, với tốc độ vận hành nhanh gấp 4 đến 8 lần so với các đối thủ.

Bước chuyển dịch kiến trúc: Từ từng từ đến toàn bộ bản thảo

Khác với các mô hình truyền thống như GPT hay Claude vốn tạo văn bản theo từng từ một (tự hồi quy), Mercury 3 ứng dụng quy trình khuếch tán. Phương pháp này thường thấy ở các mô hình tạo ảnh, hoạt động bằng cách tạo ra một bản thảo thô cho toàn bộ câu trả lời, sau đó liên tục tinh chỉnh nó qua nhiều lượt xử lý đồng thời.

Sự thay đổi mang tính kiến trúc này cho phép Mercury 3 đạt tốc độ xử lý hơn 1.000 token/giây trên các GPU của Nvidia. Trong các so sánh nội bộ, Inception cho biết Mercury 3 đạt mốc 1.068 token/giây, bỏ xa Claude Haiku 5.5 (khoảng 240 token/giây) và GPT-6 Luna (khoảng 130 token/giây).

Hiệu năng và kết quả benchmark

Các thử nghiệm nội bộ của Inception cho thấy Mercury 3 dẫn đầu trước các đối thủ ở 8 trên tổng số 12 bài kiểm tra. Mô hình này thể hiện ưu thế vượt trội ở khả năng tuân thủ chỉ dẫn và lập trình tự hành:

• IFBench (Tuân thủ chỉ dẫn): Mercury 3 đạt 76,84 điểm, vượt qua mức 61,84 điểm của GPT-6 Luna.

• SWE-Bench Atlas (Lập trình): Mercury 3 ghi được 51,08 điểm, trong khi các đối thủ chỉ đạt từ 32,26 đến 33,33 điểm.

• Điều hướng web: Tại TinyFish AI, Mercury 3 giải quyết thành công 25/50 tác vụ điều hướng trên các trang web thực tế, được cho là đã đánh bại GPT-6.1-Sol.

Dù vậy, đây không phải là một chiến thắng tuyệt đối. Claude Haiku 5.5 vẫn duy trì vị thế dẫn đầu trong bài test lập trình dài DeepSWE và khả năng truy xuất thông tin từ các văn bản dài. Ngoài ra, GPT-6 Luna cũng nhỉnh hơn một chút trong hai bài test do Artificial Analysis thực hiện.

Ứng dụng thời gian thực và AI Agent

Inception định vị Mercury 3 là giải pháp hàng đầu cho những ứng dụng mà độ trễ là rào cản nghiêm trọng, chẳng hạn như các AI agent tự hành, kính thông minh và hệ thống hỗ trợ khách hàng theo thời gian thực.

Các đối tác được tiếp cận sớm đã nhấn mạnh sự khác biệt mà tốc độ này mang lại. Kuan Zou, nhà sáng lập công ty kính thông minh Octen AI, lưu ý rằng các mô hình ngôn ngữ trước đây từng là điểm nghẽn đối với thiết bị đeo, nơi mà việc phản hồi chậm 5 giây mang lại cảm giác như "bị hỏng". Với Mercury 3, thời gian phản hồi trung vị đã giảm xuống chỉ còn 0,9 giây. Tương tự, công ty giáo dục General Learning cho biết họ có thể đưa ra gợi ý và sửa lỗi cho học sinh chỉ trong khoảng 1 giây.

Giá cả và khả năng tiếp cận

Mercury 3 sở hữu cửa sổ ngữ cảnh (context window) lên tới 1 triệu token và hỗ trợ API tương thích với OpenAI, cho phép các nhà phát triển dễ dàng chuyển đổi mô hình chỉ với những thay đổi mã nguồn tối thiểu.

Mức giá tiêu chuẩn được niêm yết là 0,20 USD cho mỗi 1 triệu token đầu vào và 0,70 USD cho mỗi 1 triệu token đầu ra. Tại thời điểm ra mắt, Inception đang giảm giá 50%, dù chưa công bố cụ thể thời điểm kết thúc đợt ưu đãi này. Mặc dù giá đầu ra sau khuyến mãi vẫn cao hơn mức 0,50 USD của GPT-6 Luna và Claude Haiku 5.5 đối với các chuỗi đầu vào ngắn, Mercury 3 lại tối ưu chi phí hơn đáng kể khi xử lý các prompt có độ dài lớn.

Hiện tại, người dùng có thể tiếp cận mô hình thông qua nền tảng của Inception, cũng như trên OpenRouter, Baseten và Vercel. Inception từng huy động thành công 50 triệu USD và nhận được sự hậu thuẫn từ nhiều quỹ lớn như NVentures của Nvidia, M12 của Microsoft và Snowflake Ventures.