Thinking Machines tung Inkling - model AI mã nguồn mở thách thức thế lực one-size-fits-all

Người thách thức từ ex-OpenAI

Thinking Machines Lab, startup được thành lập bởi Mira Murati (cựu Giám đốc Công nghệ của OpenAI), vừa công bố model Inkling - một bước đi đại diện cho xu hướng mới trong ngành AI. Khác với các flagship model từ OpenAI, Anthropic hay Google được kiểm soát chặt chẽ, Inkling là model mã nguồn mở (open-weight), cho phép các developer và công ty tải về và sửa đổi trực tiếp. Đây là bằng chứng công khai đầu tiên sau gần 18 tháng hoạt động phần lớn kín tiếng của Thinking Machines, mặc dù công ty đã phát hành một bản preview nghiên cứu vào tháng 5 về các interaction models - AI được thiết kế để lắng nghe, nói chuyện và thậm chí ngắt lời thay vì chỉ chờ đợi như các chatbot thông thường.

Kiến trúc hiệu quả và hiệu suất thực tế

Inkling được xây dựng trên kiến trúc mixture-of-experts (MoE) với tổng cộng 975 tỷ parameters. Tuy nhiên, nhờ thiết kế thông minh, nó chỉ sử dụng khoảng 41 tỷ parameters cho mỗi nhiệm vụ cụ thể, giúp giảm chi phí tính toán và tăng tốc độ xử lý. Model được huấn luyện trên 45 nghìn tỷ tokens bao gồm text, hình ảnh, âm thanh và video, và có khả năng suy luận native trên tất cả bốn loại dữ liệu này. Tuy vậy, phiên bản hiện tại chỉ cho phép output dạng text, bao gồm code, structured data, và các artifacts định dạng khác.

Về hiệu suất so sánh, Thinking Machines cho biết Inkling sử dụng chỉ 1/3 lượng tokens so với Nvidia Nemotron 3 Ultra (model open-weight thế hệ mới nhất của Nvidia) để đạt cùng mức độ hiệu suất trên các bài toán coding. Công ty cũng công khai rằng Inkling không phải model mạnh nhất hiện nay, nhưng nhắm tới performance cân bằng trên nhiều lĩnh vực và khả năng tuỳ chỉnh cao. Nó cho phép người dùng điều chỉnh mức độ "suy luận" (thinking effort) để cân bằng giữa chất lượng kết quả và tốc độ xử lý. Công ty còn cung cấp nền tảng Tinker cho phép các tổ chức fine-tune model theo nhu cầu riêng, mặc dù điều này đòi hỏi những kỹ năng machine learning đáng kể.

Tư tưởng chiến lược và sự đồng tình từ các ông lớn

Phía sau Inkling nằm một tư tưởng lõi: AI mà các tổ chức có thể tự tuỳ chỉnh cho nhu cầu riêng sẽ outperform các model "one-size-fits-all" mà các lab lớn hiện đang bán. Thinking Machines không phải công ty duy nhất có quan điểm này. Tuần trước, CEO Microsoft Satya Nadella (công ty đã đầu tư hàng tỷ USD vào cả OpenAI lẫn Anthropic) cảnh báo rằng các enterprise sử dụng proprietary models thực chất phải trả hai lần: một lần cho subscription, và lần thứ hai bằng cách chia sẻ những dữ liệu kinh doanh chứa trong hàng ngàn prompts và corrections, những thứ sẽ bị hấp thụ vào các phiên bản model tương lai. Clem Delangue, CEO Hugging Face, cũng dự báo frontier models sẽ ngày càng bị giới hạn cho các thử nghiệm và tác vụ high-value, trong khi hầu hết công việc sản xuất sẽ chuyển sang các giải pháp private hoặc open-source. Đây chính là chiến lược mà Thinking Machines đang xây dựng.

Bằng chứng thực tế và tốc độ phát triển ấn tượng

Bằng chứng thực tế được thể hiện qua dự án với Bridgewater Associates - quỹ hedge lớn nhất thế giới. Các nhà nghiên cứu từ hai công ty đã fine-tune một model open-source sẵn có với kiến thức tài chính của Bridgewater, kết quả đạt 84.7% trên các bài test financial reasoning - vượt qua các top proprietary AI models - mà chi phí chỉ bằng 1/14 so với các model tương tự khác (mặc dù những con số này đến từ đánh giá của chính hai công ty, chứ không phải từ bên thứ ba độc lập). Thinking Machines còn nhấn mạnh tốc độ phát triển của mình: họ đưa công nghệ ra thị trường chỉ trong khoảng 9 tháng, nhanh hơn OpenAI (5 năm) và Anthropic (3 năm). Công ty có hợp tác chiến lược với Nvidia từ tháng 3, với mục tiêu triển khai một gigawatt computing capacity. Hiện tại, Thinking Machines có khoảng 200 nhân viên, tăng từ quy mô nhỏ hơn khi công ty trải qua một đợt sa thải vào đầu năm.