Startup Pháp ZML tung công cụ tối ưu inference cho mọi chip AI, giải cứu chi phí

Startup Pháp vồn vào cuộc, thách thức thuyết "Nvidia là tất cả"

ZML, một startup AI trẻ từ Paris, vừa công bố ZML/LLMD - một nền tảng inference server miễn phí với tham vọng phá vỡ các "silo" trong ngành AI. Điểm đặc biệt của công cụ này: nó cho phép các mô hình ngôn ngữ lớn (LLM) chạy tối ưu trên một loạt chip khác nhau - từ GPU Nvidia, AMD, TPU của Google đến Apple Metal và Intel Arc - mỗi cái đều với hiệu năng cực đại. Sự ra mắt này có ý nghĩa đặc biệt vì nó thách thức sự thống trị trên thị trường chip AI, đồng thời mở ra con đường giảm chi phí cho các tổ chức đang phải "nuốt chửng" ngân sách AI ngày càng tăng.

Số liệu, nhân sự, và hỗ trợ từ những người tầm cỡ

ZML được thành lập bởi Steeve Morin, người từng là Phó Giám đốc Kỹ thuật tại Zenly - công ty Snapchat mua lại năm 2017 với giá 9 con số. Startup này vừa huy động được 20 triệu USD từ các quỹ đầu tư danh tiếng gồm 20VC của Harry Stebbings, >commit, AALVC, Drysdale Ventures, Kima Ventures của Xavier Niel, Kindred Capital, LocalGlobe, và Puzzle Ventures. Điều này chứng tỏ độ tin tưởng sâu sắc của thị trường với tầm nhìn của công ty.

Về lợi thế kỹ thuật, Morin nói với TechCrunch: "Ý tưởng là trả lại quyền năng cho mọi người để họ tạo dựng hệ thống riêng và đạt được những lợi ích hiệu năng thực sự, cho phép AI được phổ biến rộng rãi". Không giống như dự án công khai đầu tiên của ZML (một ML framework focused on inference được phát hành năm 2024 và cập nhật tháng 3), ZML/LLMD không phải open source nhưng lại được phát hành hoàn toàn miễn phí. Lý do Morin nêu: "Tôi thà đo lường và tiến hành tính toán doanh thu ở nơi hiệu quả nhất mà không cản trở sự tăng trưởng một cách ngu ngốc vì tham lam từ lúc bắt đầu".

Với nhóm cỏ nhỏ chỉ 20 người, ZML đã tạo ra công nghệ này. Morin khẳng định: "Chúng tôi đã đạt tới điểm mà chúng tôi đang cùng thiết kế silicon" - điều cho thấy công ty không chỉ tối ưu hóa phần mềm mà còn tham gia vào quá trình thiết kế sâu của phần cứng.

Thị trường inference "nóng", nhưng ZML không chỉ chơi một trò

ZML vào cuộc khi lĩnh vực inference optimization đang được mệnh danh là "mỏ vàng" của ngành AI. Công ty phải đối mặt cạnh tranh từ Baseten (định giá 13 tỷ USD), Inferact (đến từ nhóm tạo vLLM), và RadixArk (công ty thương mại đằng sau SGLang). Tuy vậy, tầm nhìn của Morin rộng hơn - công ty không chỉ hỗ trợ các chip lớn, mà còn các chipmaker nhỏ, đặc biệt từ Châu Âu như Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud, và VSORA.

Điều thú vị: Morin không bài xích Nvidia. Ông nói rằng ZML có mối quan hệ tốt với "người khổng lồ" này, phần vì Nvidia có sẵn cơ sở cung ứng lớn. Xu hướng chuyển sang inference - quá trình xử lý prompt - đang trở nên quan trọng hơn training, và lĩnh vực này đã trở thành tâm điểm đầu tư mạnh mẽ.

Tại sao độc giả Việt nên lưu ý

Câu chuyện ZML là câu chuyện về chi phí AI. Một tổ chức có thể lựa chọn chip rẻ hơn hoặc tiết kiệm năng lượng hơn mà vẫn đạt hiệu năng cao - điều ảnh hưởng trực tiếp đến chi phí chạy ứng dụng AI tại Việt Nam. Đặc biệt, sự xuất hiện của startup Châu Âu mạnh là dấu hiệu rằng "tâm lực" kỹ thuật AI không chỉ tập trung ở Silicon Valley - Paris bắt đầu trở thành hub AI quan trọng. Morin khẳng định: "Tôi không thể xây dựng ZML ở bất cứ nơi nào ngoài Paris". Hỗ trợ từ những nhân vật lừng danh như Solomon Hykes (sáng lập Docker, Dagger), co-founder Hugging Face (Clément Delangue, Julien Chaumond), và Turing Award winner Yann LeCun (hiện ở AMI Labs) không chỉ là vote tin tưởng mà còn chứng tỏ ZML đang giải quyết vấn đề thực sự mà cộng đồng AI thế giới xem là ưu tiên hàng đầu.