OpenAI ra mắt chip Jalapeño – Bứt phá hiệu năng suy luận AI trên quy mô lớn

Sự kiện công bố chip Jalapeño tại Hot Chips

Vào ngày 20/8/2026, trong khuôn khổ hội nghị Hot Chips – một trong những sự kiện quan trọng nhất về công nghệ bán dẫn, OpenAI đã tiết lộ chi tiết về chip mới mang tên Jalapeño. Đây là lần đầu tiên công ty công bố các kết quả thử nghiệm thực tế của hệ thống, đồng thời giới thiệu quy trình hợp tác chặt chẽ với Broadcom trong việc thiết kế và sản xuất. Theo lời của Richard Ho, trưởng bộ phận phần cứng của OpenAI, “kết quả cho thấy một bước tiến rất, rất đáng kể so với hiện trạng công nghệ hiện tại”.

Hiệu năng và số liệu chi tiết

OpenAI đã đưa chip Jalapeño vào chạy bộ kiểm tra InferenceX do SemiAnalysis phát triển, một tiêu chuẩn đánh giá khả năng suy luận (inference) của các bộ xử lý AI. Kết quả cho thấy Jalapeño không chỉ tạo ra nhiều token hơn cho mỗi người dùng, mà còn đạt độ thông lượng (throughput) cao hơn trên mỗi kilowatt so với các bộ xử lý hiện đại nhất hiện nay.

Cụ thể, so với hệ thống Nvidia Blackwell – được xem là chuẩn mực cao trong ngành – Jalapeño ghi nhận mức tăng khoảng 30 % về số token xử lý và hơn 25 % về năng suất trên mỗi kilowatt. Điều này đồng nghĩa với việc mỗi đơn vị điện năng tiêu thụ của Jalapeño có thể phục vụ nhiều yêu cầu AI hơn và phản hồi nhanh hơn, đáp ứng tốt yêu cầu độ trễ thấp và khả năng mở rộng cho hàng triệu người dùng đồng thời.

Richard Ho nhấn mạnh: “Jalapeño có thể cung cấp nhiều công việc AI hơn trên mỗi đơn vị năng lượng, đồng thời trả về kết quả nhanh hơn. Nó rất hiệu quả khi phục vụ một lượng lớn khách hàng, nhưng cũng có thể đáp ứng yêu cầu độ trễ cực thấp.”

Về kế hoạch triển khai, OpenAI dự kiến đưa Jalapeño vào thị trường cuối năm 2026 với sản lượng rất hạn chế, nhằm thu thập phản hồi thực tế và tinh chỉnh phần mềm. Đợt triển khai lớn hơn sẽ diễn ra trong năm 2027, khi công nghệ đã được ổn định và các đối tác chuỗi cung ứng sẵn sàng mở rộng.

Chiếc chip này được phát triển trong một nền tảng đa thế hệ, cho phép các sản phẩm AI, mô hình, chip và bộ nhớ được đồng bộ phát triển. Nhờ cách tiếp cận “full‑stack” này, OpenAI có thể tối ưu hoá từng giai đoạn trong quy trình suy luận, đặc biệt là giai đoạn tiền nạp (prefill) và giao tiếp dữ liệu – hai điểm thường gây tắc nghẽn. Trong blog công bố, OpenAI giải thích: “Chúng tôi thiết kế Jalapeño để giảm thiểu di chuyển dữ liệu và độ trễ giao tiếp. Điều này có nghĩa là trạng thái mô hình, bao gồm cả KV cache dùng trong quá trình tạo phản hồi, có thể được đặt và giữ cục bộ, trong khi hệ thống kích hoạt sự kết hợp phù hợp giữa tính toán, bộ nhớ và mạng cho mỗi giai đoạn suy luận.”

Bối cảnh cạnh tranh và triển vọng

Việc ra mắt Jalapeño đánh dấu một bước tiến quan trọng trong cuộc đua phần cứng AI giữa các ông lớn công nghệ. Trước đây, Nvidia đã chiếm ưu thế với dòng GPU và kiến trúc Blackwell, trong khi các công ty như AMD, Google (TPU) và Intel cũng đang nỗ lực phát triển các bộ xử lý chuyên dụng. Tuy nhiên, Jalapeño không chỉ cạnh tranh về hiệu suất mà còn nhấn mạnh hiệu suất năng lượng, một yếu tố ngày càng được các trung tâm dữ liệu quan tâm vì chi phí điện và mục tiêu giảm phát thải carbon.

Mặc dù so sánh hiện tại được thực hiện với Nvidia Blackwell, Richard Ho thừa nhận rằng “khi Jalapeño được đưa vào triển khai toàn diện, đối thủ có thể đã có những cải tiến đáng kể”. Điều này phản ánh tính chất nhanh chóng của ngành công nghiệp bán dẫn, nơi mỗi năm đều có những bước đột phá mới. Sự hợp tác chặt chẽ với Broadcom, một nhà sản xuất chip hàng đầu, giúp OpenAI rút ngắn thời gian đưa sản phẩm ra thị trường và tận dụng kinh nghiệm sản xuất quy mô lớn của đối tác.

Trong bối cảnh nhu cầu AI đang bùng nổ, đặc biệt là các ứng dụng sinh ngôn ngữ, mô hình lớn và dịch vụ AI trên đám mây, Jalapeño hứa hẹn sẽ cung cấp nền tảng hạ tầng mạnh mẽ, giảm chi phí vận hành và cải thiện trải nghiệm người dùng cuối. Nếu thành công, công nghệ này không chỉ nâng cao vị thế của OpenAI trong chuỗi cung ứng AI mà còn tạo ra chuẩn mực mới cho việc thiết kế chip AI, khuyến khích các nhà sản xuất khác tập trung vào tối ưu hoá năng lượng và độ trễ.

--- Bài viết dựa trên thông tin công bố tại hội nghị Hot Chips và các dữ liệu benchmark được OpenAI công bố trên blog chính thức.