Cựu nhà nghiên cứu OpenAI ra mắt Jev: Mô hình AI chuyên chấm điểm và phân loại thay vì tạo văn bản

Hướng đi mới: Bỏ tạo văn bản, tập trung chấm điểm quyết định

Startup TypeSafe AI vừa chính thức ra mắt mô hình mang tên Jev, mở ra một cách tiếp cận hoàn toàn khác biệt so với các chatbot phổ biến hiện nay. Thay vì tạo sinh văn bản dài dòng như email, bài viết hay mã lập trình, Jev được thiết kế chỉ để đưa ra các đánh giá phân loại hẹp kèm xác suất số học bên trong hệ thống phần mềm.

Nhà đồng sáng lập kiêm Giám đốc điều hành của TypeSafe AI là Diogo Almeida – cựu nhà nghiên cứu tại OpenAI và là một trong những đồng tác giả của bài báo khoa học InstructGPT, nền tảng cốt lõi định hình nên ChatGPT. Ý tưởng trung tâm của Jev rất tinh gọn: lập trình viên chỉ cần định nghĩa sẵn câu hỏi cùng tập hợp các câu trả lời cho phép, sau đó mô hình sẽ tính toán và chấm điểm từng phương án.

Xử lý siêu tốc trong vài trăm mili-giây với chi phí tối thiểu

Theo tài liệu của TypeSafe AI, trong một kịch bản chăm sóc khách hàng thương mại điện tử, khi người dùng phàn nàn về việc bị trừ tiền hai lần và yêu cầu hoàn tiền, hệ thống sẽ chuyển văn bản này cho Jev. Thay vì viết thư trả lời khách, Jev lập tức gắn nhãn "vấn đề thanh toán" kèm xác suất yêu cầu hoàn tiền. Từ đó, phần mềm nội bộ sẽ kích hoạt các quy tắc định sẵn: chuyển yêu cầu đến bộ phận kế toán hoặc đưa cho nhân viên rà soát nếu điểm tin cậy chưa đủ cao. Một chatbot khác có thể đảm nhiệm việc gửi phản hồi sau khi dữ liệu giao dịch thực tế được xác minh.

Về mặt kỹ thuật, Jev đạt thời gian phản hồi ấn tượng chỉ từ 70 đến 500 mili-giây, nhanh hơn gấp nhiều lần so với các mô hình ngôn ngữ lớn (LLM) nhanh nhất hiện nay. Tốc độ này có được nhờ việc bỏ qua bước sinh từng từ (token-by-token) tuần tự và chuyển sang cơ chế tính toán song song nhiều đầu ra cùng lúc. Thậm chí, việc gộp thêm nhiều câu hỏi trong cùng một lượt gọi cũng hầu như không làm tăng độ trễ.

Độ trễ dưới 1 giây cho phép các nhà phát triển chèn Jev làm chốt kiểm duyệt tức thì trước mỗi câu trả lời của trợ lý AI (ví dụ: kiểm tra xem bản thảo có mâu thuẫn với ngữ cảnh trước đó hay không). Về chi phí, TypeSafe niêm yết mức giá cực kỳ cạnh tranh: chỉ 0,042 USD cho mỗi 1 triệu token đầu vào và hoàn toàn miễn phí cho token đầu ra.

Thách thức cạnh tranh và giới hạn của lời hứa "không ảo giác"

TypeSafe AI quảng bá Jev là mô hình "không thể ảo giác" (no hallucinations). Tuy nhiên, cam kết này thực chất chỉ nằm ở khuôn khổ cấu trúc đầu ra: mô hình đảm bảo không bao giờ tự ý sinh ra câu trả lời nằm ngoài danh sách các tùy chọn đã thiết lập trước. Điều này không đồng nghĩa với việc AI luôn đưa ra phán đoán chính xác, bởi một lựa chọn sai về mặt logic trong số các phương án cho sẵn vẫn hoàn toàn có thể xảy ra.

Bên cạnh đó, các LLM truyền thống hiện nay cũng đã hỗ trợ tính năng xuất định dạng theo khuôn mẫu (như tính năng Structured Outputs của OpenAI). Do đó, chỉ riêng định dạng có cấu trúc là chưa đủ để Jev áp đảo thị trường. Để thuyết phục doanh nghiệp chuyển đổi, mô hình cần chứng minh độ chính xác thực tế ngoài lợi thế về chi phí và tốc độ. Các thử nghiệm hiệu năng do TypeSafe công bố hiện mới chỉ giới hạn trên 4 quy trình tự xây dựng và đối chiếu với kết quả của các mô hình AI khác thay vì giải pháp chuẩn đã được kiểm chứng độc lập. Hiện tại, TypeSafe AI đang mở cổng tiếp cận Jev cho các nhà phát triển thông qua danh sách chờ.