Đồng tác giả kỹ thuật RLHF ra mắt Jev: Mô hình transformer không tạo văn bản, xóa bỏ ảo giác

Mô hình transformer không sinh văn bản từ cựu nhà nghiên cứu OpenAI

Diogo Almeida, cựu nhà nghiên cứu tại OpenAI – người từng tham gia xây dựng ChatGPT và đồng phát minh kỹ thuật học tăng cường từ phản hồi con người (RLHF) – vừa chính thức trình làng mô hình AI mới mang tên Jev thông qua startup TypeSafe AI do ông sáng lập.

Dù RLHF là nền móng đưa làn sóng AI hiện tại bùng nổ, Almeida chia sẻ ông từng cảm thấy thất vọng khi nhận ra các mô hình ngôn ngữ lớn (LLM) chưa thực sự hữu ích cho việc tự động hoá. Vấn đề nằm ở chỗ ngành công nghệ đang tập trung tối ưu cho ngôn ngữ con người, trong khi máy tính lại vận hành bằng một ngôn ngữ hoàn toàn khác. Hai năm sau khi rời OpenAI, Almeida giới thiệu Jev như một giải pháp thay thế.

Mặc dù vẫn dựa trên kiến trúc transformer, Jev không phải là một LLM. Mô hình không xuất ra văn bản mà chỉ trả về các phân phối xác suất, hay còn gọi là "các quyết định đã được hiệu chuẩn" (calibrated decisions). Nhờ người dùng phải định nghĩa trước các đầu ra mong muốn trong mã nguồn, Jev hoàn toàn không gặp phải hiện tượng bịa đặt thông tin (hallucination). Về mặt chi phí, token đầu ra được miễn phí hoàn toàn, trong khi token đầu vào được tính phí theo thang đo hàng tỷ token thay vì hàng triệu như thông thường.

Tốc độ vượt trội và khả năng ứng dụng thực tế trong tự động hoá

Ngay sau khi ra mắt, nhu cầu trải nghiệm quá lớn đã khiến giao diện lập trình (API) của TypeSafe AI từng rơi vào tình trạng quá tải ngắn hạn. Giới phát triển phần mềm đánh giá Jev là giải pháp rẻ hơn và bền bỉ hơn đáng kể để tích hợp trí tuệ nhân tạo vào hệ thống.

Nhiều kỹ sư đã chia sẻ kết quả thử nghiệm thực tế với mô hình:

• Pranit Sharma, kỹ sư phần mềm tại nền tảng hạ tầng agent Vercel, cho biết công ty từng dùng mô hình ChatGPT Luna 5.6 của OpenAI làm bộ phân loại nhằm rà soát tính an toàn của các câu lệnh. Khi chuyển sang Jev, hệ thống phản hồi nhanh hơn từ 5‑đến‑18 lần, đồng thời độ chính xác cũng cao hơn.

• Nikhil Mudholkar, Giám đốc công nghệ (CTO) của Bryo AI, đã thử nghiệm Jev với Gemini trong tác vụ phân loại email công việc. Kết quả cho thấy Gemini nhỉnh hơn đôi chút về độ chính xác nhưng chi phí lại đắt hơn gấp 10‑20 lần. Điểm mấu chốt khiến Mudholkar ấn tượng là điểm số tin cậy (confidence score) phản ánh đúng xác suất thực tế của Jev, yếu tố tối quan trọng khi thiết lập các luồng tự động hoá.

• Armin Ronacher, CTO của Earendil (đơn vị phát triển khung kiểm thử mã nguồn mở Pi), nhận định Jev giúp chuyển giao quyền quyết định thay vì để xảy ra ảo giác: nếu xác suất trả về chỉ là 50 %, hệ thống có thể bỏ qua; nhưng nếu đạt 95 %, mã nguồn có thể lập tức hành động. Ngoài ra, Ronacher đánh giá Jev rất phù hợp để làm bộ định tuyến mô hình (model routing) hoặc đóng vai trò lớp giám sát giá rẻ, theo dõi hành vi của các AI agent khác nhằm ngăn chặn tấn công bẻ khóa (jailbreak).

Hướng đi từ dữ liệu tổng hợp và "Nghịch lý Jevons"

Tên gọi của mô hình được đặt theo William Stanley Jevons, nhà kinh tế học thế kỷ 19 nổi tiếng với nghịch lý mang tên ông: khi chi phí sử dụng một tài nguyên giảm xuống, mức độ tiêu thụ của nó sẽ bùng nổ theo cấp số nhân. Almeida kỳ vọng việc hạ chi phí xử lý trí tuệ xuống mức cực thấp sẽ giúp phần mềm thông minh xuất hiện ở khắp mọi nơi theo dạng phân tán, giống như thời kỳ đầu của Internet.

TypeSafe AI định vị Jev là "mô hình Hệ thống 1" (System One), tập trung vào phản xạ trực giác thay vì khả năng lập luận dài dòng. Điểm đặc biệt là Jev được đào tạo hoàn toàn 100 % bằng dữ liệu tổng hợp (synthetic data) thông qua phương pháp "học tăng cường từ các quyết định hiệu chuẩn". Almeida khẳng định quyết định tự tạo toàn bộ dữ liệu huấn luyện là canh bạc thành công nhất trong sự nghiệp của ông, thậm chí còn có giá trị hơn cả việc phát minh ra RLHF.

Trong tương lai, TypeSafe AI dự kiến sẽ mở rộng Jev sang nhiều phương thức dữ liệu (modalities) khác. Trước câu hỏi liệu công ty có định hướng trở thành một "frontier lab" (phòng thí nghiệm biên giới công nghệ) hay không, Almeida thẳng thắn bày tỏ ông không muốn theo đuổi trào lưu thổi phồng hay ảo vọng xây dựng siêu trí tuệ AGI, mà muốn tập trung tạo ra giá trị thông minh thực tiễn cho giới lập trình.