Mô hình AI Inkling 2 Small văng tục hàng trăm lần trong chuỗi suy nghĩ nội bộ
Đánh giá từ nền tảng Vals AI cho thấy mô hình Inkling 2 Small của Thinking Machines đã sử dụng từ ngữ thô tục 316 lần trong quá trình suy luận nội bộ, chủ yếu khi rơi vào vòng lặp bế tắc hoặc "bỏ cuộc" trước bài toán khó.
Các mô hình ngôn ngữ lớn (LLM) được huấn luyện để suy nghĩ trước khi trả lời dường như cũng bộc lộ sự ức chế giống hệt con người khi quá trình suy luận đi vào ngõ cụt. Mới đây, các nhà nghiên cứu tại nền tảng đánh giá Vals AI đã phân tích nhật ký chuỗi suy nghĩ (chain-of-thought) nội bộ của mô hình Inkling 2 Small do Thinking Machines phát triển trên 2.655 lượt chạy benchmark và phát hiện AI này đã văng tục tới 316 lần.
Những từ ngữ chửi thề này—cụ thể là từ "fuck" và các biến thể của nó—xuất hiện trong 50 lượt chạy riêng biệt thuộc 13 bài benchmark khác nhau. Trong hầu hết các môi trường thương mại thực tế, người dùng cuối sẽ không bao giờ nhìn thấy những dấu vết suy nghĩ thô này, bởi các nền tảng thường lọc hoặc ẩn các bước suy luận nội bộ trước khi tạo ra câu trả lời sau cùng.
Vòng lặp mất kiểm soát và phản hồi dài lê thê
Dù các từ ngữ thô tục xuất hiện rải rác trong hàng chục lượt chạy, phần lớn chúng lại tập trung vào các vòng lặp lỗi nghiêm trọng. Theo Vals AI, có tới 241 trong tổng số 316 lần văng tục được ghi nhận chỉ đến từ đúng hai lượt chạy bị mất kiểm soát hoàn toàn.
Trong một trường hợp đáng chú ý, mô hình được giao nhiệm vụ tính toán quỹ đạo của một tiểu hành tinh. Thay vì hoàn thành phép tính bình thường, Inkling 2 Small lại tạo ra một phản hồi dài tới 500.000 ký tự—tương đương độ dài của cả một cuốn tiểu thuyết—liên tục lặp lại các câu giống nhau và "chêm" thêm 158 từ chửi thề trong suốt quá trình đó.
Các bài đánh giá khả năng lập trình là tác nhân kích hoạt những đợt "sụp đổ" này với tần suất cao nhất. Trong đó, benchmark ProgramBench chịu ảnh hưởng nặng nề nhất, khi từ ngữ chửi thề xuất hiện ở 20 trên 200 lượt chạy được đánh giá.
Cảm giác ức chế và tỷ lệ thất bại
Các nhà nghiên cứu quan sát thấy mô hình thường chửi thề khi tự nhìn nhận lại sai sót của chính mình, khi cố gắng ăn mừng những bước đột phá ngỡ như đã thành công, hoặc lúc hoàn toàn buông xuôi trước một bài toán. Thậm chí trong một lần chạy, chuỗi suy luận nội bộ của mô hình kết thúc một cách cộc lốc: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." (tạm dịch: "M* KIẾP. NỘP BÀI. XONG. NÓ KHÔNG CHẠY. CHẲNG CÁI GÌ HOẠT ĐỘNG CẢ.")
Dù các bước suy luận mang giọng điệu đầy cảm xúc, việc văng tục không thể xem là dấu hiệu đáng tin cậy để dự đoán một tác vụ có thất bại hay không. Mặc dù 46 trong số 48 lượt chạy có tính điểm chứa từ chửi thề đều dẫn đến thất bại, nhưng trên thực tế khoảng 75% tổng số lượt chạy được chấm điểm cũng thất bại bất kể có ngôn từ thô tục hay không. Hơn nữa, có tới 96% số lượt chạy thất bại trên toàn bộ các bài benchmark hoàn toàn không xuất hiện bất kỳ từ ngữ chửi bậy nào.
