Các tác nhân AI thực hiện phần lớn công việc trong phát triển mô hình, nhưng quyết định cuối vẫn do con người đưa ra

Tin chính

Một nhóm nghiên cứu do các học giả của Đại học Fudan (Trung Quốc) thực hiện đã công bố kết quả phân tích cách mà con người và các tác nhân AI hợp tác để xây dựng một mô hình ngôn ngữ mới. Nghiên cứu cho thấy, dù AI thực hiện hầu hết các thao tác kỹ thuật, các quyết định chiến lược và cuối cùng vẫn được con người đưa ra.

Chi tiết nghiên cứu

• Dữ liệu thu thập: 56 người tham gia, hơn 700 bản ghi nhật ký công việc và các bản ghi của các tác nhân AI được sử dụng.
• Mô hình thử nghiệm: “Atria Dawn Preview”, một mô hình ngôn ngữ dựa trên kiến trúc mixture‑of‑experts với 744 tỷ tham số, được thiết kế để thực hiện các nhiệm vụ nghiên cứu và kỹ thuật. Quy trình huấn luyện gắn mỗi công việc với môi trường thực thi thực tế, cho phép mô hình gọi công cụ, tạo ra kết quả trung gian và kiểm tra chúng bằng các tín hiệu bên ngoài như bài kiểm tra, chỉ số hoặc bằng chứng nguồn.
• Hiệu năng: Mô hình đạt vị trí dẫn đầu trên 5 trong số 16 benchmark, bao gồm AutomationBench, CyberGym và MLE‑Bench Lite, nhưng lại thua các đối thủ trên GDPval và SWE‑Bench Pro.
• Mức độ sử dụng AI: AI được áp dụng trong 96,5 % các nhiệm vụ được ghi nhận. Trong suốt bốn tuần thử nghiệm, tỷ lệ trung bình các hành động của tác nhân AI trên mỗi đầu vào của con người tăng từ 11 lên 28,5, cho thấy người dùng ngày càng “giao quyền” cho AI. Tuy nhiên, nhóm nghiên cứu nhấn mạnh đây không phải là dấu hiệu của tính tự chủ ngày càng cao của AI mà chỉ phản ánh việc mỗi quyết định của con người kéo theo nhiều bước thực hiện của AI.
• Giá trị của AI: Trong 455 nhiệm vụ được hoàn thành có hỗ trợ AI, 151 nhiệm vụ (khoảng một phần ba) được đánh giá là không thể thực hiện nếu không có AI. Những nhiệm vụ này không phải do AI tăng tốc độ công việc mà là làm cho chúng trở nên khả thi.
• Quyết định phương pháp và tham số: 55,4 % trường hợp AI đề xuất, con người chọn. Tổng cộng, con người đưa ra 85,5 % quyết định về phương pháp và tham số, trong khi AI chỉ đóng góp 9,2 %. Về mục tiêu và phạm vi, con người quyết định 93,4 % các trường hợp.
• Xử lý lỗi: Trong 588 nhiệm vụ có ghi nhận mức độ khó, 76 % được giải quyết nhờ can thiệp của con người, chủ yếu là cung cấp ngữ cảnh (35,2 %) hoặc chẩn đoán, thay đổi phương pháp (34,7 %). Việc con người thực hiện chỉnh sửa trực tiếp chỉ chiếm 3,2 % và toàn quyền tiếp quản chỉ 0,7 %.
• Tự sửa lỗi của AI: Khi đầu ra của AI cần chỉnh sửa, AI tự thực hiện 75,4 % các thay đổi sau khi nhận phản hồi từ con người, cho thấy “tắc nghẽn” nằm ở quyết định của con người hơn là ở khả năng thực thi của AI.
• Giai đoạn phát triển của AI: Nhóm tác giả mô tả ba giai đoạn: AI là đối tượng nghiên cứu, AI là công cụ thực hiện nhiệm vụ cá nhân, và AI hiện là “đối tác dự án” – soạn thảo và điều chỉnh kế hoạch trong khuôn khổ mục tiêu do con người đặt ra. Họ cũng đưa ra một giai đoạn tiềm năng thứ tư, trong đó AI tự cải tiến đệ quy để tạo ra các mô hình mạnh hơn, tuy nhiên vẫn còn là câu hỏi mở.

Bối cảnh và triển vọng

Kết quả này góp phần vào cuộc tranh luận hiện tại về khả năng tự cải tiến đệ quy của các mô hình AI. Các công ty như Anthropic, OpenAI, Google và DeepMind đã bắt đầu áp dụng các tác nhân AI trong quá trình nghiên cứu – ví dụ, Anthropic cho rằng con người hiện chỉ đưa ra một chữ số phần trăm quyết định về hướng nghiên cứu, trong khi OpenAI đã sử dụng GPT‑5.6 cho toàn bộ vòng đời phát triển. Đồng thời, hơn một nghìn nhân viên của các tập đoàn AI hàng đầu đã cảnh báo về nguy cơ tự động hoá quá mức trong nghiên cứu AI. Một nghiên cứu độc lập từ Princeton và Viện An ninh AI Vương quốc Anh cũng đưa ra kết luận tương tự: các mô hình tiên tiến có thể thực hiện các công việc kỹ thuật, nhưng vẫn thiếu khả năng đưa ra những phán đoán quan trọng.

Những phát hiện này nhấn mạnh rủi ro “đóng dấu” khi chuỗi quyết định ngày càng dài và khó kiểm soát, khiến con người chỉ còn vai trò là người xác nhận cuối cùng. Đối với cộng đồng nghiên cứu và các doanh nghiệp AI, câu hỏi còn lại là làm sao cân bằng giữa việc tận dụng sức mạnh tự động hoá của AI và duy trì được sự giám sát, quyết định có trách nhiệm.