Sự bùng nổ nghiên cứu AI của Anthropic gây lo ngại về an toàn khi công ty kêu gọi phát triển chậm hơn

Nghiên cứu AI của Anthropic đang tăng tốc đáng kể

Một cuộc thăm dò kéo dài 11 tuần do nhóm an toàn AI METR thực hiện bên trong Anthropic cho thấy các mô hình AI của công ty đang tiến bộ gấp đôi so với một năm trước. Dữ liệu benchmark chỉ ra “khoảng hai năm tiến bộ lịch sử trong vòng một năm qua.” Các nhà nghiên cứu METR cho biết tốc độ tăng không chỉ là kết quả của việc tăng cường tính toán; phần lớn tốc độ tăng trong tháng 10 được quy cho công việc hỗ trợ bởi AI.

Năng suất làm việc của nhân viên Anthropic tăng mạnh

Các cuộc thăm dò không chính thức trên Slack và phỏng vấn nhân viên cho thấy các nhà nghiên cứu sử dụng mô hình nội bộ mạnh nhất của Anthropic báo cáo năng suất tăng khoảng 12 lần so với khi không có trợ giúp AI. Con số này gấp đôi so với các báo cáo năng suất tự khai báo vài tháng trước, khi nhân viên còn dùng hệ thống nội bộ cũ hơn, Mythos 5.

Các mô hình nội bộ mới thúc đẩy sự bùng nổ

METR xác định ba mô hình chưa ra mắt mà Anthropic đã hoàn thành việc huấn luyện liên tiếp:

Một mô hình “Unreleased 2022” từ năm 2022 cũng được đề cập. Các mô hình này vẫn được giữ bí mật, và khả năng của chúng được cho là nền tảng cho phần lớn tăng trưởng năng suất đã báo cáo.

Việc gỡ bỏ nội dung nặng nề hạn chế hiểu biết công chúng

Anthropic đã cho METR truy cập vào nghiên cứu bí mật, dữ liệu hiệu suất và phỏng vấn nhân viên — nhiều hơn dự đoán ban đầu của METR. Tuy nhiên, công ty đã gỡ bỏ phần lớn bằng chứng trong phiên bản công khai của báo cáo. METR lưu ý rằng nhiều đoạn bị loại bỏ là “cấp cao” nhưng vẫn thiết yếu cho việc xác minh độc lập. Đồng sáng lập Anthropic Sam McCandlish bảo vệ việc gỡ bỏ này vì lý do thương mại, cho rằng tiết lộ các yếu tố chính gây ra tốc độ tăng có thể cung cấp cho đối thủ một “lộ trình” để tăng tốc công việc của họ.

Mâu thuẫn giữa lời nói và thực tiễn

Những phát hiện này xuất hiện khi Anthropic đang chuẩn bị IPO, trong khi CEO Dario Amodei công khai kêu gọi các phòng thí nghiệm AI “phanh lại” quá trình phát triển. Các nhà phê bình thấy có sự mâu thuẫn: công ty tuyên bố ưu tiên an toàn và kêu gọi tiến trình chậm lại, nhưng quy trình nội bộ dường như đang đẩy nhanh tốc độ tăng trưởng khả năng AI.

Phản ứng của ngành và áp lực chính sách

• Marius Hobbhahn, CEO của Apollo Research, cho rằng báo cáo cho thấy R&D nhờ AI đang tiến nhanh hơn nhiều dự báo, có thể vượt quá các biện pháp an toàn.

• Alan Chan của GovAI lập luận rằng kết quả này nên khiến những người hoài nghi xem xét lại thời gian cho các đóng góp AI hoàn toàn tự động.

• Thành viên Hạ viện New York Alex Bores kêu gọi Quốc hội cấm “tự cải tiến đệ quy” (RSI) “trong năm nay nếu có thể,” phản ánh sự quan tâm ngày càng tăng của lập pháp.

Triển vọng: Minh bạch và giám sát là trọng tâm

Báo cáo của METR đã làm tăng áp lực yêu cầu minh bạch hơn và giám sát độc lập đối với các phòng thí nghiệm AI tiên tiến. Các nhà nghiên cứu như Brianna Rosen (Institute for AI Policy and Strategy) cảnh báo rằng nếu không có quyền truy cập không hạn chế, niềm tin công chúng và giám sát dân chủ sẽ vẫn còn mong manh. Anthropic đã công bố kế hoạch công bố báo cáo riêng về tiến độ AI “trong vài tuần tới” và đề ra các bước an toàn mới, nhưng mức độ chi tiết sẽ được tiết lộ còn chưa rõ.

Kết luận: Việc sử dụng AI nội bộ của Anthropic đang đẩy nhanh tốc độ nghiên cứu một cách đáng kể, ngay cả khi công ty công khai kêu gọi thận trọng. Việc gỡ bỏ nặng nề các phát hiện của METR làm dấy lên tranh luận về trách nhiệm doanh nghiệp, tính minh bạch và mức độ phù hợp của các khung an toàn hiện có trong bối cảnh AI đang phát triển nhanh chóng.