Anthropic bắt tay Accenture lập đội giám sát an toàn AI nội bộ với cam kết 1 tỷ USD

Bất ngờ đưa gã khổng lồ tư vấn vào "nằm vùng" giám sát AI

Kế hoạch đưa các chuyên gia an toàn độc lập vào cắm chốt ngay trong phòng lab AI của CEO Anthropic Dario Amodei đã chính thức khởi động. Thay vì chọn các tổ chức nghiên cứu an toàn AI phi lợi nhuận quen thuộc, Anthropic công bố thỏa thuận hợp tác với tập đoàn tư vấn công nghệ Accenture. Theo thỏa thuận, các nhân sự từ Accenture sẽ trực tiếp làm việc bên trong Anthropic để giám sát các mô hình AI lẫn đội ngũ phát triển.

Thông tin trên lập tức tạo cú hích lớn trên thị trường tài chính: cổ phiếu của Accenture đã bật tăng 8% trong phiên giao dịch ngoài giờ.

Thỏa thuận 1 tỷ USD và vai trò của Faculty

Theo thông báo từ Anthropic, Faculty — công ty chuyên về AI mà Accenture thâu tóm vào tháng 1 để làm bộ phận AI nòng cốt — sẽ trực tiếp đảm nhận các nhiệm vụ:

• Kiểm thử thâm nhập (red-teaming) đối với các mô hình.
• Đánh giá mức độ tương thích (alignment assessments) với giá trị con người.
• Thử nghiệm các cơ chế bảo vệ và rào chắn an toàn (safeguards) của hệ thống.

Cả hai bên dự kiến sẽ đầu tư ít nhất 1 tỷ USD cho dự án hợp tác này trong vòng 5 năm tới.

Lựa chọn này khiến giới quan sát an toàn AI bất ngờ, bởi trước đó các cuộc thảo luận xoay quanh đề xuất của Amodei thường hướng về các tổ chức nghiên cứu chuyên sâu như METR, Redwood Research hay Apollo Research. Phản hồi về vấn đề này, Anthropic cho biết hãng vẫn đang thảo luận với METR và các tổ chức phi lợi nhuận khác để thử nghiệm các hình thức đánh giá độc lập bằng nguồn tài trợ riêng, đồng thời sẽ công bố thêm các đơn vị đánh giá mới trong những tuần tới.

Anthropic lý giải rằng dù Accenture không nổi danh ở các nghiên cứu deep learning tiên phong, tập đoàn này lại có lợi thế vượt trội về kinh nghiệm thực tế khi triển khai AI cho các doanh nghiệp lớn và cơ quan chính phủ. Hơn nữa, với tư cách là một tập đoàn đại chúng quy mô lớn ra đời từ trước làn sóng AI bùng nổ, Accenture có tính độc lập vận hành cao hơn đối với Anthropic và hệ sinh thái phức tạp xung quanh phòng lab này.

Áp lực an toàn gia tăng và bài toán trách nhiệm giải trình

Việc đưa chuyên gia bên ngoài vào làm việc nội bộ diễn ra trong bối cảnh rủi ro an toàn AI đang tăng nhiệt. Gần đây, một số tác tử AI (AI agents) do cả OpenAI và Anthropic triển khai đã tự ý xâm nhập vào các website bên ngoài mà không hề kích hoạt cảnh báo nội bộ nào trong các lab.

Hiện tại vẫn chưa có tiêu chuẩn chung nào quy định quyền truy cập hay quy trình báo cáo của các đơn vị đánh giá nội bộ, và Anthropic dự kiến cách tiếp cận này sẽ phải liên tục hoàn thiện theo thời gian.

Động thái này cũng vấp phải hoài nghi từ một số nhà phê bình. Họ lo ngại việc các hãng AI tự dựng cơ chế "tự giám sát" (self-policing) thực chất là bình phong nhằm né tránh trách nhiệm giải trình khi mô hình gặp sự cố hoặc hoạt động sai lệch. Đáp lại, đại diện Anthropic khẳng định: "Sự hiện diện của các bên đánh giá này không làm giảm trách nhiệm của chúng tôi, mà giúp trách nhiệm đó có thể kiểm chứng rõ ràng hơn. An toàn của các mô hình vẫn hoàn toàn thuộc về trách nhiệm của Anthropic."