DeepMind kêu gọi thành lập cơ quan quản lý độc lập để kiểm soát mô hình AI frontier

Đề xuất quy định từ CEO DeepMind

Sáng thứ Ba tuần này, Demis Hassabis – CEO của Google DeepMind – đã đăng tải trên X một bài viết có tiêu đề "A Framework for Frontier AI and the Dawning of a New Age" (Khung xây dựng cho AI Frontier và Bình minh của Thời đại Mới), trong đó ông kêu gọi thành lập một cơ quan điều tiết độc lập nhằm giám sát việc phát hành các mô hình AI tiên tiến. Đề xuất này xuất phát từ những thách thức và lo ngại hiện tại trong việc quản lý công nghệ AI, đặc biệt là các mô hình có khả năng mạnh mẽ và tiềm ẩn nhiều rủi ro.

Cơ chế hoạt động dựa theo mô hình FINRA

Theo đề xuất của Hassabis, cơ quan quy chuẩn sẽ được xây dựng theo mô hình của Cơ quan Điều tiết Ngành Tài chính (FINRA), một tổ chức tự điều tiết được chính phủ Mỹ hỗ trợ nhưng hoạt động độc lập. Giai đoạn đầu, các phòng lab AI sẽ tự nguyện chia sẻ các mô hình với cơ quan quy chuẩn để kiểm tra trong vòng 30 ngày trước khi phát hành công khai. Sau khi quy trình đánh giá được chứng minh là hiệu quả và vững chắc, quy trình bắt buộc có thể nhanh chóng được áp dụng, tức là các mô hình AI sẽ phải vượt qua bộ tiêu chí này để được triển khai trên thị trường Mỹ. Bên cạnh đó, các phòng lab cũng sẽ cộng tác với cơ quan quy chuẩn để xử lý bất kỳ lỗ hổng bảo mật quan trọng nào được phát hiện sau khi phát hành.

Đề xuất này được xây dựng dựa trên những cuộc đánh giá tạm thời mà chính phủ Mỹ đã thực hiện cho các mô hình như Mythos của Anthropic và Sol của OpenAI. Tuy nhiên, những cuộc đánh giá này đã bị chỉ trích đáng kể vì thiếu chuyên môn kỹ thuật và minh bạch trong quá trình quyết định liệu một mô hình có được phép phát hành hay không. Cơ chế của Hassabis nhằm chuyển giao trách nhiệm đó cho một tổ chức chuyên biệt, được tài trợ bởi các phòng lab AI nhưng vẫn duy trì tính độc lập hoạt động.

Bối cảnh chính sách khó khăn

Vấn đề quy định AI vẫn là chủ đề gây tranh cãi lớn, cả trong ngành công nghệ lẫn trong chính quyền Trump. Gần đây, Sriram Krishnan – cố vấn AI của Nhà Trắng và general partner tại a16z – đã phủ nhận khả năng thành lập một cơ quan quản lý AI trong các bộ phận hành pháp, khẳng định rằng sẽ không có "FDA cho AI". Đề xuất của Hassabis – tạo ra một tổ chức tự điều tiết giống FINRA – có thể là cách giải quyết những lo ngại này, vì nó không yêu cầu can thiệp từ cơ chế chính phủ truyền thống mà vẫn đảm bảo sự giám sát.

Về cơ cấu tổ chức, Hassabis hình dung rằng cơ quan sẽ được lãnh đạo bởi các đại diện từ cộng đồng open-source và những chuyên gia kỹ thuật hàng đầu từ ngành công nghệ, được hỗ trợ tài chính từ các phòng lab AI để có đủ nguồn lực giữ chân nhân tài. Hơn nữa, tổ chức này còn có thể giao phó một số công việc đánh giá cho các nhóm chuyên về an toàn AI, những nhóm này có thể chuyên sâu vào các rủi ro cụ thể.