OpenAI kêu gọi thiết lập tiêu chuẩn quốc tế kiểm soát AI có khả năng tự cải tiến

OpenAI thúc đẩy tiêu chuẩn toàn cầu về AI tự cải tiến

OpenAI đang tích cực vận động cho việc xây dựng các bộ tiêu chuẩn quốc tế đối với quá trình phát triển AI tiên tiến, trọng tâm hướng vào khái niệm "tự cải tiến đệ quy" (Recursive Self-Improvement - RSI). Đây là kịch bản mà ở đó các hệ thống AI có thể tự động hóa phần lớn công việc nghiên cứu và kỹ thuật để tạo ra những thế hệ AI kế tiếp mạnh mẽ hơn, mở ra khả năng tăng tốc phát triển theo cấp số nhân.

OpenAI nhận định rằng dù mô hình RSI hoàn toàn tự động vẫn chưa xuất hiện ở thời điểm hiện tại, hướng đi này chỉ nên được triển khai khi đã có những giải pháp an toàn tuyệt đối.

Nguy cơ mất dấu tiến trình và đề xuất từ OpenAI

Theo cảnh báo từ OpenAI, nếu thiếu các hàng rào bảo vệ hoàn thiện, con người có thể nhanh chóng mất dấu và mất quyền kiểm soát toàn bộ tiến trình phát triển của AI. Hậu quả là các hệ thống AI có nguy cơ trở nên "nguy hiểm hơn, kém liên kết (aligned) với mục tiêu của con người hơn, và nhìn chung trở thành mối đe dọa đối với xã hội".

Để ngăn chặn viễn cảnh này, OpenAI đề xuất Mỹ nên đóng vai trò dẫn dắt việc xây dựng các tiêu chuẩn kỹ thuật toàn cầu. Khung tiêu chuẩn này có thể dựa trên nền tảng của các viện an toàn AI quốc gia cùng các tổ chức tiêu chuẩn hóa như CAISI và ISO. Nội dung hợp tác cần tập trung vào ba trụ cột chính:

• Thống nhất các phương pháp đo lường và đánh giá năng lực AI.
• Thiết lập cơ chế báo cáo sự cố minh bạch giữa các bên.
• Đưa ra các quy tắc bắt buộc về sự giám sát của con người đối với các quy trình nghiên cứu AI tự động hóa.

Sự đồng thuận từ Liên Hợp Quốc và các khung quản trị quốc tế

Cảnh báo của OpenAI xuất hiện trong bối cảnh các tổ chức quốc tế cũng đang bày tỏ lo ngại sâu sắc về tốc độ tự trị hóa của AI. Mới đây, một hội đồng khoa học trực thuộc Liên Hợp Quốc (UN) đã đưa ra cảnh báo tương tự về nguy cơ mất kiểm soát trước các nhóm tác tử tự trị (autonomous agent swarms).

Hội đồng này kiến nghị xây dựng một cơ chế hợp tác an toàn AI quốc tế, học hỏi từ các khuôn khổ quản trị toàn cầu đã thành công trong những lĩnh vực có rủi ro hệ thống cao như hàng không, năng lượng hạt nhân và an ninh mạng.