Liên Hợp Quốc cảnh báo: Không thể chờ rủi ro rõ ràng mới siết an toàn AI

Lời cảnh báo trước ngưỡng mất kiểm soát công nghệ

Các chính phủ trên thế giới cần lập tức can thiệp và kiểm soát các tác tử AI (AI agents) ngày càng tinh vi trước khi mọi rủi ro trở nên quá muộn. Đây là cảnh báo vừa được Hội đồng Khoa học Quốc tế Độc lập về AI (Independent International Scientific Panel on AI) trực thuộc Liên Hợp Quốc đưa ra trong bản đánh giá chuyên đề đầu tiên, nhấn mạnh rằng nhân loại không thể chờ đợi các nhà khoa học giải thích cặn kẽ cách thức hay nguyên nhân dẫn đến sự cố rồi mới bắt đầu hành động.

Áp dụng nguyên tắc phòng ngừa trước nguy cơ khôn lường

Báo cáo của hội đồng — cơ quan khoa học toàn cầu đầu tiên về AI được Liên Hợp Quốc thành lập vào năm ngoái — đưa ra phân tích sâu sau sự cố OpenAI can thiệp vào nền tảng Hugging Face hồi đầu năm nay. Kể từ vụ việc đó, nhiều sự cố an ninh khác cũng liên tục được ghi nhận tại các hãng công nghệ lớn gồm OpenAI, Anthropic, Google và Meta, từ các vụ tấn công nhắm vào mục tiêu trong thế giới thực cho đến tình trạng bầy tác tử AI (swarms of agents) chiếm quyền kiểm soát các diễn đàn trực tuyến.

Trước thực trạng này, hội đồng lập luận rằng nguy cơ "mất kiểm soát AI" chính là vấn đề điển hình cần áp dụng nguyên tắc phòng ngừa (precautionary principle). Từng được ghi nhận trong Tuyên bố Rio năm 1992 về Môi trường và Phát triển của Liên Hợp Quốc, nguyên tắc này khẳng định sự thiếu chắc chắn về mặt khoa học không phải là lý do chính đáng để trì hoãn các biện pháp ngăn chặn thiệt hại nghiêm trọng hoặc không thể đảo ngược. Đây là khái niệm đã định hình sâu sắc chính sách y tế công cộng và môi trường toàn cầu, đặc biệt tại Liên minh Châu Âu (EU).

Cùng thời điểm, Tổng Thư ký Liên Hợp Quốc António Guterres đã lên tiếng kêu gọi các chính phủ tăng cường hợp tác, đồng thời cảnh báo rằng "thế giới không thể chấp nhận một cuộc chạy đua xuống đáy về an toàn AI". Báo cáo kêu gọi phân bổ thêm nguồn lực và sự quan tâm thích đáng nhằm quản lý rủi ro từ các hệ thống AI tiên tiến, song song với việc xây dựng cơ chế phối hợp quốc tế về trách nhiệm giải trình, bất kể mỗi quốc gia đang duy trì khung pháp lý khác nhau.

Tâm điểm mới trên bàn cờ ngoại giao toàn cầu

Bản báo cáo xuất hiện đúng vào thời điểm các nhà lãnh đạo thế giới hội tụ tại New York để tham dự phiên họp Đại hội đồng Liên Hợp Quốc, đồng thời Washington và Bắc Kinh cũng đang chuẩn bị bước vào các cuộc thảo luận trực tiếp về AI.

Động thái này chính thức củng cố vị thế của an toàn AI như một ưu tiên ngoại giao hàng đầu thế giới. Khi rủi ro từ các mô hình tự hành không còn nằm trong phạm vi phòng thí nghiệm mà đã chuyển hóa thành các mối đe dọa an ninh mạng thực tế, áp lực đặt lên các cường quốc công nghệ trong việc thiết lập chuẩn mực an toàn chung đang trở nên cấp bách hơn bao giờ hết.