Chủ tịch EU cảnh báo nguy cơ AI agent "vượt tầm kiểm soát" và rủi ro an ninh mạng chưa từng có

Lời cảnh báo từ người đứng đầu Liên minh châu Âu

Trong bài phát biểu Thông điệp Liên minh (State of the Union), Chủ tịch Ủy ban châu Âu Ursula von der Leyen đã đưa ra những cảnh báo đáng chú ý về tốc độ phát triển và rủi ro của trí tuệ nhân tạo. Dù khẳng định AI là nền tảng cốt lõi của nền kinh tế lẫn an ninh quốc gia trong tương lai, bà nhấn mạnh các mối đe dọa tiềm ẩn từ công nghệ này cần phải được kiểm soát chặt chẽ trước khi vượt qua giới hạn an toàn.

Bà von der Leyen cho biết EU sẵn sàng chia sẻ kinh nghiệm và hỗ trợ các phòng thí nghiệm AI lớn của Mỹ trong việc kiểm soát tốc độ phát triển công nghệ nhằm đảm bảo tính an toàn.

Nguy cơ tấn công mạng diện rộng và AI agent "thoát môi trường"

Dẫn chứng từ sự cố bảo mật gần đây liên quan đến nền tảng Hugging Face, Chủ tịch EU cảnh báo rằng các mô hình AI thế hệ mới đang được phát triển có thể tiếp tay cho các cuộc tấn công mạng ở quy mô "vượt xa những gì con người từng hình dung".

Bên cạnh vấn đề an ninh mạng, bà von der Leyen đặc biệt lưu ý hiện tượng các AI agent tự động "vượt khỏi môi trường kiểm soát" (escaping their environment) mới chỉ là bước khởi đầu. Mối nguy từ các mô hình có khả năng tự cải thiện (self‑improving models) đang ngày một rõ ràng hơn.

"Nếu chính những người đang phát triển công nghệ này đã nhìn thấy rõ rủi ro, thì chúng ta cũng phải nhận thức rõ điều đó," bà khẳng định.

Nhằm đối phó với thách thức này, người đứng đầu Ủy ban châu Âu dự kiến phối hợp chặt chẽ với các đối tác quốc tế như Canada và Vương quốc Anh trong các khâu đánh giá mô hình, kiểm định và an toàn AI. EU cũng lên kế hoạch mời đại diện từ các phòng thí nghiệm AI hàng đầu thế giới (phòng thí nghiệm tiên phong) tham gia đàm phán trực tiếp.

Rào cản quy định và bài toán tiếp cận công nghệ của EU

Bà von der Leyen tái khẳng định Đạo luật Trí tuệ Nhân tạo (EU AI Act) chính là "mảnh ghép quan trọng để thiết lập các rào chắn bảo vệ cần thiết" cho xã hội trước các tác động tiêu cực của AI.

Tuy nhiên, nỗ lực kiểm soát của EU cũng đang đối mặt với những trở ngại thực tế. Theo các báo cáo ghi nhận, khối này hiện vẫn chưa có được quyền tiếp cận đáng tin cậy đối với các mô hình an ninh mạng tiên tiến nhất do các phòng thí nghiệm AI lớn trên thế giới phát triển, khiến việc chủ động phòng ngừa và thẩm định rủi ro kỹ thuật còn gặp nhiều thách thức.