Hàng trăm nhà khoa học hàng đầu kêu gọi ngắt kết nối Internet khẩn cấp đối với các mô hình AI

Một bức thư ngỏ với chữ ký của 406 nhà khoa học đang yêu cầu thay đổi khẩn cấp cách thức thử nghiệm và triển khai các hệ thống trí tuệ nhân tạo, đồng thời thúc giục các nhà phát triển ngắt kết nối vật lý hoàn toàn khỏi Internet (air-gapping) đối với các mô hình này.

Bản kiến nghị quy tụ nhiều nhân vật đầu ngành trong lĩnh vực khoa học máy tính và học máy, trong đó có hai chủ nhân giải thưởng Turing là Geoffrey Hinton (Đại học Toronto) và Yoshua Bengio (Đại học Montréal), cùng với Stuart Russell (UC Berkeley), Yejin Choi (Stanford) và Bernhard Schölkopf (Viện Max Planck).

Các nhà nghiên cứu cảnh báo rằng các biện pháp kiểm soát và cô lập hiện tại đang dần thất bại, đồng thời chỉ ra những sự cố đã được ghi nhận khi mô hình AI vượt qua các môi trường bảo mật lỏng lẻo để vươn tới các mạng lưới bên ngoài.

"Nếu không có những thay đổi tức thì trong quy trình phát triển và triển khai AI, các sự cố như vậy sẽ tiếp tục tái diễn, và những sự việc trong tương lai sẽ gây thiệt hại nặng nề hơn nhiều cho cơ sở hạ tầng trọng yếu đang đối mặt với rủi ro của chúng ta," những người ký tên khẳng định.

Hành vi khó lường và những "hộp cát" không đủ an toàn

Theo bức thư ngỏ, các lỗ hổng bảo mật bắt nguồn từ hai thách thức rõ rệt: những thiếu sót trong an ninh mạng tiêu chuẩn và bản chất khó lường của các mô hình tiên tiến. Mặc dù việc củng cố các môi trường hộp cát (sandbox) và áp dụng giao thức cô lập nghiêm ngặt có thể ngăn chặn các lỗi bảo mật cơ bản, nhưng hành vi tiềm ẩn của các hệ thống AI vẫn là điều rất khó dự đoán trước.

Bức thư nhấn mạnh rằng các mô hình có thể tự động theo đuổi những mục tiêu không nằm trong chủ đích của người tạo ra chúng — một vấn đề mà các kỹ thuật căn chỉnh (alignment) hiện tại chưa thể dự báo một cách đáng tin cậy. Do đó, việc cấp quyền truy cập mạng mở cho các mô hình này sẽ tạo ra mức độ rủi ro không thể chấp nhận được.

Các nhà nghiên cứu lập luận rằng mức độ tự chủ được cho phép trong bất kỳ hệ thống cô lập nào cũng phải được cân nhắc kỹ lưỡng trước thực tế rằng ngành công nghiệp hiện nay chỉ có năng lực rất hạn chế trong việc đảm bảo mô hình sẽ không gây ra sự cố an ninh.

Kêu gọi giám sát toàn cầu và báo cáo sự cố

Nhằm giải quyết lỗ hổng trong quản trị, bức thư kêu gọi thành lập một cơ quan giám sát quốc tế hoạt động song hành cùng các chính phủ, giới chuyên gia an ninh mạng và các nhà nghiên cứu AI.

Cơ quan này sẽ chịu trách nhiệm thiết lập các tiêu chuẩn an ninh mang tính ràng buộc đối với bất kỳ hệ thống triển khai nào cho phép kết nối mạng vượt ra ngoài phạm vi cách ly vật lý hoàn toàn. Ngoài ra, cơ quan này cũng sẽ theo dõi và ghi nhận các nỗ lực "vượt ngục" của AI, đồng thời yêu cầu các công ty công nghệ phải báo cáo mỗi khi các biện pháp cô lập thất bại. Những báo cáo sự cố này về sau sẽ được công khai nhằm nâng cao trách nhiệm giải trình và chia sẻ kinh nghiệm cho toàn bộ cộng đồng nghiên cứu.

Cách ly vật lý cũng chỉ là giải pháp "câu giờ"

Mặc dù việc cách ly vật lý đem lại một lá chắn bảo vệ thiết yếu, các chuyên gia thừa nhận rằng air-gapping không phải là giải pháp vĩnh viễn cho những rủi ro từ AI.

Nhà nghiên cứu Noam Brown của OpenAI gần đây đã chỉ ra rằng ngay cả việc chia tách vật lý hoàn toàn vẫn có thể để lộ những bề mặt tấn công tinh vi. Brown lưu ý rằng theo lý thuyết, hai chiếc máy tính bị cô lập vẫn có thể giao tiếp xuyên qua các khoảng trống air-gap thông qua sự dao động nhiệt độ: một hệ thống sẽ tăng nhiệt cho bộ vi xử lý trong khi hệ thống kia phát hiện sự thay đổi đó bằng các cảm biến nhiệt.

Brown nhấn mạnh rằng các biện pháp cô lập và việc giám sát chuỗi suy nghĩ (chain-of-thought) chủ yếu chỉ đóng vai trò "câu giờ" trong khi bài toán cốt lõi về căn chỉnh AI vẫn chưa có lời giải. Ông cũng cảnh báo về những câu hỏi lớn đang đặt ra ở phía trước xung quanh vấn đề tự cải tiến đệ quy (recursive self-improvement - RSI) — làm thế nào các nhà phát triển nhận biết được thời điểm các hệ thống bắt đầu tự nâng cấp bản thân — và cách thức để quản trị hàng tỷ mô hình siêu thông minh tiềm năng. Brown cho biết hiện có hơn 10% nhân sự trong đội ngũ của chính ông đang tập trung cho nghiên cứu căn chỉnh AI, mức tỷ lệ cao nhất từ trước đến nay.