Liệu AI có thực sự đe dọa sự tồn vong của nhân loại hay chỉ là chiêu bài thổi phồng?

Tranh cãi quanh kịch bản AI hủy diệt con người

Nỗi lo ngại về việc trí tuệ nhân tạo tiên tiến có thể xóa sổ nền văn minh nhân loại không còn chỉ xuất hiện trong phim khoa học viễn tưởng. Thời gian gần đây, chính các kỹ sư và nhà nghiên cứu tại các phòng thí nghiệm AI hàng đầu thế giới đã liên tục lên tiếng cảnh báo về viễn cảnh này. Nhằm làm rõ thực hư, tạp chí MIT Technology Review đã tổ chức buổi tọa đàm chuyên đề để giải mã: Liệu đây là một mối đe dọa thực tế có cơ sở khoa học, hay chỉ là chiêu trò thổi phồng nhằm thao túng dư luận và thu hút đầu tư?

Mổ xẻ nguồn gốc của nỗi sợ AI

Phiên thảo luận có sự tham gia của ba cây bút kỳ cựu chuyên trách mảng công nghệ của MIT Technology Review, gồm Tổng biên tập điều hành Niall Firth, Biên tập viên cấp cao mảng AI Will Douglas Heaven và phóng viên AI Grace Huckins.

Các diễn giả tập trung phân tích nguồn gốc của các thuyết cảnh báo nguy cơ tồn vong (existential risk), đánh giá mức độ tin cậy của các luận điểm kỹ thuật và đặt câu hỏi về những gì cộng đồng quốc tế thực sự cần làm:

• Bản chất của các mối đe dọa: Phân định rõ giữa các nguy cơ mang tính giả thuyết xa xôi (như siêu trí tuệ mất kiểm soát) với các hiểm họa an ninh thực tế đang diễn ra, đơn cử như lỗ hổng nền tảng khiến các mô hình ngôn ngữ lớn (LLM) dễ bị tấn công bẻ khóa (jailbreak) để chỉ dẫn phá hoại hệ thống hoặc hành vi gian lận phần thưởng (reward hacking) của các tác tử AI.
• Thực tế hay thổi phồng: Đặt câu hỏi liệu việc nhấn mạnh vào kịch bản "ngày tận thế" có đang làm lu mờ các vấn đề cấp bách trước mắt như thiên vị thuật toán trong tuyển dụng, phát tán thông tin sai lệch hay các rủi ro bảo mật hệ thống.

Bối cảnh rộng hơn về bài toán an toàn AI

Tranh luận về an toàn AI hiện đang chia thành hai luồng quan điểm lớn. Một bên tin rằng các bước nhảy vọt hướng tới AGI đòi hỏi nhân loại phải đặt ra các rào cản kiểm soát nghiêm ngặt ngay từ bây giờ trước khi các mô hình có khả năng tự cải tiến đệ quy vượt tầm kiểm soát. Ngược lại, nhiều chuyên gia thực tế chỉ ra rằng các tác tử AI hiện tại vẫn còn nhiều hạn chế, chưa đủ độ sáng tạo để tự nghiên cứu AI đột phá, và việc vẽ ra kịch bản hủy diệt đôi khi phục vụ mục đích vận động hành lang hoặc đánh bóng tên tuổi của các công ty công nghệ. Buổi tọa đàm mang lại góc nhìn tỉnh táo, kêu gọi sự chú ý đúng mức vào các rủi ro an toàn có thể đo lường và khắc phục được trong giai đoạn hiện nay.