42 nhà toán học hàng đầu thế giới cảnh báo rủi ro tồn vong từ AI là mối đe dọa cận kề

Giới toán học đỉnh cao phát đi tín hiệu báo động đỏ

Trong một bức thư ngỏ gửi tới Chủ tịch Hội Hoàng gia Anh (Royal Society), 42 viện sĩ toán học hàng đầu đã chính thức lên tiếng kêu gọi Viện Hàn lâm Khoa học Anh khẩn cấp cảnh báo tới chính phủ và các cơ quan truyền thông về rủi ro tồn vong do AI tiên tiến gây ra. Đáng chú ý, danh sách ký tên quy tụ những bộ óc kiệt xuất nhất của toán học đương đại, bao gồm ba nhà khoa học từng đoạt huy chương Fields danh giá: Martin Hairer, Peter Scholze và Wendelin Werner.

Toàn bộ những người tham gia ký tên đều là các nhà nghiên cứu độc lập, không có bất kỳ mối liên hệ hay xung đột lợi ích nào với các tập đoàn công nghệ thương mại trong ngành AI.

Bước nhảy vọt toán học và nỗi sợ mất kiểm soát trên diện rộng

Lý do trực tiếp khiến các nhà khoa học phá vỡ sự im lặng bắt nguồn từ bước nhảy vọt phi thường của công nghệ trong thời gian gần đây. Chỉ trong vòng 3 tháng ngắn ngủi, các mô hình tiên tiến nhất của OpenAI và Anthropic đã liên tiếp giải quyết thành công nhiều bài toán nghiên cứu mở, trong đó có một bài toán thuộc danh sách 7 "Bài toán Thiên niên kỷ" (Millennium Problems) huyền thoại, và bài toán thứ hai được dự báo cũng sẽ sớm có lời giải.

Bức thư nhấn mạnh rằng các mô hình hiện nay đã đạt "năng lực ngang tầm với những nhà toán học hàng đầu ở nhiều lĩnh vực chuyên sâu", đồng thời cảnh báo khả năng cao chúng sẽ phát triển năng lực vượt trội hơn con người (superhuman) chỉ trong một khoảng thời gian ngắn tương tự.

Tuy nhiên, mối lo lớn nhất của nhóm nghiên cứu không chỉ nằm ở số phận của ngành toán. Điểm cốt lõi khiến họ lên tiếng là quy luật gia tốc: một khi năng lực tư duy logic của AI bứt phá, tốc độ thay đổi tương tự chắc chắn cũng sẽ xuất hiện trong các lĩnh vực nguy hiểm khác như an ninh mạng, hệ thống điều khiển vũ khí tự hành, quy trình phát triển tác nhân sinh hóa học và các chiến dịch phát tán thông tin sai lệch tinh vi.

Không thể tiếp tục xem nhẹ nguy cơ hiện hữu

Nhóm học giả khẳng định rằng những ước tính rủi ro từ chính các phòng lab AI lớn – vốn đưa ra xác suất rủi ro tồn vong đối với nhân loại ở mức trên 10% – không thể bị phớt lờ hay đánh đồng với "chiêu trò thổi phồng" (hype) của giới truyền thông.

Bức thư khép lại bằng lời cảnh báo đanh thép: cộng đồng quốc tế và các nhà hoạch định chính sách không thể chần chừ thêm nữa, bởi đến khi hiểm họa trở nên hiển hiện và rõ ràng trước mắt công chúng, thời điểm để hành động có thể đã hoàn toàn trôi qua.