Hơn 20 chuyên gia AI hàng đầu cảnh báo nguy cơ cực lớn khi để AI tự nghiên cứu và phát triển

Cảnh báo về kịch bản "bùng nổ trí tuệ" từ dàn chuyên gia đầu ngành

Hơn 20 nhà khoa học hàng đầu trong lĩnh vực trí tuệ nhân tạo, bao gồm hai "cha đẻ AI" đoạt giải Turing là Geoffrey Hinton và Yoshua Bengio, cùng với người đứng đầu bộ phận nghiên cứu của OpenAI Jakub Pachocki, vừa đồng loạt ký tên vào một bài báo khoa học cảnh báo về rủi ro nghiêm trọng của AI tự cải tiến (self-improving AI).

Nhóm tác giả nhận định rằng thế giới có thể đang tiến gần đến một đợt "bùng nổ trí tuệ" (intelligence explosion) do quá trình nghiên cứu và phát triển (R&D) AI được tự động hóa hoàn toàn. Trong nghiên cứu, họ nhấn mạnh: "Dù còn nhiều yếu tố bất định, quá trình tự động hóa R&D trong AI có thể sớm kích hoạt hiện tượng này".

Tiến trình nhiều năm có nguy cơ bị rút ngắn xuống vài tháng

Theo tài liệu công bố, các hệ thống AI hiện nay đã đảm nhận phần lớn khối lượng viết mã nguồn (code) ngay tại chính các tập đoàn công nghệ đang phát triển chúng. Xu hướng này mở đường cho khả năng toàn bộ quy trình R&D của AI sẽ được tự động hóa chỉ trong vòng vài năm tới.

Khi đó, tốc độ phát triển công nghệ sẽ tăng theo cấp số nhân: những bước tiến bình thường phải mất nhiều năm nghiên cứu của con người có thể bị nén lại chỉ trong vài tháng ngắn ngủi. Các chuyên gia cảnh báo rằng xã hội loài người sẽ không kịp thích nghi, việc kiểm soát các hệ thống AI có năng lực siêu phàm (superhuman AI) có nguy cơ tuột khỏi tầm tay, đồng thời cán cân quyền lực giữa các quốc gia, tập đoàn và chính phủ sẽ bị xáo trộn dữ dội. Do đó, nhóm nghiên cứu khẩn thiết kêu gọi giới hoạch định chính sách phải chủ động nắm bắt và giám sát chặt chẽ mức độ tự động hóa trong các phòng nghiên cứu AI.

Làn sóng bất an lan rộng trong lòng các phòng thí nghiệm AI

Báo cáo khoa học này tiếp tục nối dài chuỗi cảnh báo đáng lo ngại từ chính nội bộ cộng đồng công nghệ cao trong thời gian gần đây. Trước đó, 42 nhà toán học hàng đầu thế giới cũng đã lên tiếng yêu cầu thế giới chú ý hơn đến các rủi ro mang tính diệt vong từ AI.

Bản thân Jakub Pachocki từng thừa nhận rằng hiện chưa có bất kỳ phòng thí nghiệm nào giải quyết triệt để bài toán căn chỉnh AI (AI alignment) đủ tốt để "có thể tiếp tục mở rộng quy mô (scaling) ở tốc độ tối đa một cách có trách nhiệm trong thời gian dài". Nỗi bất an hiện hữu rõ nét đến mức nhiều nhân sự tại các hãng AI lớn đã bày tỏ nỗi sợ công nghệ này có thể hủy diệt nhân loại, thậm chí một số nhân viên của Anthropic được cho là đã bắt đầu tìm kiếm nơi trú ẩn an toàn để phòng ngừa kịch bản AI vượt tầm kiểm soát.