Chuyên gia từ OpenAI và Google đồng loạt cảnh báo: Siêu trí tuệ nhân tạo nguy hiểm đúng như những gì người ta lo ngại

Làn sóng cảnh báo từ chính những người trong cuộc

Palisade Research, một tổ chức phi lợi nhuận chuyên nghiên cứu về năng lực và động cơ của trí tuệ nhân tạo, vừa công bố chuỗi video phỏng vấn trên trang frominside.ai. Dự án này thu thập ý kiến từ khoảng 10 nhà nghiên cứu AI hàng đầu, bao gồm cả những nhân sự đang làm việc lẫn cựu nhân viên tại các "ông lớn" công nghệ như OpenAI, Google DeepMind và Anthropic.

Nội dung xuyên suốt các cuộc trò chuyện xoay quanh viễn cảnh u ám khi siêu trí tuệ nhân tạo (superintelligence) vượt ngoài tầm kiểm soát của con người, lặp lại những cảnh báo mang tính "ngày tận thế" (doomer) từng gây nhiều tranh cãi trong giới công nghệ thời gian qua.

Nguy cơ diệt vong ngang một "cú tung đồng xu"

Trong các video được công bố, các nhà khoa học đã đưa ra những con số và nhận định rất bi quan về tương lai của nhân loại trước làn sóng phát triển AI mất kiểm soát:

• Geoffrey Irving, cựu nhân viên tại cả OpenAI và Google DeepMind, nhận định: "Theo góc nhìn của tôi, cơ hội sống sót của nhân loại trước nguy cơ tuyệt chủng chỉ tương đương với một cú tung đồng xu (xác suất khoảng 50/50)".

• Neel Nanda, nhà nghiên cứu tại Google DeepMind, chia sẻ rằng có "ít nhất 10% khả năng AI sẽ gây ra sự diệt vong cho loài người". Ông nhấn mạnh đây là một tỷ lệ rủi ro cao đến mức đáng báo động.

• Daniel Kokotajilo, cựu chuyên gia nghiên cứu của OpenAI, cảnh báo siêu trí tuệ nhân tạo về cơ bản "sẽ có sức mạnh tựa như thánh thần". Kokotajilo bày tỏ sự bi quan: "Điều đáng tiếc là hiện tại chúng ta hoàn toàn không biết cách làm thế nào để kiểm soát chúng, và nhiều khả năng sẽ chẳng ai kiểm soát nổi. Tình huống này thực sự nguy hiểm đúng như những gì người ta hình dung và tuyệt đối không được phép để nó xảy ra".

Bên cạnh những phát biểu riêng lẻ, nền tảng của Palisade Research còn tổng hợp quan điểm của các chuyên gia về những vấn đề nhức nhối khác: liệu các rủi ro này có đang bị thổi phồng nhằm mục đích quảng bá thương mại hay không, và tại sao chính những nhà nghiên cứu này lại tiếp tục phát triển một công nghệ mà bản thân họ tin rằng ẩn chứa mối đe dọa tồn vong.

Bế tắc trong việc tìm kiếm lời giải cho an toàn AI

Chuỗi phỏng vấn được đưa ra trong bối cảnh cộng đồng an toàn AI (AI safety) đang chịu áp lực lớn nhưng vẫn chưa tìm được tiếng nói chung. Ngay cả các chuyên gia xuất hiện trong loạt video cũng không thể đưa ra một giải pháp thống nhất hay lộ trình rõ ràng để giải quyết triệt để vấn đề kiểm soát mô hình.

Khái niệm "an toàn AI" hiện vẫn còn nhiều tranh cãi về mặt định nghĩa lẫn phương thức triển khai thực tế. Việc các kỹ sư, nhà khoa học trực tiếp tham gia phát triển mô hình tự mình gióng lên hồi chuông cảnh báo cho thấy những mâu thuẫn nội tại sâu sắc giữa cuộc đua thương mại hóa tốc độ cao và nỗ lực bảo đảm an toàn cho tương lai nhân loại.