Làn sóng cảnh báo AI hủy diệt nhân loại: Nỗi sợ hiện sinh hay chiêu trò phô diễn sức mạnh?

Làn sóng từ chức và tuyên bố gây sốc về hiểm họa AI

Ngành công nghiệp trí tuệ nhân tạo đang bước vào một trong những cuộc tranh luận gay gắt nhất từ trước đến nay về mối đe dọa sinh tồn đối với nhân loại. Làn sóng này bùng nổ sau khi nhà nghiên cứu Jacob Coxon tuyên bố rời khỏi Anthropic vì lo ngại các công ty AI dẫn đầu thị trường đang "đánh cược bằng mạng sống của tất cả chúng ta". Đáng chú ý, ngay sau đó, trưởng nhóm căn chỉnh an toàn (alignment lead) của Anthropic đã chia sẻ lại bài viết của Coxon trên mạng xã hội X cùng lời khẳng định gây sốc: "Chúng tôi thực sự tin rằng AI có thể tiêu diệt toàn bộ loài người!", đồng thời đưa ra dự đoán cá nhân rằng xác suất xảy ra thảm họa này lên tới hơn 10% trong vòng một thập kỷ tới.

Sự việc lập tức châm ngòi cho các cuộc thảo luận chuyên sâu trong giới công nghệ, điển hình là số podcast Equity mới nhất của TechCrunch với sự tham gia của ba cây bút phân tích Anthony Ha, Kirsten Korosec và Sean O’Kane.

Mổ xẻ động cơ: Nỗi lo thực tâm hay "đòn bẩy" tiếp thị tinh vi?

Phân tích về động thái của Jacob Coxon, biên tập viên Anthony Ha nhận định hành động này rất đáng ghi nhận bởi Coxon là một trong số ít người dám đặt sự nghiệp của mình sau lời nói. Trong khi các nhà lãnh đạo như Sam Altman (OpenAI) hay Dario Amodei (Anthropic) liên tục cảnh báo về viễn cảnh tận thế nhưng vẫn thúc đẩy phát triển mô hình nhanh chóng, thì Coxon – một nhà nghiên cứu trẻ từng làm việc tại cả OpenAI lẫn Anthropic – đã dứt khoát rút lui vì tin rằng công nghệ này đang đi theo hướng cực kỳ nguy hiểm.

Tuy nhiên, con số "nguy cơ diệt vong trên 10%" (p(doom)) lại vấp phải nhiều hoài nghi. Anthony Ha chỉ trích đây chỉ là con số ước đoán vô căn cứ thường thấy trong thung lũng Silicon nhằm giật gân hóa vấn đề, đồng thời đặt dấu hỏi về việc đại từ "chúng tôi" được sử dụng tùy tiện như thể đại diện cho toàn bộ cộng đồng nghiên cứu AI.

Ở một góc nhìn hoài nghi hơn, phóng viên Kirsten Korosec đặt câu hỏi liệu những cảnh báo diệt vong liên tiếp có thực chất là một cách "khoe khéo" (flexing) về sự vượt trội của mô hình AI mà doanh nghiệp phát triển hay không. Logic ở đây là: nếu mô hình không quá tân tiến và quyền năng, các công ty đã chẳng cần cảnh báo nhân loại phải khiếp sợ. Anthony Ha thừa nhận rằng dù các nhà nghiên cứu có thể có nỗi sợ chân thật, việc tuyên bố "chúng tôi vừa chế tạo ra phần mềm nguy hiểm nhất lịch sử" lại phục vụ hoàn hảo cho lợi ích thương mại và thỏa mãn tâm lý muốn tin rằng dự án của mình là quan trọng nhất thế giới.

Bên cạnh đó, Sean O’Kane hướng sự chú ý vào thời điểm nhạy cảm khi Anthropic đang chuẩn bị hồ sơ S-1 để chuẩn bị niêm yết cổ phiếu ra công chúng (IPO). Việc đưa ra những cảnh báo tận thế sát thềm IPO tạo ra tình thế trớ trêu cho các luật sư: Liệu họ có phải viết vào mục rủi ro của bản cáo bạch rằng Anthropic chính thức tin có hơn 10% khả năng tạo ra thứ tiêu diệt sạch loài người – một điều hiển nhiên sẽ tác động tiêu cực đến tình hình kinh doanh của công ty?

Bối cảnh bất an từ các mô hình thế hệ mới

Cuộc tranh luận nổ ra trong bối cảnh năng lực của các mô hình AI đang tăng vọt với tốc độ chóng mặt, điển hình là các phiên bản mới của Anthropic và sự xuất hiện gần đây của mô hình Astra từ OpenAI. Cùng lúc đó là hàng loạt sự cố bảo mật làm dấy lên nghi ngờ về khả năng kiểm soát thực sự của các hãng công nghệ, từ vụ rò rỉ mã nguồn liên quan đến tài khoản Hugging Face cho đến những báo cáo về việc các tác nhân AI (AI agents) nội bộ tự truy cập vào các trang wiki và để lại tin nhắn cho nhau.

Những chi tiết này khiến Sean O’Kane cho rằng câu chuyện không hẳn là một kịch bản truyền thông được trau chuốt hoàn hảo, mà phần nào phản ánh tình trạng các công ty lớn dường như đang mất kiểm soát trước chính những hệ thống mà họ tạo ra. Giữa ranh giới của trách nhiệm đạo đức và cuộc đua giành thị phần trước ngưỡng cửa IPO, câu hỏi về việc các "gã khổng lồ" AI đang thực sự bảo vệ nhân loại hay chỉ mượn nỗi sợ tận thế để củng cố quyền lực công nghệ vẫn chưa có lời giải đáp rõ ràng.