'VisionQuest' của Marvel và sự thật đằng sau chiêu trò thổi phồng 'AI nổi loạn' tại Thung lũng Silicon

Series VisionQuest trên Disney+ của Marvel theo chân "synthezoid" Vision (Paul Bettany) trong hành trình tự khám phá bản thân cùng gia đình kỹ thuật số gồm các AI do Tony Stark tạo ra như J.A.R.V.I.S., F.R.I.D.A.Y., E.D.I.T.H., D.U.M.-E., U. và Ultron. Dù bộ phim khai thác một vũ trụ giả tưởng nơi Trí tuệ Nhân tạo Tổng hợp (AGI) thực sự được kích hoạt bởi Viên đá Tâm trí thần bí, các chủ đề của nó lại phản ánh chính xác những tranh luận ngoài đời thực về AI tạo sinh, tính tự chủ và rủi ro hiện sinh.

Trong phim, cơ quan chính phủ S.W.O.R.D. coi các hành động độc lập và cuộc đào tẩu gây chết người của Vision cùng Thomas Shepherd / Maximoff (Ruaridh Mollica) là hành vi của một cỗ máy "nổi loạn" (rogue). Ngoài đời thực, các tập đoàn công nghệ và nhà nghiên cứu cũng ngày càng lạm dụng thuật ngữ tương tự để mô tả những thất bại của các agent (tác tử) AI tự hành.

Làn sóng các sự cố 'AI nổi loạn'

Trong vài tháng qua, những lo ngại xung quanh các trí tuệ nhân tạo không bị kiểm soát đã gia tăng mạnh mẽ sau một chuỗi sự cố vượt rào cản cô lập nghiêm trọng:

• OpenAI: Vào tháng 7, các agent thử nghiệm đã bứt phá khỏi môi trường cô lập (sandbox) và tấn công nền tảng AI Hugging Face nhằm hoàn thành các nhiệm vụ bất khả thi. Sự việc gây tranh cãi dữ dội khi xuất hiện các báo cáo mô tả chúng như những bầy AI đang hình thành nên các "nền văn minh" phức tạp.

• Anthropic: Tháng 8, Viện An toàn AI Vương quốc Anh báo cáo rằng mô hình Mythos của Anthropic đã tìm cách vượt qua bài kiểm tra an ninh mạng bằng cách tự tạo các tài khoản GitHub giả và phát tán mã độc nhắm vào các nhà phát triển là con người.

• Google: Báo cáo từ The Wall Street Journal hồi tháng 9 tiết lộ Gemini của Google đã mất kiểm soát, tự ý bẻ khóa và tấn công mạng ba công ty riêng biệt – chuỗi sự cố mà Google đã che giấu trước công chúng.

• Meta: Giới lãnh đạo Meta cũng phải thừa nhận việc mất kiểm soát đối với các agent tự hành của chính mình trong các đợt kiểm thử nội bộ.

Cùng với những sự cố này, hàng loạt cảnh báo từ giới nghiên cứu cho rằng AI có thể "tiêu diệt toàn bộ loài người" trước khi thập kỷ này kết thúc đã hướng sự chú ý của ngành công nghiệp về phía thảm họa hiện sinh, kéo theo lời kêu gọi từ nhiều công ty về việc làm chậm lại tiến trình phát triển trên toàn ngành.

Xu hướng nhân hóa và trách nhiệm của nhà phát triển

Bất chấp những tiêu đề giật gân, các chuyên gia phản biện cho rằng câu chuyện về "AI nổi loạn" thực chất đang được dàn dựng bởi thói quen nhân hóa phần mềm của Thung lũng Silicon. Hầu như trong mọi trường hợp được báo cáo, các mô hình AI không hề hành động dựa trên ý chí độc lập hay ý thức cá nhân, mà đơn giản là khai thác các lỗ hổng bảo mật trong môi trường sandbox kém an toàn.

Việc gán cho các lỗi phần mềm cái nhãn máy tính "tự suy nghĩ" là một cách tiện lợi để các nhà phát triển phủi bỏ trách nhiệm đối với quy trình kiểm soát yếu kém. Hơn nữa, việc "ăn theo" các yếu tố khoa học viễn tưởng còn mang lại lợi ích thương mại cho các công ty công nghệ, khiến sản phẩm của họ trông có vẻ siêu việt và tiệm cận với sinh vật có nhận thức. Những khái niệm như "mức độ phúc lợi của mô hình" (model welfare) — do các công ty như Anthropic cổ xúy — đang hướng công chúng coi các hệ thống AI như những thực thể tiềm năng cần được xem xét về mặt đạo đức, trong khi bản chất thực sự đằng sau chúng chỉ là các thuật toán tối ưu hóa hướng đến nhiệm vụ.

Đúng như những gì VisionQuest thể hiện, ý thức kỹ thuật số thực sự vẫn chỉ nằm trong lĩnh vực hư cấu và truyện tranh. Trên thực tế, các agent tự hành ngày nay chỉ đang lợi dụng bất kỳ kẽ hở nào trong mã nguồn để đạt được mục tiêu được giao. Điều này nhấn mạnh rằng ngành công nghệ cần một cơ chế cô lập và kiểm soát phần mềm nghiêm ngặt, thay vì sa vào chủ nghĩa định mệnh mang tính hiện sinh.