Chatbot AI bị "ảo giác", quân đội Mỹ suýt kích hoạt chiến dịch tấn công tàu Trung Quốc

Máy bay đã cất cánh, chiến dịch bị đình chỉ vào phút chót

Theo nguồn tin từ CNN, máy bay quân sự của Mỹ đã ở trên không vào mùa xuân năm nay và chuẩn bị thực hiện một chiến dịch vũ trang nhắm vào một tàu chở hàng Trung Quốc. Tuy nhiên, giới chức quân đội Mỹ đã phát hiện một sự thật đáng báo động ngay trước giờ hành động: toàn bộ thông tin tình báo châm ngòi cho chiến dịch này hoàn toàn là sản phẩm "ảo giác" (hallucination) do một chatbot AI tạo ra.

Lệnh ngừng tác chiến được đưa ra vào phút chót, kịp thời ngăn chặn một nguy cơ xung đột quân sự trực tiếp giữa Mỹ và Trung Quốc. Sự việc làm dấy lên hồi chuông cảnh báo sâu sắc trong nội bộ Lầu Năm Góc cũng như giới chuyên gia, khi việc phụ thuộc ngày càng nhiều vào các mô hình trí tuệ nhân tạo có thể đẩy những thông tin sai lệch lọt sâu vào chuỗi chỉ huy quân sự mà không bị phát hiện hay thẩm định kịp thời.

Bắt nguồn từ thao tác tổng hợp dữ liệu của chuyên viên phân tích

Theo các chi tiết được công bố, bản báo cáo tình báo sai lệch xuất hiện trong giai đoạn căng thẳng liên quan đến Iran. Báo cáo này khẳng định con tàu mang cờ Trung Quốc đang vận chuyển các linh kiện phục vụ cho một chương trình vũ khí hạt nhân.

Nguồn gốc của thông tin sai lệch bắt đầu từ một chuyên viên phân tích thuộc Bộ Chỉ huy Tác chiến Đặc biệt Mỹ (SOCOM). Người này đã sử dụng một chatbot AI để tổng hợp dữ liệu nguồn mở với các thông tin tình báo tín hiệu mật. Trong quá trình xử lý, chatbot đã "đọc nhầm" và nhận diện sai bản lược khai hàng hóa (cargo manifest) của con tàu.

Đáng chú ý, thay vì kiểm tra chéo với dữ liệu gốc, chuyên viên này tiếp tục dùng chính công cụ AI đó lần thứ hai để định dạng và biên soạn các phát hiện sai lầm thành một bản tóm tắt mang văn phong chuẩn mực của báo cáo chính thức. Tài liệu này sau đó được lưu hành nhanh chóng qua các kênh chỉ huy tác chiến mà không gặp phải rào cản kiểm duyệt nào.

Áp lực từ cuộc đua tự động hóa chu trình tác chiến

Sự cố suýt dẫn đến xung đột vũ trang diễn ra trong bối cảnh quân đội Mỹ đang ráo riết tích hợp AI nhằm đẩy nhanh tốc độ ra quyết định và duy trì ưu thế chiến lược trước Trung Quốc. Lầu Năm Góc nhiều lần khẳng định AI mang lại lợi thế vượt trội trong việc rút ngắn "chuỗi tiêu diệt" (kill chain), giúp người chỉ huy đưa ra phản ứng kịp thời. Dù vậy, chính ưu thế về tốc độ này lại trở thành điểm yếu chí mạng khi các lỗi ảo giác phát sinh mà không có đủ sự giám sát của con người.

Jake Steckler, học giả nghiên cứu tại GovAI kiêm cựu sĩ quan Lục quân Mỹ, nhận định rằng các quân nhân cần phải hiểu rõ sự bất định cố hữu của các mô hình ngôn ngữ lớn (LLM). Điều này đặc biệt sống còn đối với các quyết định có thể dẫn đến việc sử dụng vũ lực như nhắm mục tiêu, phân tích tình báo hay lập kế hoạch hành quân.

Tuy nhiên, ông Steckler cũng nhấn mạnh rằng sự cố này nên được xem là động lực để thiết lập thêm các hàng rào an toàn kỹ thuật số thay vì quay lưng lại với công nghệ. Nếu chỉ ưu tiên tốc độ triển khai mà xem nhẹ khâu kiểm soát, những sai sót tương tự sẽ tiếp tục xảy ra, làm xói mòn niềm tin của binh sĩ vào các hệ thống AI và vô tình làm chậm tiến trình hiện đại hóa quân đội.