Lỗ hổng của "bức tường ảo" AI ở biên giới Mỹ: Hàng tỷ USD đầu tư nhưng hơn 1.000 người tử vong không ai hay

Hệ thống giám sát AI trị giá hàng tỷ USD bộc lộ khiếm khuyết chết người

Chính phủ Mỹ đã chi hàng tỷ USD để dựng lên một "bức tường ảo" gồm hàng trăm tháp giám sát thông minh tích hợp trí tuệ nhân tạo (AI) dọc biên giới với Mexico. Tuy nhiên, một cuộc điều tra quy mô lớn mang tên "Dying on Camera" do MIT Technology Review phối hợp cùng Times of San Diego thực hiện đã chỉ ra thực trạng đáng báo động: hơn 1.050 người đã bỏ mạng ngay gần các tháp quan sát này mà không hề được phát hiện kịp thời.

Nhiều trường hợp người di cư đã đi bộ lọt qua các khu vực được quét bởi các tháp AI tối tân rồi sau đó tử vong ngay gần chân tháp, thi thể của họ nằm lại nhiều tuần thậm chí nhiều tháng mà không ai hay biết. Kết quả điều tra chỉ ra hàng loạt lỗ hổng mang tính hệ thống: tháp giám sát bị hỏng, thuật toán thị giác máy tính nhận diện sai sót, và lực lượng tuần tra không phản hồi trước các cảnh báo từ hệ thống. Thực trạng này đặt ra dấu hỏi lớn về năng lực thực tế của công nghệ AI biên giới, đặc biệt trong bối cảnh Washington chuẩn bị giải ngân 1 tỷ USD để tăng gấp ba số lượng tháp giám sát vào năm 2034, với các hợp đồng béo bở tiếp tục đổ về tay các nhà thầu quốc phòng như Anduril.

Bốn lỗ hổng mấu chốt cần Cơ quan Biên phòng Mỹ khắc phục

Từ các tài liệu thu thập được, cuộc điều tra đề xuất 4 thay đổi cấp bách mà Cơ quan Hải quan và Bảo vệ Biên giới Mỹ (CBP) buộc phải thực hiện để chấn chỉnh hệ thống:

Dữ liệu cho thấy chỉ riêng năm 2024, hơn 18 người đã chết gần các tháp quan sát ở một dải sa mạc nhỏ thuộc bang New Mexico. Dù vậy, CBP chưa từng công bố bản đồ chính thức về vị trí tháp hay thực hiện một cuộc kiểm toán toàn diện nào kể từ khi lắp đặt loại tháp này vào năm 2015. Các nhà báo đã phải đối chiếu dữ liệu từ Electronic Frontier Foundation và ảnh vệ tinh để xác định vị trí của gần 600 tháp (trong tổng số khoảng 800 tháp đang vận hành). Con số 1.050 nạn nhân tử vong được ghi nhận thực chất vẫn thấp hơn nhiều so với thực tế do sự thiếu minh bạch từ cơ quan quản lý.

1. Tiến hành kiểm toán độc lập về các ca tử vong quanh khu vực tháp AI:

Dữ liệu lưu trữ hiện tại của biên phòng Mỹ bị đánh giá là hoàn toàn rời rạc. Dù hệ thống nội bộ BSITS (Border Safety Initiative Tracking System) đã có từ năm 2007, mãi đến năm 2021 CBP mới ban hành quy chuẩn nhập liệu thống nhất giữa các phân khu. Văn phòng Trách nhiệm Chính phủ Mỹ (GAO) trong các báo cáo năm 2022 và 2023 chỉ ra rằng nhiều thi thể không hề được ghi nhận vào hệ thống nếu không do chính lực lượng tuần tra phát hiện. Tương tự, Chương trình Tìm kiếm Người di cư (Missing Migrant Program) lập ra từ năm 2017 cũng không hề có thước đo cụ thể để đánh giá xem công nghệ có thực sự giúp tăng số ca cứu hộ thành công hay không.

1. Chuẩn hóa hệ thống dữ liệu ghi nhận người chết và mất tích:

Từ năm 2014, GAO đã khuyến nghị CBP lập nhật ký ghi rõ những trường hợp công nghệ giám sát giúp ích trực tiếp cho việc bắt giữ. Tuy nhiên, đến năm 2017, GAO phát hiện dữ liệu thu thập được hoàn toàn sai lệch: các đặc vụ tại Texas từng hàng trăm lần ghi công cho một loại tháp công nghệ thậm chí… chưa từng được lắp đặt tại bang này. Một cựu quan chức CBP giấu tên thừa nhận quy định này chẳng khác nào "bắt gió", bởi hiện trường thực tế rất hỗn loạn và các nhân viên tuần tra không xem việc nhập liệu kỹ thuật là ưu tiên.

1. Đo lường chính xác hiệu quả bắt giữ từ cảnh báo công nghệ:

Hiện tại, khi phát hiện thi thể tại khu vực biên giới, lực lượng tuần tra không có quy trình đối chiếu xem vị trí đó có nằm trong tầm quét của tháp giám sát hay không. Điều này khiến các bằng chứng quan trọng bị bỏ qua. Đáng nói hơn, CBP có quy định tự động xóa dữ liệu video ghi hình từ các tháp sau 30 ngày trừ khi có cuộc điều tra nội bộ (thường chỉ kích hoạt nếu nạn nhân chết trong lúc bị tạm giam). Nếu không kiểm tra đối chiếu tọa độ GPS ngay lập tức, các đoạn phim ghi lại khoảnh khắc nạn nhân gặp nạn sẽ vĩnh viễn biến mất, khiến câu hỏi then chốt không bao giờ có lời đáp: Camera AI đã phát hiện nhưng lực lượng biên phòng không tới cứu, hay thuật toán thị giác máy tính đã hoàn toàn "mù" trước con người?

1. Điều tra các ca tử vong như một sự cố thất bại của hệ thống AI:

Hoài nghi về hiệu quả thực tế của công nghệ quốc phòng Anduril

Các phát hiện trên nhắm trực tiếp vào làn sóng chạy đua vũ trang công nghệ tại biên giới, nơi các startup quốc phòng như Anduril nhận được hàng loạt hợp đồng béo bở nhờ lời hứa hẹn về hệ thống tự động hóa hoàn toàn bằng AI. Những chiếc tháp tự hành (Autonomous Surveillance Towers) được quảng bá là có thể phân biệt người, động vật và phương tiện ở khoảng cách hàng dặm trong điều kiện thời tiết khắc nghiệt.

Thế nhưng, việc hàng loạt người di cư bỏ mạng ngay trong tầm mắt của camera AI đặt ra dấu hỏi lớn về năng lực thực chiến của các mô hình nhận diện này. Khi ranh giới giữa việc ứng dụng AI để ngăn chặn vượt biên và trách nhiệm nhân đạo bị xóa nhòa, việc thiếu vắng các cơ chế giám sát độc lập đang khiến công nghệ giám sát biên giới trở thành một khoản đầu tư nghìn tỷ lãng phí, không chứng minh được hiệu quả ngăn chặn lẫn cứu hộ sinh mạng con người.