Điều tra lỗ hổng của "bức tường ảo" AI tại biên giới Mỹ: Bỏ lỡ người gặp nạn ngay trước ống kính

Nghịch lý công nghệ tại biên giới Mỹ - Mexico

Một cuộc điều tra chuyên sâu kéo dài 15 tháng mang tên "Dying on Camera" do MIT Technology Review thực hiện vừa công bố những góc khuất nghiêm trọng của "bức tường ảo" biên giới Mỹ. Chính phủ Mỹ đã chi hàng tỷ USD để thiết lập mạng lưới tháp giám sát tích hợp trí tuệ nhân tạo (AI) với kỳ vọng tự động phát hiện, theo dõi và ngăn chặn người vượt biên trái phép, đồng thời kịp thời ứng cứu người gặp nạn. Tuy nhiên, dữ liệu thực tế cho thấy hệ thống giám sát đắt đỏ này đang để xảy ra một cuộc khủng hoảng nhân đạo diễn ra ngay trước ống kính của chính quyền.

Hàng loạt ca tử vong nằm trọn trong tầm quét của tháp giám sát

Trường hợp của José Morales Bernal là minh chứng rõ nét cho sự thất bại của hệ thống. Vào tháng 4/2024, ngay trước sinh nhật lần thứ 32, Morales vượt biên vào Mỹ và di chuyển vào tầm quét của ba tháp giám sát được trang bị camera AI. Về mặt lý thuyết, thuật toán phải nhận diện được Morales để lực lượng Tuần tra Biên giới (Border Patrol) can thiệp và hỗ trợ y tế nếu cần. Thế nhưng, Morales đã tử vong do sốc nhiệt và kiệt sức vì điều kiện môi trường khắc nghiệt ở khoảng cách chỉ 360 feet (khoảng 110 mét) tính từ chân ngọn tháp gần nhất. Người phát hiện ra thi thể của anh không phải lực lượng chức năng mà là các công nhân tại bãi rác địa phương.

Qua việc đối chiếu dữ liệu tọa độ của gần 4.000 địa điểm phát hiện hài cốt người di cư với bản đồ gần 600 tháp giám sát, nhóm điều tra phát hiện những thảm kịch như của Morales không hề hiếm gặp:

• Phân tích từ đối tác Times of San Diego ghi nhận ít nhất 138 trường hợp kể từ năm 2022 mà thi thể người di cư được tìm thấy trong bán kính hoạt động định danh của một tháp giám sát gần đó, bao gồm trường hợp của nạn nhân Gómez Hernández.
• Ước tính từ MIT Technology Review chỉ ra hơn một nửa số trường hợp tử vong này nhiều khả năng nằm trọn trong trường nhìn (field of view) của camera.

Nhóm điều tra chỉ ra chuỗi lỗi mang tính hệ thống: các tháp giám sát bị hỏng hóc không được bảo trì kịp thời, thuật toán thị giác máy tính nhận diện sót người, và nhân viên biên phòng phớt lờ hoặc không phản hồi các cảnh báo tự động do hệ thống phát ra.

Kế hoạch mở rộng 1 tỷ USD trước làn sóng chỉ trích

Bất chấp những lỗ hổng kỹ thuật chết người đã được chỉ ra, chính phủ Mỹ đang chuẩn bị giải ngân thêm 1 tỷ USD nhằm tăng gấp ba quy mô của bức tường ảo này. Cơ quan Hải quan và Bảo vệ Biên giới Mỹ (CBP) đang đối mặt với sức ép lớn từ giới quan sát về việc phải lập tức chấn chỉnh quy trình vận hành và kiểm định độ chính xác của các thuật toán nhận diện.

Vụ việc làm dấy lên tranh cãi lớn về độ tin cậy của AI trong các nhiệm vụ sinh tử. Khi công nghệ giám sát tự động hóa được ca ngợi là giải pháp thay thế văn minh cho những bức tường bê tông vật lý, việc thiếu trách nhiệm giải trình và sự chủ quan trước các cảnh báo kỹ thuật số đang biến những ngọn tháp tỷ đô thành nhân chứng câm lặng trước các thảm kịch nhân đạo.