Robotaxi Waymo tự quét phát hiện súng trong xe và báo cảnh sát bắt giữ hành khách

Robotaxi Waymo chủ động báo cảnh sát tóm gọn hai hành khách mang súng

Vào đầu tháng 9, một chuyến đi bằng robotaxi của Waymo tại Mỹ đã biến thành vụ bắt giữ hình sự. Hai thiếu niên bước lên chiếc xe tự lái của hãng nhưng điểm đến cuối cùng lại là hàng ghế sau của xe cảnh sát.

Theo tường thuật từ tờ Los Angeles Times, hệ thống của Waymo đã phát hiện hành vi "vi phạm điều khoản dịch vụ liên quan đến vũ khí", sau đó chiếc xe tự động tấp vào lề đường và phát tín hiệu báo động cho lực lượng khẩn cấp. Lực lượng cảnh sát lập tức có mặt, tiến hành bắt giữ hai hành khách sau khi tìm thấy một khẩu súng tự chế không số hiệu (ghost gun) dạng AR đã nạp đạn bên trong khoang xe.

Sự việc này đánh dấu một bước ngoặt đáng chú ý: đây không phải là trường hợp cảnh sát yêu cầu trích xuất camera sau một vụ án, mà chính chiếc xe không người lái – được trang bị mạng lưới camera và thuật toán AI – đã chủ động phân tích hành vi của hành khách trong khoang xe và trực tiếp gọi 911.

Công nghệ nhận diện bên trong xe và những nghi vấn về độ chính xác

Bà Julia Ilina, phát ngôn viên của Waymo, xác nhận với trang The Verge rằng hãng sử dụng camera trong cabin để thực thi các điều khoản sử dụng dịch vụ, bao gồm việc phát hiện các vật dụng và hành vi bị cấm. Công ty ứng dụng công nghệ tự động hóa để hỗ trợ đội ngũ an ninh nhận diện rủi ro, chẳng hạn như sự xuất hiện của vũ khí. "Nếu Waymo phát hiện vũ khí trong xe, chúng tôi có thể liên hệ với lực lượng thực thi pháp luật địa phương", bà Ilina cho biết.

Tuy nhiên, Waymo từ chối tiết lộ chi tiết về cơ chế hoạt động của thuật toán: hệ thống cần mức độ tự tin bao nhiêu phần trăm để kích hoạt cảnh báo, con người can thiệp ở khâu nào trước khi gọi cảnh sát, và còn những vi phạm nào khác có thể khiến xe "báo án".

Ông Bob Somers, cựu kỹ sư tại công ty xe tự lái Zoox kiêm cố vấn kỹ thuật của tổ chức an toàn SAVE-US, nhận định hệ thống thị giác máy tính của Waymo có thể không cần khẳng định chắc chắn 100% đó là vũ khí. Thay vào đó, AI sẽ gắn cờ hình ảnh nghi vấn và gửi đến một nhân viên điều phối từ xa (remote operator) để xác minh trực quan. Tính đến đầu năm nay, Waymo duy trì khoảng 70 nhân viên hỗ trợ từ xa túc trực tại Mỹ và Philippines, dù chưa rõ đội ngũ này có trực tiếp xử lý các vi phạm an ninh hay không.

Đánh giá về khía cạnh kỹ thuật, Giáo sư danh dự Phil Koopman từ Đại học Carnegie Mellon cho biết: "Nếu bạn có thể huấn luyện máy tính nhìn đường để lái xe, bạn cũng có thể huấn luyện nó nhận diện ai đó đang cầm súng. Thế nhưng, các hệ thống thị giác máy tính không bao giờ chính xác tuyệt đối".

Giáo sư Koopman đặc biệt lưu ý đến yếu tố "ngữ cảnh". Một tài xế con người có thể nghe, hỏi han và quan sát toàn bộ chuyến đi để phân biệt giữa súng thật và súng đồ chơi. Ngược lại, micro trong khoang xe Waymo chỉ bật khi hành khách gọi tổng đài hỗ trợ hoặc chủ động kích hoạt, khiến nhân viên giám sát từ xa thiếu ngữ cảnh âm thanh. Hồi tháng 7, Waymo cũng từng báo cảnh sát bắt hai thiếu niên vì uống rượu và bắn súng đồ chơi bắn đạn thạch nở ra ngoài xe. Nếu AI nhận diện sai một vật vô hại thành vũ khí nguy hiểm, cảnh báo sai lầm có thể đẩy hành khách vào tình huống đối đầu rủi ro cao với lực lượng cảnh sát trang bị vũ trang.

Tranh cãi quyền riêng tư: Phương tiện di chuyển hay "công cụ giám sát"?

Vụ việc làm lộ rõ sự mâu thuẫn lớn giữa kỳ vọng của hành khách và thực tế công nghệ. Việc vắng bóng tài xế ở ghế trước dễ khiến hành khách lầm tưởng không gian robotaxi là hoàn toàn riêng tư. Năm 2023, tờ San Francisco Standard từng ghi nhận nhiều trường hợp hành khách thản nhiên quan hệ tình dục trên xe robotaxi Cruise vì nghĩ không có ai nhìn thấy, bất chấp việc trần xe gắn đầy ống kính giám sát.

Theo điều khoản của Waymo, hãng cấm hành khách tạo ra tình huống nguy hiểm, mang theo vũ khí hoặc bất kỳ vật thể nào trông giống vũ khí (bao gồm cả súng đồ chơi), dùng chất kích thích, và người dưới 18 tuổi không được đi xe một mình tại San Francisco (hai thiếu niên bị bắt đều vi phạm cả quy định độ tuổi lẫn vũ khí). Dù vậy, hãng không hề ghi rõ ràng trong chính sách rằng hệ thống AI sẽ chủ động quét hình ảnh hành khách theo thời gian thực để báo cảnh sát.

Bà Hayley Tsukayama, Giám đốc phụ trách các vấn đề cấp bang tại Tổ chức Biên giới Điện tử (EFF), nhận định chính sách của Waymo quá mơ hồ: "Người dùng không thể tự suy diễn từ cụm từ 'đảm bảo an ninh và an toàn' rằng hành vi của họ sẽ bị báo cảnh sát. Nếu Waymo chia sẻ dữ liệu trực tiếp với nhà chức trách, điều đó phải được nêu rõ ràng trước khi khách bước lên xe. Cách làm hiện tại hoàn toàn nằm ngoài kỳ vọng thông thường của người tiêu dùng."

Trước đó, các xe tự lái của Waymo từng nhiều lần vướng vào tranh cãi giám sát. Sở Cảnh sát Los Angeles (LAPD) từng xin lệnh trích xuất camera ngoài xe Waymo để điều tra một vụ tai nạn bỏ trốn. Trong các cuộc biểu tình phản đối cơ quan di trú ICE tại Los Angeles, người biểu tình thậm chí đã đốt phá 5 chiếc xe Waymo do lo ngại các camera ngoại thất đang ghi lại khuôn mặt của họ để nộp cho chính quyền.

Vụ việc bắt giữ mới nhất này cho thấy robotaxi đang dần dịch chuyển từ vai trò một phương tiện giao thông thuần túy sang một trạm giám sát di động liên tục thu thập dữ liệu và có khả năng can thiệp pháp lý đối với chính người sử dụng. Khi xe tự lái ngày càng phổ biến, ranh giới giữa an toàn công cộng và xâm phạm quyền riêng tư của hành khách sẽ tiếp tục là bài toán hóc búa cần những quy định pháp lý minh bạch hơn.