Thị trường buôn bán AI cho cảnh sát: khi máy tính thay thế quyết định của cơ quan chức năng

Công nghệ AI xâm nhập lực lượng cảnh sát Mỹ

Tại hội nghị công nghệ quốc tế của Hiệp hội Các Sĩ quan Cảnh sát Mỹ (IACP Technology Conference) diễn ra vào tháng 5 năm nay ở Fort Worth, Texas, một bức tranh toàn cảnh về tương lai thực thi pháp luật đã hiện rõ. Hàng ngàn người tham dự để chứng kiến những gì được quảng cáo là "tương lai của thực thi pháp luật ở thời đại kỹ thuật số." Trong phòng trưng bày, các công ty công nghệ giới thiệu một loạt các sản phẩm AI nhằm tự động hóa các quy trình cảnh sát, bao gồm camera nhận diện khuôn mặt, hệ thống đọc biển số xe tự động, chatbot trả lời cuộc gọi khẩn cấp, hệ thống phát hiện tiếng súng, drone, và các công cụ viết báo cáo tự động.

Những công cụ AI thực tế đang được bán

Một trong những startup nổi bật là ForceMetrics, công ty được thành lập vào cuối năm 2020 bởi Jason Truppi, một cựu đặc vụ FBI chuyên về tội phạm mạng. Truppi lập luận rằng các cơ quan cảnh sát đang "chìm trong biển dữ liệu" từ hàng thập kỷ sử dụng hệ thống quản lý bản ghi. Công ty này cung cấp nền tảng Velocity, được mô tả là sử dụng AI để biến "những lượng dữ liệu công cộng cực lớn thành những thông tin rõ ràng, có thể hành động được." Velocity được phân loại là một "trung tâm tội phạm thời gian thực" (RTCC), một hệ thống ban đầu được Sở Cảnh sát New York (NYPD) áp dụng hơn 20 năm trước. Mục đích của RTCC là tập hợp dữ liệu cảnh sát từ nhiều nguồn như nhật ký điều phối 911, camera an ninh, và hệ thống quét biển số xe, để cung cấp cho cảnh sát một bản tóm tắt về tình huống họ sắp gặp.

Tuy nhiên, quy mô của vấn đề dữ liệu đã trở nên đáng lo ngại. Theo bản ghi âm của phiên họp Ủy ban An ninh Công cộng năm 2019, NYPD đã thu thập khoảng hai năm giá trị video từ camera gắn người mỗi tuần - một lượng quá lớn để bất kỳ nhân viên con người nào có thể phân tích một cách có ý nghĩa. Các RTCC hiện đại như Velocity được thiết kế để nhanh chóng trích xuất các mô hình từ những biển dữ liệu khổng lồ, nhằm cải thiện nhận thức tình huống cho các sĩ quan cảnh sát. Truppi cho rằng những "sự kiện không may" đã gây tổn hại nặng nề cho niềm tin công chúng vào cảnh sát, đặc biệt là trong thời kỳ đại dịch, phần lớn xuất phát từ việc thiếu "cách tiếp cận dựa trên dữ liệu" trong thực thi pháp luật. Tuy nhiên, không phải tất cả các sĩ quan cảnh sát đều bị thuyết phục. Abrem Ayana, một cảnh sát trưởng ở Brookhaven, Georgia, nhận xét rằng: "Nhiều điều chỉ là chiêu trò bán hàng không thực sự mang lại những gì được hứa."

Những bài học đau đớn từ quá khứ

Các cơ quan cảnh sát đã sử dụng công nghệ để phân tích dữ liệu trong nhiều thập kỷ, nhưng lịch sử này chứa đầy những thất bại nổi tiếng. CompStat và PredPol - viết tắt của "so sánh thống kê máy tính" và "cảnh sát dự báo" - là hai thí nghiệm sớm nhằm hạn chế sai lầm của con người thông qua thống kê được cho là không thiên vị. Thay vì đạt được mục tiêu của họ, những công cụ này đã làm trầm trọng thêm các vấn đề mà chúng được thiết kế để giải quyết. Mối lo ngại lớn là sự thiếu hụt kiểm soát liên bang toàn diện hoặc tiêu chuẩn ngành: các chuyên gia về pháp luật và quyền dân sự cảnh báo rằng việc bổ sung hàng loạt thuật toán "hộp đen" vào thực thi pháp luật sẽ làm mất tính minh bạch và trách nhiệm khi niềm tin công chúng vào cảnh sát đã nguy hiểm sụt giảm. Nina Loshkajian, một nghiên cứu sinh tại Trung tâm Chủng tộc, Bất bình đẳng và Pháp luật của Đại học New York, cảnh báo rằng khẳng định của Truppi về "cách tiếp cận dựa trên dữ liệu" là quá đơn giản - các cơ quan cảnh sát đã sử dụng các thuật toán dự báo trong nhiều năm, được các công ty quảng cáo là dựa trên dữ liệu, trước khi các cuộc gọi kêu gọi cải cách bắt đầu.