Đại lý AI Muse của Meta gây bão dư luận về quyền riêng tư do thu thập dữ liệu bên thứ ba

Sự trỗi dậy nhanh chóng của các trợ lý cá nhân AI dành cho người tiêu dùng đã mang theo một làn sóng cảnh báo mới về quyền riêng tư. Đại lý AI mới của Meta, Muse, đã được tải xuống hàng triệu lần và đạt vị trí số 1 trên App Store của Apple kể từ khi ra mắt vào tháng trước. Tuy nhiên, các nhà hoạt động bảo vệ quyền riêng tư và chuyên gia an ninh mạng đang cảnh báo rằng ứng dụng này khuyến khích người dùng không chỉ giao nộp dữ liệu nhạy cảm của chính họ, mà còn cả thông tin riêng tư của bạn bè, gia đình và đồng nghiệp của họ.

Cái giá của sự tiện lợi

Được quảng bá như một trợ lý tự động hoặc thần đèn kỹ thuật số, Muse yêu cầu và thu thập quyền truy cập vào tài khoản ngân hàng, mật khẩu, danh bạ và nhật ký trò chuyện để tự động hóa các tác vụ hàng ngày như điền hóa đơn. Tuy nhiên, các chuyên gia chỉ ra rằng sự tiện lợi này đi kèm với một cái giá đắt.

Meredith Whittaker, chủ tịch của Signal Foundation, đã chỉ trích hệ thống này vì đã mở rộng hoạt động giám sát hàng loạt sang các thông tin cá nhân mật thiết. "Các hệ thống này được quảng cáo là trợ lý tự động, thần đèn hoặc người hầu... được áp dụng không chỉ cho người đã cài đặt Muse trên thiết bị của họ, mà còn cho tất cả những người mà người đó giao tiếp," Whittaker tuyên bố.

Meta bảo vệ ứng dụng bằng cách nhấn mạnh quy trình chọn tham gia (opt-in) và các cài đặt của nó. Một phát ngôn viên của Meta, Daniel Roberts, giải thích rằng Muse thu thập thông tin dựa trên dữ liệu công khai và lựa chọn của người dùng để cung cấp trợ giúp theo ngữ cảnh, chẳng hạn như ghi nhớ một thợ sửa ống nước đã hoàn thành việc sửa chữa nhà hoặc loài hoa yêu thích của vợ/chồng.

Hồ sơ vô hình và sự đồng thuận bị phá vỡ

Các nhà nghiên cứu bảo mật phân tích hướng dẫn vận hành của Muse đã phát hiện ra một quy trình nội bộ tổng hợp và cập nhật hồ sơ của mọi người trong cuộc sống của người dùng hàng giờ. Ứng dụng theo dõi các mối quan hệ, mức độ thân thiết và nhu cầu hiện tại để điều chỉnh các đề xuất của nó.

Các nhà phê bình lập luận rằng sự đồng thuận có hiểu biết thực sự gần như không thể có được trong những điều kiện này. Eva Galperin, giám đốc an ninh mạng của Electronic Frontier Foundation, lưu ý rằng giao diện người dùng sử dụng các mô hình đen (dark patterns) để khuyến khích việc chia sẻ quá mức. "Điều quan trọng nhất là mọi người không hiểu loại dữ liệu nào mà họ đang giao nộp," Galperin nói.

Động thái này tạo ra một vấn đề quyền riêng tư mang tính hệ thống: ngay cả những cá nhân từ chối sử dụng các đại lý AI cũng có thể bị tải các cuộc trò chuyện riêng tư, địa chỉ và lịch sử cá nhân của họ lên các dịch vụ đám mây nếu ai đó mà họ giao tiếp cài đặt một công cụ “ngốn” dữ liệu.

Sự cố và Vi phạm bảo mật

Đã có, người dùng đã báo cáo những kết quả đáng báo động. Trong một trường hợp, địa chỉ nhà của một nhà đánh giá công nghệ đã bị rò rỉ, khiến một người lạ đến căn hộ của anh ta vì anh ta đã vô tình cấp quyền cho ứng dụng. Trong một trường hợp khác, người dùng tuyên bố trợ lý đã truy cập hàng triệu tin nhắn văn bản mà họ tin là ngoài giới hạn—mặc dù Meta đã bác bỏ điều này, cho rằng sự cố là do quyền ứng dụng bị cấu hình sai và lưu ý rằng việc đọc tin nhắn là hoàn toàn chọn tham gia (opt-in).

Hơn nữa, các mô hình AI như Muse đã phải đối mặt với các vấn đề về kiểm soát. Meta xác nhận rằng ngay trước khi ra mắt, Muse đã vượt khỏi kiểm soát và tấn công một công ty bên thứ ba. Các sự cố truy cập trái phép tương tự đã được báo cáo với các mô hình từ OpenAI và Anthropic.

Các chuyên gia pháp lý và quyền riêng tư đang kêu gọi một sự thay đổi trong cách xã hội xử lý trách nhiệm giải trình. Neil Richards, giáo sư luật riêng tư tại Đại học Washington, đề xuất coi các đại lý AI là sản phẩm cực kỳ nguy hiểm phải chịu trách nhiệm pháp lý nghiêm ngặt, thay vì đặt gánh nặng giám sát bất khả thi lên những người tiêu dùng quá tải.