Bóc trần mạng lưới 28 ứng dụng hẹn hò dùng AI Claude để "bào tiền" người dùng

Mạng lưới ứng dụng hẹn hò dùng AI quy mô công nghiệp bị phanh phui

Anthropic vừa công bố báo cáo an ninh mạng vạch trần một mạng lưới lừa đảo tinh vi gồm khoảng 28 ứng dụng hẹn hò trên cả Google Play Store và Apple App Store. Thay vì kết nối người thật, hệ thống này triển khai các nhân vật ảo vận hành bằng trí tuệ nhân tạo để trò chuyện 24/7 và "đốt" tiền nạp của người dùng.

Vụ việc bắt đầu phát lộ khi Chris Cronbaugh, nhà nghiên cứu tình báo mối đe dọa tại Anthropic, chia sẻ tại hội nghị an ninh mạng Sleuthcon về hoạt động bất thường trên hệ thống của hãng: một tài khoản Claude trả trước mới lập 5 ngày bất ngờ gửi hơn 100.000 yêu cầu API mỗi ngày. Đa số các cuộc trò chuyện hoàn toàn không có sự can thiệp của con người. Cùng thời điểm, nhà nghiên cứu bảo mật Matthew Gore-Kormanik (Zigula) cũng tiến hành dịch ngược mã nguồn và phân tích kỹ thuật trên các ứng dụng như Dora, Doni, Romi, Jovia, Luma và Kira, từ đó xác nhận chúng thuộc chung một tổ chức điều hành.

Thủ đoạn kết hợp AI persona và "lao động thời vụ" để lách kiểm duyệt

Khác với các chiêu trò lừa đảo tình cảm truyền thống (romance scam) vốn dụ dỗ nạn nhân đầu tư tiền số hay vay mượn tiền khẩn cấp, bản thân các ứng dụng này đã là một cỗ máy lừa tiền. Người dùng mục tiêu—chủ yếu là nam giới trong độ tuổi 30—tải ứng dụng với kỳ vọng tìm kiếm bạn đời thực sự, nhưng thực tế phải nạp tiền thật mua "xu" (coin/gem) để duy trì từng tin nhắn hoặc cuộc gọi.

Theo dữ liệu Anthropic ghi nhận trong hai tuần của tháng 4, mạng lưới này đã tạo ra hơn 4.700 nhân vật AI riêng biệt, tương tác với ít nhất 25.000 người dùng và phát sinh khoảng 2,36 triệu tin nhắn. Một chuỗi mô hình AI đa tầng đã được huy động:

• Claude (Anthropic): Đóng vai trò lớp hội thoại chính, duy trì mạch trò chuyện tự nhiên và nhất quán cho các nhân vật nữ.
• Mô hình AI phụ trợ: Chấm điểm độ hấp dẫn khuôn mặt, kiểm duyệt hình ảnh/âm thanh và tạo ảnh đại diện chân thực.
• Mô hình tạo gợi ý: Đề xuất 3 câu trả lời mẫu cho nhân sự thực tế sử dụng.

Để vượt qua các bước kiểm tra xác thực người thật (liveness check), những kẻ cầm đầu đã thuê các nhân công thời vụ (gig worker). Trong số 4 lượt ghép đôi, chỉ có 1 người thật và người này chỉ làm nhiệm vụ xuất hiện ngắn trên camera hoặc bấm chọn câu trả lời tạo sẵn từ AI. Khi không có người trực, hệ thống backend sẽ tự động phát video quay sẵn, ngụy tạo lượt thích và theo dõi xem người dùng có bắt đầu nghi ngờ mình đang nói chuyện với bot hay không.

Chuyên gia Gore-Kormanik thậm chí phát hiện tài liệu hướng dẫn vận hành bằng tiếng Trung vô tình bị đóng gói kèm trong tệp cài đặt (APK) của ứng dụng Doni. Bản tài liệu này quy định chi tiết quy trình giám sát nhân viên qua camera, ghi âm cuộc gọi, bảng xếp hạng hiệu suất dựa trên mức độ giữ chân người dùng và thủ thuật tự tạo cuộc gọi nhỡ vào đêm khuya để kích thích nạn nhân gọi lại. Toàn bộ hạ tầng phụ trợ đều liên kết với các dịch vụ tại Trung Quốc như Tencent Cloud (nhắn tin/video thời gian thực), tài liệu Feishu, kho mã nguồn Gitee và mã phân tích của ByteDance.

Rào cản kiểm duyệt trên các kho ứng dụng và thách thức liên ngành

Để qua mặt quy trình kiểm duyệt của Apple và Google, các ứng dụng này áp dụng kỹ thuật ngụy trang tinh vi: trước khi được phê duyệt, chúng hoạt động như ứng dụng hẹn hò bình thường; sau khi lên sàn, nhà phát triển mới kích hoạt mạng lưới AI và hệ thống tính phí. Khoản thanh toán cũng không đi qua cổng in-app purchase của Apple hay Google mà âm thầm chuyển hướng qua trình duyệt web nhúng để tới các cổng thanh toán bên thứ ba.

Một chi tiết đáng chú ý là hệ thống này chặn hoạt động tại Trung Quốc đại lục và tắt tính năng kiếm tiền đối với người dùng ở khu vực châu Á, chỉ nhắm mục tiêu khai thác nạn nhân ở các thị trường phương Tây nhằm tránh sự can thiệp từ cơ quan chức năng sở tại.

Mặc dù Anthropic đã nhanh chóng khóa tài khoản API vi phạm và chia sẻ thông tin cho các đối tác công nghệ, việc gỡ bỏ ứng dụng diễn ra rất chậm chạp. Đến cuối tháng 8 và đầu tháng 9, phần lớn các ứng dụng như Dora, GraceChat, Luma, Romi mới lần lượt biến mất khỏi App Store và Play Store, nhưng một số biến thể cùng mã nguồn như Kira vẫn tồn tại trên Google Play suốt nhiều tuần sau đó.

Tate Jarrow, cựu điều tra viên tội phạm mạng thuộc Sở Mật vụ Mỹ kiêm nhà sáng lập ứng dụng chống lừa đảo Jacana, nhận định rằng tội phạm mạng hiện nay vận hành không khác gì các doanh nghiệp công nghệ: chúng có lộ trình sản phẩm, tận dụng AI để tối ưu chi phí và liên tục tìm kẽ hở pháp lý. Vụ việc cho thấy việc ngăn chặn AI bị lạm dụng không thể chỉ dựa vào nỗ lực đơn lẻ của các phòng lab AI, mà đòi hỏi sự phối hợp đồng bộ và quyết liệt hơn từ cả các kho ứng dụng lẫn các đơn vị trung gian thanh toán.