Nghiên cứu mới: Chatbot AI đưa trang web lừa đảo và mạo danh vào 15% kết quả tìm kiếm mua sắm

Các chatbot AI hàng đầu dẫn dắt người mua sắm đến các trang web giả mạo và rủi ro

Trong bối cảnh người tiêu dùng ngày càng phụ thuộc vào các công cụ trí tuệ nhân tạo (AI) để tìm kiếm sản phẩm và so sánh giá cả, các chatbot AI phổ biến lại đang vô tình dẫn dắt họ đến những gian hàng mạo danh và tên miền đầy nghi vấn.

Nghiên cứu do Poddqi — một công ty chuyên về bảo vệ sở hữu trí tuệ — thực hiện cho thấy các công cụ tìm kiếm AI hàng đầu hiện nay, bao gồm ChatGPT của OpenAI, Gemini của Google và Perplexity, thường xuyên đưa ra các URL "rủi ro" khi nhận được câu hỏi về thương mại điện tử. Tùy thuộc vào từng chatbot, các liên kết nguy hiểm này xuất hiện trong tối đa 15% số câu trả lời.

Poddqi định nghĩa "trang web rủi ro" là các tên miền giả mạo nhái theo những nhà bán lẻ uy tín, trang web bán hàng nhái, tên miền thương hiệu đã hết hạn bị bên thứ ba đăng ký lại, hoặc các trang web không còn hoạt động nhưng dễ bị chiếm đoạt tên miền (domain takeover).

Perplexity ghi nhận tỷ lệ rủi ro cao nhất trong số các chatbot được thử nghiệm

Đợt kiểm thử đã đánh giá tổng cộng 6.795 câu trả lời tự động trong hai đợt thử nghiệm diễn ra vào tháng 9. Poddqi đã gửi truy vấn cho các mô hình AI dựa trên danh sách 151 doanh nghiệp lớn và nhỏ, bao gồm các thương hiệu thời trang như Lululemon, Birkenstock, Stüssy, Madhappy, cũng như hãng sản xuất đồ bếp Le Creuset.

Các câu hỏi thử nghiệm xoay quanh những tương tác mua sắm quen thuộc, chẳng hạn như hỏi nơi mua sản phẩm của thương hiệu cụ thể trên mạng, liệu thương hiệu đó có giao hàng quốc tế hay không, hoặc đâu là trang web chính thức tại từng khu vực.

Perplexity có kết quả tệ nhất trong số ba nền tảng, khi có tới 15% số câu trả lời chứa liên kết hoặc nhắc đến các trang web rủi ro. Đáng chú ý, trong một trường hợp, Perplexity đã đưa ra một đường link giả mạo và khẳng định đó là trang web chính thức của Stüssy, thậm chí còn mô tả đây là "điểm bắt đầu tốt nhất để đảm bảo mua được hàng chính hãng".

ChatGPT tạo ra các liên kết rủi ro trong 8% số câu trả lời. Tuy nhiên, công cụ của OpenAI lại thể hiện tốt nhất trong việc cảnh báo người dùng về các liên kết đáng nghi, đưa ra lời cảnh báo rõ ràng trong 24% trường hợp hiển thị tên miền rủi ro.

Gemini của Google đạt hiệu suất tổng thể tốt nhất, khi chỉ đưa ra hoặc hiển thị các trang web rủi ro trong 4% số câu trả lời.

Thương hiệu nhỏ và các truy vấn theo khu vực đối mặt với rủi ro cao hơn

Nghiên cứu nhấn mạnh những điểm yếu cụ thể dựa trên quy mô thương hiệu và cấu trúc câu hỏi. Các chatbot AI đưa ra trang web lừa đảo với tần suất ít hơn khoảng một nửa khi trả lời các câu hỏi về những tập đoàn lớn so với các doanh nghiệp nhỏ, kinh doanh sản phẩm ngách.

Các truy vấn tìm kiếm trang web của thương hiệu theo từng khu vực đặc biệt dễ phát sinh lỗi. Các chatbot thường xuyên hiển thị các gian hàng giả mạo theo khu vực, thậm chí tự "bịa" ra các URL giả mạo theo vùng miền cho những thương hiệu vốn không vận hành các trang web riêng cho từng khu vực.

"Một phần mục đích của bài nghiên cứu này là nhằm đảm bảo người tiêu dùng hiểu rằng, dù bạn nhận được kết quả từ một chatbot cụ thể, việc xác minh nguồn tin vẫn là điều bắt buộc trước khi nhập thông tin cá nhân hoặc thông tin thẻ tín dụng," ông Trevor West, CEO và là đồng sáng lập của Poddqi, chia sẻ.

Các công ty công nghệ lên tiếng về lo ngại an toàn

Phản hồi lại các phát hiện trên, đại diện từ các công ty AI liên quan đã nêu rõ những nỗ lực của họ nhằm cải thiện độ tin cậy của nguồn tin và xác minh tên miền.

Phát ngôn viên của Google, bà Jessica Levin, cho biết: "Chúng tôi rất coi trọng chất lượng thông tin và rất vui khi thấy Gemini đạt kết quả tốt nhất trong số các sản phẩm được thử nghiệm. Chúng tôi liên tục thử nghiệm và cải thiện các mô hình của mình, đồng thời luôn minh bạch về việc Gemini là AI và có thể mắc sai lầm. Do đó, chúng tôi hiển thị các liên kết đến nguồn thông tin bên cạnh câu trả lời để giúp người dùng đối chiếu, xác minh."

Phát ngôn viên của OpenAI, cô Taya Christianson, khẳng định lại cam kết của công ty về an toàn cho người tiêu dùng: "Mục tiêu của chúng tôi là để ChatGPT kết nối mọi người với những địa điểm mua sắm đáng tin cậy. Chúng tôi đang tiếp tục nâng cấp các rào chắn bảo vệ nhằm giảm thiểu khả năng xuất hiện của các trang web có dấu hiệu lừa đảo trong kết quả tìm kiếm liên quan đến mua sắm."

Phát ngôn viên của Perplexity, ông Jesse Dwyer, đã bảo vệ định hướng cốt lõi của nền tảng trong việc truy xuất thông tin: "Perplexity luôn giữ vững vị trí là AI chính xác nhất trên các bảng xếp hạng nghiên cứu uy tín trong suốt bốn năm qua. Chúng tôi không bao giờ tuyên bố mình chính xác 100%, nhưng chúng tôi tự hào là công ty duy nhất kiên trì và nỗ lực không ngừng nghỉ vì mục tiêu đó."