AIチャットボット、ショッピング検索の最大15％で偽サイトや怪しいECサイトを表示——最新調査で判明

主要チャットボットがショッパーを偽サイトや危険なサイトに誘導

消費者が製品の検索や価格比較において人工知能（AI）ツールの活用を深める中、人気のAIチャットボットがユーザーになりすましECサイトや怪しいWebドメインを案内している。

知的財産（IP）保護企業であるPodqiが行った調査によると、OpenAIのChatGPT、GoogleのGemini、Perplexityをはじめとする主要なAIエンジンは、EC関連の質問をされた際に「危険な」URLを頻繁に表示しているという。チャットボットによっては、回答の最大15％に危険なリンクが含まれていた。

Podqiは「危険なサイト」を、正規の小売業者になりすました模倣ドメイン、模造品を販売するWebサイト、第三者によって再登録された期限切れのブランドドメイン、ドメイン乗っ取りのリスクがある非アクティブなWebページと定義している。

Perplexityがテスト対象の中で最も高いリスク率を記録

本テストでは、9月に実施された2回の検証期間において生成された計6,795件の回答を評価した。Podqiは、ファッションブランドのLululemon、Birkenstock、Stüssy、Madhappyや、調理器具メーカーのLe Creusetを含む、大企業および中小企業151社を対象としてモデルにプロンプトを入力した。

テストされたクエリは、特定のブランドをオンラインのどこで購入できるか、国際配送に対応しているか、公式の地域別Webサイトが存在するかなど、一般的なショッピングにおけるやりとりを再現したものだ。

3つのプラットフォームの中で最も低い評価となったのはPerplexityで、回答の15％で危険なサイトへのリンク掲載または言及を行った。注目すべき事例として、PerplexityはStüssyの公式Webサイトとして誤ったリンクを表示し、「確実に本物を手に入れるための最良のスタート地点」と説明していた。

ChatGPTは回答の8％で危険なリンクを生成した。しかし、OpenAIのツールは不審なリンクについてユーザーに注意を促す機能において最も優れており、危険なドメインが表示されたケースの24％で明確な警告を提供した。

GoogleのGeminiは全体で最高のパフォーマンスを達成し、危険なサイトの引用や表示は回答の4％にとどまった。

小規模ブランドや地域別クエリでリスクが上昇

本調査は、ブランドの規模やクエリの構造に応じた特定の脆弱性を強調している。AIチャットボットが紛らわしいサイトを表示する割合は、小規模でニッチなビジネスに関する質問に比べて、大手企業のブランドに関する質問の回答では約半分にとどまった。

特に地域別のブランドWebサイトを尋ねるクエリはエラーが発生しやすいことが判明した。チャットボットは偽の地域別ECサイトを頻繁に表示し、個別の地域Webサイトを運営していないブランドに対しても不正な地域URLを生成した。

「特定のリサーチ結果がチャットボットから提供されたとしても、個人情報やクレジットカード情報を入力する前に、必ずその情報源を検証することが重要であると消費者に周知することも、本レポートの目的の1つだ」と、PodqiのCEO兼共同創業者であるTrevor Westは述べている。

AI各社がセーフガード強化の姿勢を提示

調査結果を受け、各AI企業の担当者は情報源の信頼性確保やドメイン検証に向けた取り組みを説明した。

Googleの広報担当者であるJessica Levis Boordは次のように述べた。「当社は情報の質を真摯に受け止めており、テスト対象となった製品の中でGeminiが最高のパフォーマンスを示したことを嬉しく思っている。当社はモデルのテストと改善に継続的に取り組んでおり、GeminiがAIであり間違いを犯す可能性があることも正直に明示している。そのため、利用者が情報を確認できるよう、回答とともに情報源へのリンクを表示している」

OpenAIの広報担当者であるTaya Christiansonは、消費者の安全に対する同社の姿勢を改めて強調した。「私たちの目標は、ChatGPTがユーザーを信頼できるショッピング先へとつなぐことだ。ショッピング関連の検索結果において、偽サイトなどの欺瞞的なサイトが表示される可能性を低減するため、セーフガードの改善を続けている」

Perplexityの広報担当者であるJesse Dwyerは、情報検索に注力する同社プラットフォームの根幹を擁護した。「Perplexityは4年間にわたり、信頼性の高いリサーチベンチマークにおいて一貫して最も正確なAIであり続けている。100％正確であると主張したことは一度もないが、正確性の追求に絶え間なく注力している唯一の企業であると自負している」