AI 챗봇 쇼핑 검색 답변 중 최대 15%에서 가짜 및 사칭 웹사이트 노출

주요 AI 챗봇, 소비자를 가짜 및 위험 사이트로 유도

소비자들이 상품을 찾고 가격을 비교하기 위해 인공지능(AI) 도구에 점점 더 의존함에 따라, 인기 AI 챗봇들이 사용자를 사칭 쇼핑몰이나 의심스러운 웹 도메인으로 유도하고 있는 것으로 나타났다.

지적재산권(IP) 보호 기업 Podqi가 실시한 조사에 따르면, OpenAI의 ChatGPT, Google의 Gemini, Perplexity를 포함한 주요 AI 엔진에 이커머스 관련 질문을 입력했을 때 "위험한" URL이 빈번하게 노출되었다. 챗봇 종류에 따라 위험한 링크가 포함된 비율은 답변의 최대 15%에 달했다.

Podqi는 위험 사이트를 정식 유통업체를 사칭하는 짝퉁 도메인, 모조품 판매 웹사이트, 제3자가 재등록한 만료된 브랜드 도메인, 또는 도메인 탈취 위험이 있는 비활성화된 웹페이지 등으로 정의했다.

테스트 대상 챗봇 중 Perplexity의 위험 비율이 가장 높아

이번 조사는 9월 중 두 차례의 테스트 기간 동안 생성된 총 6,795개의 답변을 평가했다. Podqi는 패션 브랜드 Lululemon, Birkenstock, Stüssy, Madhappy와 주방용품 제조업체 Le Creuset를 포함해 엄선된 151개의 중소 및 대기업을 대상으로 모델에 프롬프트를 입력했다.

질문은 특정 브랜드를 온라인에서 구매할 수 있는 곳, 브랜드의 해외 배송 여부, 공식 지역 웹사이트의 존재 여부 등 일반적인 쇼핑 관련 문의로 구성됐다.

Perplexity는 3개 플랫폼 중 가장 낮은 성과를 보여, 답변의 15%에서 위험 사이트를 링크하거나 언급했다. 특히 한 사례에서는 Perplexity가 잘못된 링크를 Stüssy의 공식 웹사이트로 제시하며 해당 링크를 "정품을 보장받을 수 있는 가장 좋은 시작점"이라고 설명하기도 했다.

ChatGPT는 답변의 8%에서 위험한 링크를 생성했다. 하지만 OpenAI의 도구는 의심스러운 링크에 대해 사용자에게 경고하는 데 있어 가장 우수한 성능을 보였으며, 위험한 도메인이 표시된 경우의 24%에서 명시적인 주의 문구를 제공했다.

Google의 Gemini는 답변의 4%에서만 위험 사이트를 인용하거나 표시해 전체적으로 가장 나은 성과를 거뒀다.

소규모 브랜드 및 지역 관련 검색 시 노출 위험 더 높아

이번 연구는 브랜드 규모와 질문 구조에 따른 특정 취약점을 강조했다. AI 챗봇이 대기업 브랜드에 대한 질문에 답변할 때 기만적인 사이트를 노출하는 빈도는 소규모 틈새 기업에 비해 절반 수준에 불과했다.

특정 지역의 브랜드 웹사이트를 묻는 질문은 특히 오류가 발생하기 쉬운 것으로 나타났다. 챗봇들은 별도의 지역 웹사이트를 운영하지 않는 브랜드에 대해서도 사기성 지역 URL을 생성하는 등 가짜 지역 쇼핑몰을 정기적으로 표시했다.

Podqi의 CEO 겸 공동 창업자인 Trevor West는 "이번 조사의 핵심 중 하나는 소비자들이 특정 챗봇에서 결과를 제공받더라도 개인정보나 신용카드 정보를 입력하기 전에 항상 출처를 확인하는 것이 최선임을 인식하도록 하는 것"이라고 말했다.

빅테크 기업들, 안전조치 우려에 대응해 해명

이러한 조사 결과에 대해 각 AI 기업의 대변인들은 정보 출처의 신뢰성과 도메인 검증 문제를 해결하기 위한 자사의 노력을 설명했다.

Google의 대변인 Jessica Levis Boord는 "우리는 정보의 질을 매우 중요하게 생각하며, 테스트된 제품 중 Gemini가 가장 우수한 성과를 거둔 것을 기쁘게 생각한다"며 "모델을 지속적으로 테스트하고 개선하고 있으며, Gemini는 AI로서 실수할 수 있다는 점을 솔직하게 알리고 있다. 따라서 소비자가 정보를 확인할 수 있도록 답변과 함께 출처 링크를 함께 표시하고 있다"고 밝혔다.

OpenAI의 대변인 Taya Christianson은 소비자 안전에 대한 회사의 의지를 재확인하며 "우리의 목표는 ChatGPT가 사람들을 신뢰할 수 있는 쇼핑 장소와 연결해 주는 것"이라며 "쇼핑 관련 검색 결과에 기만 가능성이 있는 사이트가 노출될 확률을 줄이기 위해 안전장치를 지속적으로 개선하고 있다"고 밝혔다.

Perplexity의 대변인 Jesse Dwyer는 플랫폼의 핵심 목표인 정보 검색 기능을 옹호하며 "Perplexity는 4년 동안 신뢰할 수 있는 연구 벤치마크에서 일관되게 가장 정확한 AI로 인정받아 왔다"며 "우리가 100% 정확하다고 주장한 적은 없지만, 이에 끈질기게 집중하는 유일한 회사라는 점은 자부한다"고 답했다.