Chatbots de IA exibem sites de varejo falsos e impostores em até 15% das consultas de compras, mostra estudo

Grandes Chatbots Direcionam Compradores para Sites Falsos e Arriscados

À medida que os consumidores dependem cada vez mais de ferramentas de inteligência artificial para descobrir produtos e comparar preços, chatbots de IA populares estão direcionando usuários para lojas falsas e domínios da web suspeitos.

Um estudo conduzido pela empresa de proteção de propriedade intelectual Podqi descobriu que os principais motores de IA — incluindo o ChatGPT da OpenAI, o Gemini do Google e o Perplexity — exibem frequentemente URLs "arriscadas" ao serem questionados sobre e-commerce. Dependendo do chatbot, links arriscados apareceram em até 15% das respostas.

A Podqi define sites arriscados como domínios falsificados que se passam por varejistas legítimos, sites que vendem imitações, domínios de marcas expirados registrados por terceiros ou páginas da web inativas suscetíveis à apropriação de domínio (domain takeover).

Perplexity Registra a Maior Taxa de Risco Entre os Chatbots Testados

Os testes avaliaram um total de 6.795 respostas geradas em dois períodos de teste em setembro. A Podqi utilizou prompts nos modelos usando uma seleção de 151 empresas de pequeno e grande porte, incluindo as marcas de moda Lululemon, Birkenstock, Stüssy e Madhappy, além da fabricante de utensílios de cozinha Le Creuset.

As consultas testaram interações comuns de compras, como perguntar onde comprar marcas específicas online, se as marcas fazem envios internacionais ou quais sites regionais oficiais existem.

O Perplexity teve o pior desempenho entre as três plataformas, vinculando ou mencionando sites arriscados em 15% de suas respostas. Em um caso notável, o Perplexity exibiu um link incorreto como o site oficial da Stüssy, identificando-o como "o melhor ponto de partida para itens autênticos garantidos".

O ChatGPT gerou links arriscados em 8% de suas respostas. No entanto, a ferramenta da OpenAI teve o melhor desempenho ao alertar os usuários sobre links suspeitos, fornecendo avisos explícitos em 24% das instâncias em que um domínio arriscado foi exibido.

O Gemini do Google alcançou o melhor desempenho geral, citando ou exibindo sites arriscados em 4% de suas respostas.

Marcas Menores e Consultas Regionais Enfrentam Maior Exposição

O estudo destacou vulnerabilidades específicas com base no tamanho da marca e na estrutura da consulta. Os chatbots de IA exibiram sites enganosos com cerca de metade da frequência ao responder a perguntas sobre grandes marcas corporativas em comparação com empresas menores e de nicho.

Consultas solicitando sites regionais de marcas mostraram-se particularmente propensas a erros. Os chatbots exibiam regularmente lojas regionais falsas, incluindo a geração de URLs regionais fraudulentas para marcas que não operam sites regionais separados.

"Parte deste trabalho também é garantir que os consumidores saibam que, embora você esteja recebendo um resultado em um chatbot específico, é sempre melhor verificar a fonte antes de inserir informações pessoais ou dados de cartão de crédito", disse o CEO e cofundador da Podqi, Trevor West.

Empresas de Tecnologia Respondem às Preocupações com Salvaguardas

Em resposta às descobertas, representantes das respectivas empresas de IA descreveram seus esforços para abordar a confiabilidade das fontes e a verificação de domínios.

A porta-voz do Google, Jessica Levis Boord, afirmou: "Levamos a sério a qualidade da informação e estamos felizes em ver que o Gemini teve o melhor desempenho entre os produtos testados. Trabalhamos continuamente para testar e melhorar nossos modelos, e somos transparentes sobre o fato de que o Gemini é uma IA e pode cometer erros, por isso exibimos links para fontes ao lado das respostas para ajudar as pessoas a verificar as informações."

A porta-voz da OpenAI, Taya Christianson, reiterou o compromisso da empresa com a segurança do consumidor: "Nosso objetivo é que o ChatGPT conecte as pessoas a locais confiáveis para fazer compras. Continuamos a aprimorar nossas salvaguardas para tornar sites potencialmente enganosos menos propensos a aparecer em resultados relacionados a compras."

O porta-voz do Perplexity, Jesse Dwyer, defendeu o foco central da plataforma na recuperação de informações: "O Perplexity é consistentemente a IA mais precisa em benchmarks de pesquisa confiáveis, e tem sido assim há quatro anos. Nunca afirmamos ser 100% precisos, mas afirmamos ser a única empresa incansavelmente focada nisso."