Los chatbots de IA muestran sitios web de minoristas falsos y suplantadores en hasta el 15 por ciento de las consultas de compras, según un estudio

Los principales chatbots dirigen a los compradores a sitios falsos y riesgosos

A medida que los consumidores confían cada vez más en las herramientas de inteligencia artificial para descubrir productos y comparar precios, los chatbots de IA populares están dirigiendo a los usuarios hacia tiendas imitadoras y dominios web sospechosos.

Un estudio realizado por la firma de protección de propiedad intelectual Podqi descubrió que los principales motores de IA —incluyendo ChatGPT de OpenAI, Gemini de Google y Perplexity— muestran frecuentemente URLs "riesgosas" cuando se les hacen preguntas de comercio electrónico. Dependiendo del chatbot, los enlaces riesgosos aparecieron en hasta el 15 por ciento de las respuestas.

Podqi define los sitios riesgosos como dominios falsificados que se hacen pasar por minoristas legítimos, sitios web que venden imitaciones, dominios de marcas caducados y vuelto a registrar por terceros, o páginas web inactivas susceptibles a la apropiación de dominios.

Perplexity registra la tasa de riesgo más alta entre los chatbots probados

Las pruebas evaluaron un total de 6.795 respuestas generadas en dos períodos de prueba en septiembre. Podqi indicó a los modelos utilizando una selección de 151 empresas pequeñas y grandes, incluidas las marcas de moda Lululemon, Birkenstock, Stüssy y Madhappy, junto con el fabricante de utensilios de cocina Le Creuset.

Las consultas evaluaron interacciones de compras comunes, como preguntar dónde comprar marcas específicas en línea, si las marcas realizan envíos internacionales o qué sitios web regionales oficiales existen.

Perplexity obtuvo el peor desempeño entre las tres plataformas, enlazando o mencionando sitios riesgosos en el 15 por ciento de sus respuestas. En un caso notable, Perplexity mostró un enlace incorrecto como el sitio web oficial de Stüssy, identificándolo como "el mejor punto de partida para artículos auténticos garantizados".

ChatGPT generó enlaces riesgosos en el 8 por ciento de sus respuestas. Sin embargo, la herramienta de OpenAI obtuvo el mejor resultado al advertir a los usuarios sobre enlaces sospechosos, proporcionando precauciones explícitas en el 24 por ciento de los casos en los que se mostró un dominio riesgoso.

Gemini de Google logró el mejor rendimiento general, citando o mostrando sitios riesgosos en el 4 por ciento de sus respuestas.

Las marcas más pequeñas y las consultas regionales enfrentan una mayor exposición

El estudio destacó vulnerabilidades específicas basadas en el tamaño de la marca y la estructura de las consultas. Los chatbots de IA mostraron sitios engañosos aproximadamente la mitad de las veces al responder preguntas sobre grandes marcas corporativas en comparación con empresas más pequeñas y de nicho.

Las consultas que solicitaban sitios web de marcas regionales demostraron ser particularmente propensas a errores. Los chatbots mostraron regularmente tiendas regionales falsas, incluida la generación de URLs regionales fraudulentas para marcas que no operan sitios web regionales separados.

"Parte de esto también consiste en asegurarse de que los consumidores sepan que, aunque se les proporcione un resultado en un chatbot en particular, siempre es mejor verificar la fuente de este antes de ingresar información personal o información de tarjetas de crédito", dijo el director ejecutivo y cofundador de Podqi, Trevor West.

Las empresas tecnológicas responden a las preocupaciones sobre seguridad

En respuesta a los hallazgos, representantes de las respectivas empresas de IA describieron sus esfuerzos para abordar la confiabilidad de las fuentes y la verificación de dominios.

La portavoz de Google, Jessica Levis Boord, declaró: "Nos tomamos en serio la calidad de la información y nos alegra ver que Gemini obtuvo el mejor desempeño entre los productos probados. Trabajamos continuamente para probar y mejorar nuestros modelos, y somos claros en que Gemini es una IA y puede cometer errores, por lo que mostramos enlaces a las fuentes junto con las respuestas para ayudar a las personas a verificar la información".

La portavoz de OpenAI, Taya Christianson, reiteró el compromiso de la empresa con la seguridad del consumidor: "Nuestro objetivo es que ChatGPT conecte a las personas con lugares confiables para comprar. Seguimos mejorando nuestras medidas de seguridad para hacer que los sitios potencialmente engañosos tengan menos probabilidades de aparecer en los resultados relacionados con compras".

El portavoz de Perplexity, Jesse Dwyer, defendió el enfoque principal de la plataforma en la recuperación de información: "Perplexity es consistentemente la IA más precisa en puntos de referencia de investigación creíbles, y lo ha sido durante cuatro años. Nunca afirmamos ser 100% precisos, pero sí afirmamos ser la única empresa enfocada implacablemente en ello".