Confiar ciegamente en las respuestas que nos dan los modelos de inteligencia artificial es un gran problema. Y lo es más todavía desde que, hace unas semanas, ChatGPT incluye recomendaciones de productos cuando le hacemos alguna consulta. Si ya saltó la duda de si esos anuncios están patrocinados, ahora los estafadores parecen haberse apropiado de esa parte. El peligro es enorme, ya que estas personas están logrando colar anuncios falsos entre las recomendaciones de productos que hace ChatGPT, que llevan a tiendas online falsas.
Cómo lo hacen El descubrimiento de este problema nos llega de la mano de Ask Silver, un reputado servicio especializado en la verificación de fraudes digitales de este tipo. Según recoge el diario británico The Guardian, la compañía detectó que ChatGPT incluía de forma natural enlaces a versiones completamente falsas y clonadas de comercios muy conocidos, como la firma de calzado Russell & Bromley o la cadena de decoración Dunelm. Estas páginas web falsas copian la interfaz de los comercios originales, con el fin de suplantar su identidad y procesar pagos de pedidos que jamás se entregarán. Así, se hacen con los datos de las tarjetas de crédito de las víctimas.
Anna Jones, portavoz de Ask Silver, señala que el modelo de lenguaje de OpenAI podría estar siendo envenenado. Esto implicaría que los ciberdelincuentes crean muchas páginas web optimizadas específicamente para manipular los algoritmos de rastreo que ChatGPT utiliza para nutrir sus respuestas en tiempo real. Al indexar estas webs falsas como fuentes de información fiables, la IA las asimila y se las ofrece al usuario final con una apariencia de total autoridad. Lo peligroso de esta estafa es que ataca directamente la psicología del usuario, ya que, al ser introducida por la IA, a través del asistente conversacional, parece totalmente lícito.
Todos sus riesgos La inteligencia artificial no es capaz de detectar este comportamiento debido a su propia naturaleza de diseño: - Incapacidad: ChatGPT está programado para resumir la información y ofrecer una respuesta directa y consolidada. Al presentar el enlace incrustado en un texto fluido y coherente, el usuario suele confiarse de forma automática. - Vacíos comerciales: Los estafadores monitorizan la actualidad económica. Por ejemplo, Russell & Bromley entró en concurso de acreedores y fue absorbida por el grupo Next, dejando un vacío de páginas oficiales independientes. Los criminales aprovecharon este limbo para registrar dominios aparentemente originales como russellandbromleylondon, que la IA tomó por buenos al no haber una web oficial con la que contrastar.
Ante la gravedad de los hallazgos, portavoces de OpenAI han salido al paso confirmando que los sitios fraudulentos específicos reportados por los analistas ya han sido eliminados de su índice de búsqueda. No obstante, la compañía tecnológica no ha aportado detalles técnicos sobre qué medidas sistémicas o cambios estructurales planea implementar en sus algoritmos para evitar que nuevas tiendas clonadas vuelvan a colarse en el motor de recomendaciones en el futuro. Para evitar caer en este tipo de trampas, la clave es desconfiar por completo si el enlace proporcionado por la IA ofrece descuentos desorbitados que no tienen ningún sentido ni van en la línea del mercado actual.