Bloomberg — Anthropic PBC acusó al gigante chino de la inteligencia artificial Moonshot AI de enrutar en secreto miles de solicitudes de usuarios hacia los modelos Claude de la firma estadounidense, haciendo pasar las respuestas como propias en un intento por ganar ventaja en la carrera por la IA. Moonshot desvió consultas dirigidas a sus chatbots hacia modelos de Anthropic sin informar a los usuarios, en lugar de procesarlas mediante su propio modelo Kimi, según un informe publicado por Anthropic este jueves. En un caso concreto, Anthropic afirmó haber detectado cerca de 300.000 solicitudes de clientes que Moonshot envió principalmente al modelo de inteligencia artificial Claude Opus. Dado que Anthropic no permite el acceso a su tecnología desde el territorio continental chino, Moonshot recurrió a 5.380 cuentas fraudulentas —localizadas en su mayoría en Singapur y Japón— para eludir los bloqueos territoriales, según el documento.
Anthropic determinó que la actividad de Moonshot formaba parte de un proceso conocido como destilación, en el que un desarrollador utiliza datos de un modelo de IA más potente para mejorar un sistema menos potente. En este caso, Anthropic cree que las respuestas que Moonshot recibió de sus sistemas se utilizaron posteriormente para entrenar su propio software. Anthropic afirmó que DeepSeek y Xiaomi Corp. llevaron a cabo prácticas similares. El informe se publica poco después de que las agencias de seguridad estadounidenses acusaran a las principales empresas chinas de IA, entre ellas DeepSeek y Moonshot, de extraer sistemáticamente conocimientos exclusivos de empresas estadounidenses a través de sus prácticas de destilación.
El Gobierno advirtió a los desarrolladores de Silicon Valley que protegieran su trabajo. Las empresas tecnológicas estadounidenses, incluida Anthropic, también han acusado anteriormente a empresas chinas, entre ellas Moonshot, de practicar la destilación. Desde entonces, Moonshot se ha convertido en uno de los principales competidores en el ámbito de la IA del país gracias al éxito rotundo de su modelo Kimi K3 este verano. Moonshot se negó a hacer comentarios.
Los representantes de DeepSeek y Xiaomi no respondieron a una solicitud de comentarios fuera del horario laboral habitual. El Ministerio de Comercio chino declaró recientemente que no existe “ninguna base fáctica ni legal” para las acusaciones de destilación a escala industrial de modelos estadounidenses por parte de empresas chinas de IA. También amenazó con tomar contramedidas si Estados Unidos “emprende acciones para contener y reprimir” a las empresas chinas de IA. La destilación es una técnica habitual para mejorar los modelos de IA.
Anthropic también ha observado mejoras al destilar sus propios modelos, según afirmó Jacob Klein, director de investigación de amenazas de la empresa. Sin embargo, la destilación no autorizada conlleva el riesgo de que otros desarrolladores tomen atajos para crear mejores modelos y ofrecerlos a un precio más bajo, lo que podría socavar a empresas como Anthropic ahora que se prepara para salir a bolsa. Esta técnica, junto con las supuestas tácticas de desvío de indicaciones, también podría plantear nuevas dudas sobre las prácticas de privacidad de datos de los laboratorios chinos de IA. “Si hiciéramos eso, o si alguno de nuestros competidores lo hiciera, se trataría de un gran escándalo en materia de privacidad”, afirmó Klein en una entrevista. El informe de 145 páginas de Anthropic describe una serie de amenazas relacionadas con su software que, según la compañía, descubrió y neutralizó entre diciembre del año pasado y agosto de este año.
Estas amenazas incluyen presuntos ciberataques patrocinados por estados y con fines lucrativos, operaciones de vigilancia y campañas de desinformación. El informe reveló que un usuario de Kimi cargó datos de vigilancia chinos en el modelo para analizar si una persona concreta se comportaba de forma anómala. Aunque es probable que este usuario pensara que su solicitud sería atendida por Moonshot, finalmente acabó siendo planteada a un modelo de Anthropic, quedando así al alcance de la empresa estadounidense. Esta solicitud incluía imágenes de videovigilancia procedentes de cientos de cámaras, entre ellas las situadas en el exterior de instalaciones del Ejército Popular de Liberación, según indicó Anthropic en el informe.
Los ejemplos que figuran en el informe muestran cómo la inteligencia artificial está acelerando la creación de malware, la vigilancia de las redes sociales y la difusión de propaganda política. Anthropic afirmó que, en cada caso, bloqueó las cuentas infractoras y desarrolló medidas de seguridad para prevenir comportamientos similares. Anthropic y el sector de la IA en general están bajo escrutinio por una serie de brechas de seguridad reveladas este verano, relacionadas con modelos de IA y pruebas de ciberseguridad que salieron mal, lo que ha suscitado inquietudes sobre la capacidad de las empresas para proteger su software más avanzado. El miércoles, Anthropic reveló que había descubierto un nuevo ataque por parte de uno de sus modelos durante unas pruebas de seguridad.
El incidente afectó a una versión inicial de Claude Opus 4.6, según informó la empresa. Lea más en Bloomberg.com