Durante años, el gran temor alrededor de la inteligencia artificial se formuló en futuro: qué ocurrirá cuando los modelos sean suficientemente potentes como para actuar solos, vulnerar sistemas informáticos o ayudar a construir armas. En 2026 esa pregunta empezó a quedarse vieja. En julio, OpenAI estaba realizando pruebas internas de ciberseguridad cuando varios de sus agentes encontraron una forma de comunicarse pese a que supuestamente debían permanecer aislados. Aproximadamente 1.200 agentes terminaron intercambiando más de 70.000 mensajes y archivos en un canal improvisado; unos 700 participaron después en la intrusión contra Hugging Face.
La cifra procede de una investigación independiente de METR y Redwood Research realizada con acceso a los registros del incidente. Y eso cambia bastante la conversación. El riesgo dejó de ser exclusivamente que alguien utilice una IA para atacar un sistema. Ahora también existe el escenario en el que la propia IA encuentra maneras no autorizadas de completar una tarea.
Los agentes no recibieron la orden de hackear Hugging Face. Llegaron hasta allí intentando ganar una prueba © Gizmodo / ChatGPT. La historia resulta especialmente extraña porque aquello no comenzó como un ataque dirigido contra Hugging Face. Los agentes estaban resolviendo desafíos en un entorno denominado ExploitGym .
Algunas tareas eran imposibles de completar tal como estaban planteadas y varios modelos comenzaron a buscar alternativas. Encontraron vulnerabilidades en la infraestructura que los aislaba, consiguieron acceso a internet y descubrieron que podían comunicarse entre ellos. OpenAI reconoce cuatro patrones detrás del incidente: búsqueda de atajos para maximizar recompensas, persistencia ante tareas aparentemente imposibles, comunicación no autorizada y adopción de objetivos de otros agentes. METR reconstruyó después una especie de enjambre accidental: agentes que debían trabajar separados terminaron formando equipos y compartiendo métodos que podían ayudar a los demás.
La ofensiva alcanzó finalmente sistemas de producción de Hugging Face. OpenAI subraya que el principal responsable fue un modelo experimental exclusivamente interno, ejecutado además con salvaguardas reducidas; no era un producto destinado al público. Eso no elimina el problema. De hecho, la propia compañía describió el episodio como su incidente más grave de este tipo hasta ahora y ha notificado posteriormente a decenas de terceros mientras revisa otras actividades inesperadas realizadas por agentes durante entrenamiento y evaluación.
Al mismo tiempo, otras personas ya están usando modelos actuales para cosas mucho menos experimentales © Gizmodo / ChatGPT. La segunda señal llegó desde Anthropic. En su informe de amenazas de septiembre, la compañía describe operaciones reales en las que usuarios intentaron aprovechar Claude para ciberataques , vigilancia, fraude, investigación biológica y desarrollo de armamento. Un grupo localizado en el norte de Yemen empleó varias instancias del modelo como si fueran un pequeño equipo de ingeniería para desarrollar software de guiado y control destinado a cohetes y misiles.
Anthropic asegura haber bloqueado las cuentas involucradas. También identificó otro actor vinculado a Irán que utilizó Claude para recopilar información pública y elaborar recomendaciones de objetivos relacionadas con fuerzas navales estadounidenses en Oriente Medio. La empresa advierte , sin embargo, que estos casos representan ejemplos especialmente graves detectados por sus equipos, no el uso habitual de sus modelos. El debate entre Estados Unidos y China acaba de volverse mucho más incómodo Ahí aparece la tesis que está ganando terreno en Washington y Silicon Valley: regular únicamente la próxima generación de modelos no soluciona lo que ya está desplegado.
No existe consenso sobre la respuesta. El presidente Donald Trump ha restado importancia a una pausa general en el desarrollo porque considera prioritario mantener la ventaja estadounidense frente a China; dirigentes como el presidente de la Cámara, Mike Johnson, han expresado argumentos similares. Por otro lado, investigadores y ejecutivos de varias compañías han pedido estándares de seguridad más exigentes y una mayor coordinación internacional. Pekín ha rechazado propuestas que interpreta como intentos de frenar su desarrollo tecnológico y, a la vez, ha defendido fórmulas multilaterales de gobernanza.
La inteligencia artificial estará previsiblemente entre los asuntos discutidos cuando Donald Trump y Xi Jinping vuelvan a reunirse el 24 de septiembre , una cita que Washington prepara mientras ambas potencias mantienen diferencias sobre chips, regulación y competencia tecnológica. Y quizá ahí esté el verdadero cambio de 2026. Durante años discutimos cómo impedir que una IA futura saltara sus barreras . Ahora tenemos agentes que ya encontraron la puerta, hablaron entre ellos y salieron por ella.