Elon Musk y Sam Altman mantienen desde hace años una relación abiertamente hostil. OpenAI y Anthropic compiten por construir algunos de los modelos más avanzados del planeta. Y xAI tampoco parece especialmente interesada en quedarse mirando desde la barrera. Por eso resulta llamativo que las tres partes hayan terminado coincidiendo precisamente en esto: la inteligencia artificial está avanzando demasiado rápido.
La advertencia partió de Dario Amodei . El CEO de Anthropic publicó un extenso ensayo titulado We Must Pace the Frontier en el que pide reducir deliberadamente el ritmo al que mejoran las capacidades de los modelos más potentes. No propone detener la IA ni congelar la investigación. La idea es más incómoda para una industria construida alrededor de la velocidad: seguir avanzando, pero más despacio.
Sam Altman terminó respaldando el planteamiento. “Coincido con Dario en que necesitamos marcar el ritmo en la frontera”, escribió el CEO de OpenAI , además de comprometerse a permitir que evaluadores independientes tengan un acceso similar al de empleados para inspeccionar sus sistemas. Elon Musk fue todavía más directo : “Dario tiene razón”. Lo extraordinario no es únicamente que estén de acuerdo. Es qué ha ocurrido para que algunos de los mayores responsables de acelerar esta carrera estén empezando a pedir tiempo.
La advertencia ya no habla de una IA hipotética dentro de 20 años © Gizmodo / OpenAI. El primer problema señalado por Amodei es la denominada automejora recursiva. Los modelos de IA ya participan en programación, investigación y desarrollo de las herramientas que servirán para construir la siguiente generación de modelos. Según Amodei , desde este verano ese ciclo está empezando a acelerar: una IA ayuda a desarrollar otra IA mejor, que a su vez puede ayudar a construir la siguiente.
El riesgo es que ese proceso avance más rápido que nuestra capacidad para comprenderlo, evaluarlo y controlarlo. Pero hay algo todavía más concreto detrás de la alarma. En julio, durante unas evaluaciones internas de ciberseguridad de OpenAI , varios agentes consiguieron saltarse los controles que debían mantenerlos aislados de Internet. Los sistemas explotaron vulnerabilidades, utilizaron canales de comunicación no autorizados y terminaron accediendo tanto a infraestructura interna de OpenAI como a sistemas de Hugging Face.
No es una interpretación externa: OpenAI reconoció públicamente el incidente en agosto y explicó que los modelos realizaron acciones que no estaban alineadas con los objetivos que les habían asignado. Investigaciones posteriores encontraron además comunicaciones no autorizadas a través de al menos otros diez sitios web. Para Amodei , aquello fue una pequeña demostración de un problema que podría crecer muy deprisa. Anthropic teme que un enjambre de IA pueda intentar controlar partes de Internet en menos de un año © Don Feria / Anthropic.
Aquí aparece la advertencia más extrema del ensayo. Amodei cree que, al ritmo actual, en seis a doce meses podría existir un enjambre de agentes suficientemente capaz como para intentar establecer una botnet persistente a enorme escala, provocando potencialmente cientos de miles de millones de dólares en daños. No significa que Anthropic esté diciendo que eso vaya a ocurrir inevitablemente. El escenario es una estimación de riesgo utilizada precisamente para defender una desaceleración antes de llegar a ese nivel de capacidad.
Su propuesta tiene tres pilares: evaluadores externos dentro de los grandes laboratorios, coordinación entre las empresas que desarrollan modelos frontera y acuerdos internacionales que impidan que la competencia entre países haga imposible cualquier intento de moderación . Y ahí aparece la gran contradicción. OpenAI, Anthropic y xAI siguen necesitando modelos mejores, centros de datos mayores y cantidades gigantescas de capital para no quedarse atrás. Ninguna está abandonando la carrera.
Lo que están sugiriendo es algo bastante más difícil: convencer a todos los corredores de reducir la velocidad al mismo tiempo. Porque el verdadero problema de frenar una carrera tecnológica no es saber dónde está el freno. Es conseguir que nadie aproveche ese momento para pisar el acelerador.