Según Axios, los ejecutivos de las principales empresas de IA prevén un desastre de gran magnitud provocado por la IA en los próximos seis a doce meses, y ya están preparándose para las consecuencias, no almacenando alimentos liofilizados, sino presionando a los miembros del Congreso. Este enfoque, que consiste en prepararse para las audiencias en lugar de para los peligros, perjudica tanto al público como a la industria. Las alarmantes advertencias llegan cada semana. En julio, más de 1.000 agentes de IA que participaban en las pruebas internas de ciberseguridad de OpenAI se coordinaron a través de un canal no autorizado, y cientos de ellos se unieron a un ataque contra Hugging Face Inc., un importante centro para desarrolladores de IA.
Hugging Face anunció la brecha cuatro días antes de que OpenAI se percatara de la responsabilidad de sus agentes. Y este es solo uno de al menos 10 incidentes conocidos en los que modelos de IA piratearon sistemas externos. Ninguno de estos incidentes fue intencional, y OpenAI afirma que el sistema de monitoreo que utiliza actualmente habría detectado a sus propios agentes antes de la brecha de seguridad de Hugging Face. Sin embargo, los accidentes no son la única preocupación.
A partir de finales de septiembre, los atacantes vulneraron al menos siete instituciones financieras coreanas, afectando a más de 68.000 personas. Las autoridades observan indicios del uso de IA, y la empresa de seguridad CrowdStrike Holdings Inc. vinculó la campaña con un operador que utilizaba un agente de pirateo de IA de código abierto. No se trataba de un genio criminal: el pirata informático dejó registros de sesiones de IA en directorios abiertos, incluyendo uno en el que le pidió a una IA que redactara un currículum vitae destacando los resultados del ataque. Como afirmó el presidente surcoreano Lee Jae Myung: “Ahora es posible usar la IA para piratear con facilidad, incluso sin conocimientos especializados”. ¿Cuál es la respuesta del sector?
En septiembre, Dario Amodei, director ejecutivo de Anthropic, pidió que se ralentizara el ritmo de mejora de las capacidades de la IA. Sam Altman, director ejecutivo de OpenAI, escribió que estaba de acuerdo y que su empresa ha suspendido en dos ocasiones el entrenamiento de sus modelos más avanzados. Anthropic ha invertido US$40 millones en un grupo que aboga por la implementación de normativas de seguridad. Pero las señales fiables son señales costosas, y gran parte del dinero y el poder de la industria apuntan en la dirección opuesta.
Marc Andreessen y Ben Horowitz, cofundadores de la firma de capital riesgo Andreessen Horowitz, han donado US$50 millones a Leading the Future, una red de super PACs. Una filial gastó más de US$8 millones en una exitosa campaña para derrotar a Alex Bores, el legislador neoyorquino que impulsó la ley estatal de seguridad de la IA, en las primarias al Congreso de junio. Meta ha presupuestado 65 millones de dólares para frenar las leyes estatales de IA. OpenAI no ha realizado donaciones a super PACs.
Sin embargo, su presidente, Greg Brockman, y su esposa, Anna, donaron US$25 millones a Leading the Future y otros US$25 millones a MAGA Inc., el super PAC que apoya al presidente Donald Trump, en septiembre de 2025. Tres meses después, Trump ordenó al Departamento de Justicia la creación de un grupo de trabajo para impugnar las leyes estatales sobre IA. Tras la reacción negativa de los empleados, Brockman les comunicó a sus colegas en junio que la pareja no tenía previsto realizar más donaciones por el momento. Nótese la última frase.
La industria apuesta a que puede emular a Wall Street: ganar dinero con comportamientos que provocan crisis y luego usar la influencia que ese dinero compra para frenar la represión posterior. Pero existe una enorme diferencia en tamaño e influencia entre ambas industrias: las finanzas y los seguros representan alrededor del 9% de la producción económica estadounidense y dan empleo a 6,6 millones de personas, y en el ciclo electoral de 2020, gastaron (junto con el sector inmobiliario) al menos US$2.900 millones en campañas y cabildeo. Hasta la primavera pasada, OpenAI tenía unos 4.500 empleados, y el gasto político de la industria de la IA es una fracción del de Wall Street. Es más, los bancos son la columna vertebral de la economía.
El gobierno tuvo que rescatarlos. Ningún político se apresurará a rescatar una industria de IA en la que el público ya desconfía , especialmente después de que un desastre provocado por la IA elimine gran parte de su peso económico. Eso fue lo que les pasó a los contadores. En abril de 2000, mientras el presidente de la Comisión de Bolsa y Valores (SEC), Arthur Levitt, intentaba limitar la cantidad de consultoría que los auditores podían brindar a sus clientes, tres líderes de comités de la Cámara de Representantes , Tom Bliley, Billy Tauzin y Michael Oxley, lo instaron a actuar con cautela.
Levitt cedió en gran medida. Luego, Enron Corp. colapsó y WorldCom Inc. reveló que había inflado sus ganancias en más de US$3.800 millones. El 25 de julio de 2002, el Congreso aprobó la Ley Sarbanes-Oxley por 423 votos a favor y 3 en contra en la Cámara de Representantes, y por 99 votos a favor y ninguno en contra en el Senado. El mismo Michael Oxley que había instado a Levitt a actuar con cautela patrocinó el proyecto de ley.
La industria de la IA aún tiene tiempo para evitar ese destino. El propio Amodei ha escrito que “el método más eficaz para regular el ritmo es mediante la regulación”, porque “abarca incluso a quienes no están dispuestos a cooperar voluntariamente”. La industria debería dejar de oponerse a las regulaciones estrictas y empezar a apoyarlas. Esto implica plazos vinculantes para la notificación de incidentes (Australia afirma que OpenAI tardó casi tres meses en informarle de que un agente había accedido a un portal gubernamental de estadísticas sanitarias), investigadores cuyo acceso no esté determinado por la empresa investigada, estándares de seguridad reales y que el gobierno federal no prevalezca sobre las leyes estatales antes de que se promulguen regulaciones federales sólidas.
Si la catástrofe se produce de todos modos, al menos las empresas que apoyaron esas normas podrán decir que lo intentaron. En 2002, solo bastó un mes —el tiempo transcurrido entre la admisión de WorldCom y la aprobación del proyecto de ley— para que la influencia del sector contable desapareciera. Si la primera catástrofe de la IA se parece a la que sus ejecutivos están simulando, con familias sin acceso a cuentas bancarias, electricidad o agua, todos los esfuerzos de influencia que ahora realiza el sector solo servirán para indicarle al público a quién culpar. Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com
