Bloomberg — Anthropic PBC está advirtiendo a los inversionistas que su defensa abierta de la seguridad de la IA podría convertir a la compañía en blanco de represalias gubernamentales, y destaca el inusual grado de riesgo asociado al Gobierno para su futuro empresarial tras un año de enfrentamientos con la administración Trump. En vísperas de su histórica salida a bolsa, Anthropic señaló en un documento presentado ante las autoridades reguladoras que sus posturas sobre la supervisión de la IA y las opiniones expresadas por sus directivos podrían exponerla a una presión gubernamental considerable, aludiendo a las disputas de la empresa con funcionarios del gobierno de Trump sobre cómo desarrollar la tecnología de forma segura. ¿Por qué Anthropic teme represalias del Gobierno de Trump? “Hemos experimentado, y es posible que sigamos experimentando, una mayor visibilidad, y es posible que sigamos estando sujetos a un mayor escrutinio o al riesgo de ser objeto de un trato desproporcionado o selectivo por parte de determinados organismos gubernamentales, aun cuando otras compañías en situaciones similares no lo sean”, afirmó Anthropic en un folleto informativo que prepara el terreno para su salida a bolsa prevista para el próximo mes. Los comentarios, ocultos en lo más profundo del documento presentado este lunes, apuntaban a tensiones con la Administración que se remontan a una disputa a inicios de este año sobre las medidas de control del uso que el Pentágono hace de la tecnología de la compañía. Más recientemente, Anthropic se ha enfrentado a las autoridades sobre si su modelo avanzado Mythos era lo suficientemente seguro como para difundirlo públicamente, y su CEO, Dario Amodei, sigue en desacuerdo con el presidente Donald Trump por su apoyo a una ralentización coordinada del desarrollo de la IA para dar tiempo a los equipos de seguridad a ponerse al día con la tecnología.
Los inversionistas ahora deben decidir cómo valorar los riesgos normativos a los que se enfrenta una compañía cuya tecnología es lo suficientemente accesible como para promocionarse como un producto de uso cotidiano para el consumidor, pero a su vez lo suficientemente potente como para considerarse un arma cibernética y un posible catalizador de la guerra biológica, lo que justifica un escrutinio más minucioso. Para Anthropic, ese historial de enfrentamientos con el Gobierno se suma a la incertidumbre que se cierne sobre todo el sector de la inteligencia artificial. “En lo que respecta a la inteligencia artificial, aún se están definiendo los límites de la autoridad gubernamental, a veces a través de enfrentamientos directos con compañías individuales”, afirmó Sarah Kreps, directora del Tech Policy Institute de la Universidad de Cornell. “A los inversionistas les resulta difícil valorar ese tipo de incertidumbre”. Anthropic reveló en su folleto informativo varios posibles obstáculos relacionados con las autoridades, citando propuestas legislativas federales que van desde el cierre obligatorio de modelos hasta la nacionalización de las empresas de inteligencia artificial. Ver más: Anthropic aumenta su dependencia de Google, Amazon y Microsoft A inicios de este año, algunos responsables, entre ellos el vicepresidente JD Vance, propusieron la idea de recurrir a la Ley de Producción de Defensa, de la época de la Guerra Fría, para obligar a las compañías a revelar información y colaborar con los organismos de seguridad nacional, según informó anteriormente Bloomberg.
Anthropic detalló otros riesgos derivados de la intervención gubernamental que podrían afectar su trabajo en el desarrollo de IA, incluyendo la posibilidad de controles comerciales que excluyan a clientes extranjeros y consecuencias legales por incidentes en los que sus modelos funcionen incorrectamente. La compañía afirmó que tal vez no pueda “comprender o explicar completamente” el funcionamiento de los sistemas que está desarrollando y que seguirá presionando para que se implementen regulaciones que puedan obstaculizar su propio negocio. “Las medidas regulatorias o de otro tipo que defendemos, de ser adoptadas, nos afectarían y podrían incrementar nuestras obligaciones de cumplimiento, limitar la flexibilidad en el desarrollo o la implementación de nuestros productos, influir en cómo y cuándo desarrollamos o lanzamos nuevos modelos, o ralentizar nuestro crecimiento”, declaró la empresa. Anthropic además advirtió que la tecnología que está desarrollando podría representar una amenaza para la humanidad, reconociendo los temores apocalípticos compartidos por muchos investigadores de inteligencia artificial en Silicon Valley, pero desestimados como un “engaño” por Trump y sus aliados. Ver más: Detalles que debe saber si quiere invertir en Anthropic tras su salida al Nasdaq “Los sistemas avanzados de inteligencia artificial, si no se desarrollan, implementan y operan con las salvaguardas, la supervisión y las medidas de seguridad adecuadas, podrían plantear riesgos catastróficos o existenciales”, afirmó la compañía.
Las recientes medidas adoptadas por Anthropic para vincular sus modelos de inteligencia artificial a la investigación científica podrían dar lugar a restricciones destinadas a impedir la creación de armas biológicas letales, según ha señalado la empresa. Además, añadió que el uso indebido de sus modelos para llevar a cabo un ciberataque podría exponer a la compañía a responsabilidades legales y daños a su reputación. Tal y como demuestra la controversia con el Pentágono, el gobierno no es solo un organismo regulador, sino también un importante cliente de los productos de la empresa, lo que la expone todavía más a los caprichos de la administración. La compañía indicó que los contratos directos con organismos gubernamentales representaban alrededor del 1% de sus ingresos en cada uno de los periodos presentados en el informe, que se remonta a 2023. “Anthropic es un caso un tanto especial porque, en la administración Trump, numerosas medidas se implementan de forma caprichosa, y a Anthropic no se le está tratando igual que al resto”, afirmó William Reinsch, exsubsecretario de la Oficina de Industria y Seguridad, que se encarga de los controles de exportación.
La disputa con el Pentágono, desencadenada por la insistencia de Anthropic en aplicar medidas de seguridad adicionales a su tecnología, culminó en marzo con la declaración del secretario de Defensa, Pete Hegseth, de que la compañía suponía un riesgo para la cadena de suministro, lo que le impidió participar en proyectos militares. Aunque Anthropic ha presentado una demanda contra esta decisión, un tribunal de apelación de Washington ha ratificado los planes del Pentágono de eliminar a Claude de sus sistemas y exigir a los contratistas de defensa que hagan lo mismo. Las agencias civiles de otras áreas del Gobierno no están sujetas a la decisión de Hegseth. “No podemos estar seguros de que la resolución de estas demandas no afectará negativamente nuestra capacidad para vender a organismos públicos y a otros clientes que comercializan productos y servicios al gobierno de EE.UU., lo que, a su vez, podría afectar de manera negativa a nuestro negocio, nuestra situación financiera y nuestros resultados de operaciones”, afirmó Anthropic en su escrito. El modelo Mythos de Anthropic, de última generación, ha suscitado un mayor escrutinio por parte de la Administración Trump.
La compañía advirtió en abril que este modelo era tan eficaz a la hora de detectar vulnerabilidades informáticas que solo podía ser compartido con un reducido grupo de socios de confianza. Este avance llevó al secretario del Tesoro, Scott Bessent, a informar a las empresas de Wall Street sobre los posibles riesgos de piratería informática y, finalmente, llevó a Trump a firmar, el 2 de junio, una orden en la que se detallaba un sistema de evaluación voluntaria para los modelos de vanguardia. A las pocas semanas, tras un desacuerdo con el Gobierno sobre la seguridad del nuevo sistema, el Ministerio de Comercio impuso temporalmente controles a la exportación de Mythos 5 y de una oferta similar destinada al consumidor conocida como Fable 5, lo que obligó a la compañía a desactivar temporalmente todo acceso a dichos productos. Las restricciones a la exportación se levantaron dos semanas después, tras resolverse la preocupación de la compañía sobre una vulnerabilidad que permitiría a los usuarios de Fable acceder a las funcionalidades de Mythos, pero Anthropic advirtió en su folleto que los futuros controles a la exportación podrían no levantarse en un plazo similar, y que su crecimiento futuro “necesitará” una expansión global.
A partir de ese momento, la administración ha intensificado su enfoque en la seguridad de la inteligencia artificial. El mes pasado, Trump convocó a más de dos docenas de líderes de Silicon Valley a la Casa Blanca, donde persuadió a desarrolladores de IA, entre ellos Amodei, para que firmaran un acuerdo voluntario que exige a las compañías que revisen la estructura de sus juntas directivas, incorporen equipos de seguridad especializados y realicen auditorías independientes de los modelos. Días después, funcionarios de la administración Trump lanzaron amenazas legales a través de la Comisión Federal de Comercio, sugiriendo que las compañías que infringieran dicho acuerdo podrían enfrentar consecuencias. Dicha medida planteó la posibilidad de una intervención gubernamental, pero no eliminó la incertidumbre como lo harían las regulaciones formales.
El interés cada vez mayor de los funcionarios estadounidenses, en especial de la administración Trump, por controlar mejor a las empresas de inteligencia artificial ya no tiene precedentes. Resulta todavía más inusual que la compañía que ha estado en el centro de la mayoría de estos debates salga a bolsa en medio del confuso intento de Estados Unidos de regular una industria que todavía está en sus inicios. “No sabemos en qué tipo de instituciones se convertirán finalmente Anthropic y otras compañías líderes en inteligencia artificial”, señaló Matt Pearl, exdirector del Consejo de Seguridad Nacional de la Casa Blanca y actual responsable de un programa de tecnologías estratégicas en el Centro de Estudios Estratégicos e Internacionales. “Jamás había visto una situación en la que la forma definitiva de una gran empresa y su relación fundamental con el Gobierno estuvieran tan en el aire”. Lea más en Bloomberg.com
