Bloomberg — Altos funcionarios de la administración Trump se reunieron el martes con el principal ejecutivo de Anthropic PBC en Washington para discutir los riesgos de seguridad de la inteligencia artificial. Según personas familiarizadas con el asunto, Tom Brown, director de informática de Anthropic, quien se ha convertido en la cara visible de la empresa en Washington, habló virtualmente con Emil Michael, director de tecnología del Pentágono, y con Howard Lutnick, secretario de Comercio. Anthropic declinó hacer comentarios. La Casa Blanca no respondió a la solicitud de comentarios.
Las tensiones entre Anthropic y la administración se reavivaron tras la publicación el sábado de un ensayo de 3.800 palabras por parte del CEO de la compañía, Dario Amodei, quien pidió regulación gubernamental e instó a ralentizar el desarrollo de los sistemas de IA más avanzados para que los investigadores puedan comprender mejor las amenazas potenciales. La misiva de Amodei, que fue rápidamente respaldada por sus rivales, el CEO de OpenAI, Sam Altman, y el CEO de SpaceXAI, Elon Musk, provocó una reacción vehemente por parte del presidente Donald Trump. Este desestimó los temores sobre los riesgos de la IA calificándolos de «engaño» y rechazó la idea de nuevas normas. La preocupación por los riesgos potenciales de los modelos de IA de vanguardia se generalizó la semana pasada tras la sonada dimisión del investigador de Anthropic, Jacob Coxon, quien acusó a las empresas de IA de “jugar con nuestras vidas” en una carta de renuncia que compartió en las redes sociales.
Michael, quien ha liderado los esfuerzos del Pentágono para acelerar la adopción de la IA en todo el ejército, ha rechazado públicamente la afirmación de Coxon de que la IA podría acabar con toda la humanidad, mientras que Lutnick está decidido a contrarrestar los mensajes negativos sobre la tecnología de cara a las elecciones de mitad de legislatura de noviembre, según personas familiarizadas con el asunto. Las relaciones entre Anthropic y el gobierno estadounidense se han visto tensas tras un desacuerdo a principios de este año con el Departamento de Comercio sobre la seguridad de sus modelos avanzados de IA Mythos y Fable, y un desencuentro con el Pentágono sobre el uso de su tecnología en operaciones militares. Michael ayudó a liderar las negociaciones con la empresa sobre el uso militar de su tecnología, pero dichas conversaciones fracasaron cuando el Pentágono rechazó las condiciones de Anthropic, calificándolas de vulneración de la autoridad militar. A continuación, incluyó a la empresa en una lista negra, declarándola una amenaza para la cadena de suministro de EE.UU.
Anthropic sigue inmersa en un proceso judicial activo contra el Pentágono en un tribunal de Washington por su inclusión en la lista negra. Brown apareció en la escena política de Washington a principios de este verano, al frente de unas negociaciones de alto riesgo con funcionarios estadounidenses para levantar los controles de exportación impuestos a los modelos de IA más avanzados de Anthropic. Logró su objetivo y habló públicamente junto a Lutnick en una cumbre del G-20 centrada en la tecnología a principios de este mes, en la que se encargó de elogiar el apoyo de Trump a los centros de datos. En una entrevista concedida a Bloomberg Television desde la barrera, Lutnick afirmó que la empresa había “recapacitado” y había mejorado su relación con el gobierno, aunque el Pentágono declaró posteriormente que su propia lista negra contra la empresa seguía vigente.
Es probable que Brown se enfrente ahora a otro desafío complejo: aliviar la tensión con los funcionarios estadounidenses en materia de seguridad de la IA en un momento en que el presidente rechaza dichas preocupaciones. Trump afirmó el lunes en una publicación en su red social Truth que su presidencia es la única salvaguarda necesaria para la IA. Añadió que frenar la IA es una mala idea que solo beneficiaría a adversarios de Estados Unidos como China. Lea más en Bloomberg.com