Bloomberg — Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic PBC, instaron a los líderes mundiales a colaborar en materia de inteligencia artificial durante una comparecencia extraordinaria ante el Consejo de Seguridad de las Naciones Unidas, centrada en la preocupación por los riesgos existenciales que esta tecnología plantea para la humanidad. Durante sus intervenciones, Altman y Amodei destacaron la importancia de la cooperación global en materia de estándares para abordar la posibilidad de que los sistemas de IA adquieran la capacidad de mejorar por sí mismos y superen la capacidad humana para controlarlos. Los ejecutivos, cuyas empresas desarrollan los modelos de IA más avanzados del mundo, afirmaron que los gobiernos deberían sumarse a la industria en la toma de decisiones cruciales sobre el futuro de esta tecnología. “Ha habido ocasiones en que países que compiten entre sí y no siempre se llevan bien, aun así se unen por intereses comunes y el bien común frente a una nueva tecnología poderosa”, dijo Altman. “Creemos que este debe ser uno de esos momentos”. La reunión del Consejo de Seguridad celebrada el miércoles tuvo lugar al margen de la Asamblea General de las Naciones Unidas en Nueva York, donde el debate sobre la inteligencia artificial y sus peligros ocupó un lugar central en los discursos de los jefes de Estado y altos diplomáticos.
En su discurso de apertura, el secretario general de la ONU, Antonio Guterres, instó a los líderes mundiales a coordinarse en torno a los denominados modelos de IA de vanguardia y señaló a la ONU como vehículo para respaldar dichos esfuerzos. En su intervención, el presidente Donald Trump rechazó los llamamientos a regular la IA calificándolos de “plan globalista”. Para Altman y Amodei, la reunión supuso una aparición inusual para dos hombres cuyas empresas compiten por el liderazgo en una tecnología que promete transformar la economía mundial y traer una nueva ola de riqueza a Silicon Valley. Tanto OpenAI como Anthropic tienen previsto salir a bolsa en los próximos meses, lo que podría valorar a cada una de ellas en casi un billón de dólares.
En sus declaraciones, transmitidas por videoconferencia, Amodei afirmó que la IA promete importantes beneficios para la ciencia y la salud, pero también conlleva consecuencias potencialmente catastróficas. Citó la posibilidad de que los terroristas utilicen la IA para crear armas biológicas letales y la posibilidad de que los modelos se vuelvan demasiado poderosos para que sus desarrolladores puedan controlarlos, e instó a los gobiernos a adoptar estándares de seguridad internacionales. “A pesar de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza global que se nos presenta simultáneamente”, declaró Amodei. “Ningún líder, ninguna empresa ni ninguna nación puede gestionar esto por sí sola”. La preocupación por los riesgos de la IA irrumpió en la opinión pública a principios de este mes tras un ensayo de 3.800 palabras de Amodei, quien instaba a frenar el desarrollo de los sistemas más avanzados para que los investigadores pudieran comprender mejor las posibles amenazas. Su mensaje fue rápidamente respaldado por Altman y el CEO de SpaceXAI, Elon Musk, y fue citado por legisladores en Washington que han propuesto diversas medidas relacionadas con la seguridad de la IA.
También compareció ante el Consejo de Seguridad el CEO de Hugging Face Inc., Clement Delangue, cuya empresa fue objeto de un ataque por parte de un enjambre de agentes de IA de OpenAI que pasaron desapercibidos mientras colaboraban para violar la seguridad del sitio web de la empresa. El ataque a Hugging Face y una serie de incidentes similares contribuyeron a desencadenar un debate global más amplio sobre los riesgos de que los sistemas de IA lleguen a ser tan poderosos que puedan eludir el control humano. Aunque Delangue afirmó que su empresa fue víctima del ataque de julio, advirtió contra las reacciones exageradas ante este tipo de incidentes. “Creemos firmemente que las narrativas basadas en el miedo no son la manera de tomar las decisiones correctas sobre el futuro de una tecnología tan fundamental y poderosa, ni de lograr el apoyo del público”, declaró. “Fuimos atacados por la IA, pero, lo que es más importante, nos defendimos con la IA”. Los ejecutivos se dirigieron al Consejo de Seguridad, compuesto por 15 miembros, horas antes de que Trump recibiera a su homólogo chino, Xi Jinping, en Washington para una cumbre crucial donde la inteligencia artificial ocupará un lugar central en la agenda.
Funcionarios de Estados Unidos y China han estado trabajando en un acuerdo para establecer un diálogo sobre IA entre las dos mayores economías del mundo, inmersas en una fuerte competencia por el liderazgo global en esta tecnología. Durante su discurso del martes ante los líderes mundiales en la ONU, Trump desestimó los temores existenciales sobre la IA expresados por investigadores de Silicon Valley, calificándolos de “farsa”, y rechazó la idea de una mayor coordinación internacional. Sus comentarios contrastaron marcadamente con los llamamientos de otros líderes mundiales a colaborar para abordar los riesgos para la seguridad y las consecuencias económicas de la IA. Altman, durante su comparecencia ante el Consejo de Seguridad, trató de encontrar un término medio en la cuestión de si se debe frenar el avance de esta tecnología.
Identificó una “vía pragmática” entre quienes advierten de un futuro apocalíptico a causa de la IA y quienes restan importancia a los posibles riesgos, y se unió a Amodei para subrayar la necesidad de una notificación rápida de los incidentes. “Todos saldremos beneficiados si logramos ponernos de acuerdo sobre qué constituye evidencia sólida, salvaguardias efectivas y una supervisión rigurosa a nivel global”, declaró Altman. “No tenemos todas las respuestas y estamos abiertos a considerar cualquier idea mejor. Estamos dispuestos a colaborar con todos ustedes y a esforzarnos al máximo para encontrar el camino a seguir”. --Con la colaboración de Rachel Metz. Lea más en Bloomberg.com