Bloomberg — Donald Trump rechazó los llamamientos a alcanzar un acuerdo mundial para establecer medidas de control sobre el desarrollo de la IA, y restó importancia a las preocupaciones sobre los peligros de que los modelos de vanguardia se salgan de control. Pese a las advertencias de Antonio Guterres, secretario general de la ONU, de los líderes del Reino Unido, Francia y Canadá, e inclusive de los principales laboratorios de IA, el presidente estadounidense afirmó que las instituciones actuales de su país serán capaces de mitigar cualquier riesgo. “EE.UU. también rechaza rotundamente cualquier intento de construir un plan globalista para controlar la IA”, declaró Trump durante su discurso ante la Asamblea General de las Naciones Unidas en Nueva York. “No voy a frenar el crecimiento de algo que será más importante que la revolución industrial”. La ONU y otros países piden controles para la IA Los líderes mundiales se dieron cita en Nueva York para la reunión anual de la ONU en un momento de creciente inquietud respecto a la IA, después de que investigadores de las compañías desarrolladoras más avanzadas advirtieran de que la tecnología podría acabar con la humanidad si no se somete a los controles adecuados. Durante su discurso de despedida ante la Asamblea de la ONU, Guterres abogó por una regulación internacional para evitar un futuro distópico caracterizado por un poder corporativo desenfrenado y máquinas autónomas letales impulsadas por la IA. “Está avanzando a una velocidad extraordinaria y se adelanta a nuestra capacidad para comprender todas sus consecuencias”, afirmó en el discurso de apertura de la sesión. “Los robots asesinos no deben tener cabida en nuestro futuro”.
Tras una década al frente de la ONU, este hombre de 77 años esbozó una visión sombría de un mundo asolado por la guerra y el hambre “usada como arma”, un cambio climático cada vez más acelerado y un respeto cada vez menor por los derechos humanos y el Estado de derecho. Destacó la IA y la carrera armamentística de los centros de datos como la fuerza determinante en un período de cambios dramáticos y, en una alusión a EE. UU. y China, pidió que se establezcan medidas de control para garantizar que la tecnología pueda desarrollarse de manera segura. “Los gobiernos con mayor capacidad en materia de IA tienen la mayor responsabilidad ante la humanidad de establecer canales de diálogo, transparencia, confianza y cooperación”, afirmó. OpenAI, que inauguró la era de la inteligencia artificial con el lanzamiento de ChatGPT en 2022, pidió este lunes que se establezcan normas acordadas a nivel internacional para garantizar que la IA pueda desarrollarse de forma segura.
También este lunes, el grupo de expertos en IA de la ONU publicó un informe en el que advertía de que los modelos, cada vez más capaces, podrían escapar al control humano, y los líderes de más de 20 países y de la UE pidieron que se hicieran pruebas de seguridad obligatorias de los modelos avanzados de IA y, posiblemente, la creación de una nueva institución global para garantizar que los seres humanos mantengan el control. El papa León afirmó en mayo que la IA debería ser “desarmada” para proteger a la humanidad, una advertencia de la que se han hecho eco el primer ministro de Canadá, Mark Carney, y el presidente de Francia, Emmanuel Macron. El CEO de OpenAI, Sam Altman, y Dario Amodei, su homólogo de Anthropic, tienen previsto intervenir ante el Consejo de Seguridad de la ONU este miércoles y asistirán este jueves a una cena de Estado en la Casa Blanca en honor del presidente chino, Xi Jinping. El rápido desarrollo de la inteligencia artificial es uno de los temas que probablemente se tratarán en la reunión de Xi con el presidente Donald Trump, que tendrá lugar a primera hora de ese mismo día.
Al margen de la reunión de la ONU, el primer ministro Andy Burnham comunicó a un grupo de líderes empresariales que tiene previsto aprovechar el papel del Reino Unido como anfitrión del G-20 en 2027 para impulsar un “conjunto único de principios y normas globales” en torno a la IA. Entre los asistentes se encontraban el presidente de Apple Inc. (AAPL), Tim Cook, y Ruth Porat, directora de inversiones de Alphabet Inc. (GOOGL). Trump, no obstante, es una excepción clave. “Debemos ser cautelosos”, afirmó. “Las fuerzas del orden pondrán freno a la situación si es necesario, pero nosotros solo fomentaremos la superinteligencia. Vamos a fomentarla, no a frenarla”.
Una enorme oleada de inversión en infraestructuras de inteligencia artificial ha llevado al S&P 500 a máximos históricos en 2026 y ha contribuido a sostener el crecimiento económico en EE.UU. de cara a las elecciones de mitad de mandato de noviembre. Guterres, por su parte, lleva advirtiendo sobre la inteligencia artificial prácticamente durante todo su mandato. Durante su primer discurso ante la Asamblea General en 2017, afirmó que la tecnología podría “impulsar el desarrollo y transformar vidas de manera espectacular”, sin emabrgo, también podría tener un impacto drástico en los mercados laborales, la seguridad mundial y “el propio tejido social”. Nueve años más tarde, su mensaje se ha vuelto más urgente.
Esos riesgos se extienden ahora más allá del empleo y la desigualdad, hasta abarcar modelos cada vez más autónomos que se comportan de formas imprevistas y el uso de la inteligencia artificial para facilitar ciberataques o el desarrollo de armas biológicas. “El peligro no es la tecnología; el peligro es la tecnología sin rendición de cuentas”, afirmó. “Los seres humanos están cediendo cada vez más poder a las máquinas, con agentes de IA que se rebelan y armas autónomas letales que pasan de la ciencia ficción a la realidad militar”. Lea más en Bloomberg.com