Bloomberg — Los gigantes del sector de la inteligencia artificial se reunieron en Escocia para escuchar cómo el monarca británico les instaba a controlar sus inventos. El rey Carlos III convocó a líderes tecnológicos y otras figuras influyentes a una cumbre centrada en los crecientes riesgos de la IA, un tema que ha acaparado la atención mundial esta semana. Aunque los ejecutivos presentes no se comprometieron públicamente a introducir ningún cambio, algunos abordaron directamente las preocupaciones en materia de seguridad. “Quienes desarrollamos IA debemos someter los sistemas a pruebas rigurosas”, afirmó Jensen Huang, CEO de Nvidia Corp. (NVDA), en unas breves declaraciones realizadas el jueves durante el acto real. “Cuando un producto no sea lo suficientemente seguro, debemos retrasar su lanzamiento”. Junto a Huang en Escocia se encontraban la directora financiera de OpenAI, Sarah Friar, y el cofundador de Google DeepMind, Demis Hassabis.
El director de relaciones públicas de Anthropic PBC, Tino Cuéllar, también participó en el foro sobre IA celebrado en Dumfries House, junto con líderes de otras empresas tecnológicas, organizaciones sin ánimo de lucro e instituciones educativas, entre ellas la Universidad de Tsinghua de Pekín. “Aquellos en nuestro mundo que valoran nuestra humanidad y su componente moral fundamental buscan con ansiedad su garantía de que no perderemos el control de nuestro destino”, afirmó el rey en su discurso de apertura. El encuentro se organizó con el fin de debatir cómo se podría “aprovechar esta tecnología de manera que beneficie a la sociedad y al mundo natural”, según indicó el Palacio de Buckingham en un comunicado. El evento resulta oportuno. El CEO de Anthropic, Dario Amodei, desencadenó un debate mundial sobre los riesgos cada vez mayores de la IA en un artículo publicado este fin de semana en el que pedía que se ralentizara el desarrollo de modelos de vanguardia.
El CEO de OpenAI, Sam Altman, se mostró de acuerdo con las conclusiones del artículo, mientras que Hassabis lo describió como el “camino correcto a seguir”. Por su parte, Huang, de Nvidia, se mostró en desacuerdo con una ralentización o una mayor regulación. Durante la última semana, dos investigadores en IA dimitieron de Google DeepMind y de Anthropic, alegando que la tecnología podría resultar letal. Esas preocupaciones han provocado inquietud entre los legisladores y la opinión pública en general a nivel internacional.
El primer ministro del Reino Unido, Andy Burnham, se encuentra bajo presión por parte de los diputados de su propio Partido Laborista, en el poder, para que aclare mejor la política del país en materia de IA. Las autoridades chinas han rechazado el “alarmismo” de Amodei y, al mismo tiempo, han advertido sobre los peligros de la IA en los últimos días. Si bien el presidente de EE.UU., Donald Trump, se ha mostrado en contra de cualquier ralentización, legisladores de ambos partidos han planteado medidas para abordar la seguridad de la IA y los votantes están cada vez más preocupados por esta tecnología. Ver más: Jefe de IA de Microsoft advierte sobre los riesgos de dar rasgos humanos a Claude “Últimamente ha habido, por así decirlo, un acalorado debate sobre el riesgo catastrófico de esta tecnología”, afirmó Hassabis en la cumbre.
El científico británico, que recientemente ha dimitido de su cargo al frente de las operaciones de IA de Google, señaló que tenía dos preocupaciones principales respecto a la IA potente: los sistemas autónomos que se comportan de forma indebida y los “actores malintencionados” que los utilizan con fines perversos. Se mostró convencido de que el sector podría abordar estas preocupaciones. “Creo firmemente en el ingenio humano”, afirmó. En la cumbre, el rey Carlos planteó dos preguntas clave: “En primer lugar, ¿cómo podemos aprovechar los beneficios de la IA, dando prioridad a la seguridad? Y, en segundo lugar, ¿cómo podemos fomentar la cooperación y el consenso internacionales para lograrlo, de modo que ninguna nación se quede atrás y se proteja el futuro de la humanidad?”.
Durante la cumbre, el rey Carlos mantuvo una reunión privada con Huang, Hassabis, Cuéllar, Friar y otros cinco invitados, según el programa distribuido en el evento. Entre los asistentes se encontraban el teólogo católico Paolo Benanti y el informático británico Stuart Russell, quien se ha mostrado crítico con las empresas tecnológicas. También asistieron el ministro de IA del Reino Unido, Kanishka Narayan; la secretaria del Gabinete, Antonia Romeo; y James Arroyo, director de la Fundación Ditchley, que colaboró en la organización del evento. El monarca ya se ha pronunciado públicamente sobre la IA, advirtiendo en la primera Cumbre sobre Seguridad de la IA del Reino Unido, celebrada en 2023, que es necesario abordar con urgencia los riesgos de esta tecnología.
Asimismo, ha expresado en repetidas ocasiones su preocupación por el cambio climático. Las emisiones de las mayores empresas tecnológicas se han disparado al recurrir a centros de datos que consumen mucha energía, algunos de los cuales dependen de fuentes de combustibles fósiles. El monarca no abordó este tema en su discurso preparado. El Parlamento de Escocia votó el miércoles a favor de endurecer la normativa sobre la construcción de nuevos centros de datos, lo que sitúa a Edimburgo en una situación de enfrentamiento con el gobierno del Reino Unido después de que Burnham rechazara la idea de una moratoria sobre la construcción.
Los legisladores escoceses afirmaron que las nuevas solicitudes para centros de datos deberían someterse a evaluaciones de su impacto en el medio ambiente. El debate en el Reino Unido se hace eco de las preocupaciones a nivel mundial sobre el impacto que tienen en el medio ambiente y en los costes energéticos los centros de datos que albergan y entrenan sistemas de inteligencia artificial. Lea más en Bloomberg.com