En lugar de la supuesta amenaza de agentes de inteligencia artificial descontrolados que nos maten a todos, Pekín tiene una pesadilla más inmediata: que la tecnología pueda ayudar a los humanos a destruir la sociedad antes. Después de que Silicon Valley dedicara la semana pasada a avivar los temores de que la IA destruya a la humanidad, China rechazó lo que considera una campaña de alarmismo. El ministro de Seguridad del Estado, Chen Yixin, publicó un ensayo el domingo que ofrece una visión de algunos de los mayores temores del país. No menciona la extinción humana.
La principal preocupación es cómo la tecnología podría arruinar la estabilidad social mediante deepfakes, operaciones de influencia y guerra cognitiva a gran escala. En segundo lugar, se encuentran las ciberamenazas que podrían facilitar enormemente la recopilación de información sensible y personal. Un episodio reciente sugiere que estos dos riesgos podrían ir de la mano. A principios de este mes, un pequeño equipo de investigadores de ciberseguridad en California publicó hallazgos que demostraban cómo habían logrado simular una importante brecha de seguridad en WeChat, la superaplicación que, en esencia, funciona como la infraestructura digital crítica para la vida cotidiana en China.
Calif, la empresa con sede en Palo Alto que publicó la llamada amenaza “WeWorm”, confirmó que Tencent Holdings Ltd., la empresa matriz de WeChat, ha mitigado el riesgo. Sin embargo, su demostración es lo suficientemente inquietante como para quitarle el sueño a los funcionarios de Pekín: el equipo detalló cómo podían usar herramientas de IA para crear un fallo capaz de tomar el control total de una cuenta de WeChat en segundos. Un usuario común solo ve una llamada entrante de alguien de su lista de contactos. Aun así, hay motivos para la esperanza.
La divulgación de información a Tencent se desarrolló sin problemas y no hubo contratiempos técnicos, según me comentó Bruce Dang, de California, por correo electrónico, añadiendo que los ingenieros respondieron con prontitud y que los problemas se solucionaron rápidamente. Un desastre que podría haber desestabilizado una plataforma utilizada por más de mil millones de personas para gestionar negocios, pagar bienes y comunicarse se evitó gracias a la rápida colaboración transfronteriza. En una entrada de blog, Thai Duong, director ejecutivo de Calif, describió el experimento como un llamado a Estados Unidos, China y otros gobiernos para que colaboren con la industria privada en el desarrollo e implementación segura de la IA. En particular, añadió que culpar a la IA y frenar su desarrollo es un error.
Las vulnerabilidades ya existen; lo que ha cambiado es que la IA puede detectarlas y corregirlas. En otras palabras, el caso de WeChat no busca ralentizar el avance, sino convertir la transparencia en una vía viable y políticamente aceptable en Washington y Pekín. A pesar de las crecientes advertencias apocalípticas provenientes de Silicon Valley, el presidente Xi Jinping enfatizó la propuesta de Beijing de un “ecosistema abierto para la IA” durante su intervención en la cumbre de los BRICS en Nueva Delhi el domingo. Xi abogó por un marco de gobernanza “basado en el consenso”, lo que significa que no es solo Estados Unidos quien decide las reglas.
Esto concuerda con la postura de su principal funcionario de inteligencia, Chen, quien simultáneamente pidió cooperación global en materia de riesgos, evitando al mismo tiempo que un solo país monopolice el poder de la IA (una crítica velada a Estados Unidos). Es probable que Beijing no acepte una pausa impuesta por Washington, pero si quiere liderar el mundo en esta tecnología, debe estar dispuesto a colaborar con otras naciones en las amenazas en las que ambas partes puedan estar de acuerdo. Si bien esto podría no detener la carrera, representa un pequeño paso hacia una competencia mucho más segura. El último lema de seguridad en EE.UU. es la frase increíblemente vacía “avanzar a paso firme”, una propuesta llena de jerga de Dario Amodei, de Anthropic PBC, que obtuvo un inusual respaldo de Sam Altman, de OpenAI, y Elon Musk, de xAI.
Una declaración que apoya este concepto ha acumulado más de mil firmas de casi todas las empresas líderes de IA de Silicon Valley. Pero pocos parecen saber qué significa realmente. Si les preocupa legítimamente que la IA auto-mejorada acabe con la humanidad, los vagos llamamientos a frenar su avance son una respuesta notablemente débil. Aun así, a estas empresas les convendría invertir menos recursos en intentar crear una máquina todopoderosa y más en garantizar que sus productos no se utilicen de forma indebida.
No pueden lanzar ciberarmas y, al mismo tiempo, vender sistemas de defensa. En lugar de un supuesto ritmo de desarrollo de la IA a su antojo, los responsables políticos deben exigir la máxima transparencia sobre los riesgos que perciben actualmente, no divulgaciones meses después de un incidente. Cabe destacar que el propio Amodei respaldó esta postura en su manifiesto de más de 3.800 palabras, publicado después de que uno de sus empleados renunciara y alertara de que quienes desarrollan la IA creen que podría “acabar con todos nosotros”. Independientemente de los compromisos que asuman, Amodei afirmó: “El público merece saber qué está pasando”.
Y tiene razón. Puede que Pekín y Washington no se pongan de acuerdo en muchos aspectos de la gobernanza de la IA. Sin embargo, el caso de WeChat demuestra que es posible compartir riesgos entre países. La IA ya ha transformado internet y la privacidad tal como la conocemos.
Imaginemos un ciberataque que expusiera todas nuestras comunicaciones privadas y el caos que desataría en empresas y comunidades. Crear canales para que investigadores y empresas compartan sus observaciones e identifiquen amenazas emergentes mitigará, en cierta medida, las tensiones y abrirá la puerta a debates más complejos. Si Estados Unidos y China no pueden cooperar ante los peligros que ya se vislumbran, hay pocas esperanzas de que logren gestionar aquellos que, según advierten los propios creadores de la IA, podrían suponer el fin de todos nosotros. Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com