Anthropic urge a desacelerar el desarrollo de nuevos modelos de IA hasta tanto se implementen rigurosas salvaguardas, aunque hay puntos a tomar en cuenta. En un posteo de blog publicado el jueves la compañía citó sus propios datos internos como evidencia de que los sistemas modernos de IA se acercan al punto de “automejora” de recursos”, es decir, de tener la capacidad de refinar su capacidad sin participación de un humano. “La IA que pueda construirse a sí misma sería el desarrollo más importante en la historia de la tecnología, que podría significar cosas enormemente buenas para todo el mundo en ciencias, atención de la salud, y más aspectos”, dice el posteo escrito por el cofundador de Jack Clark y la líder del Anthropic Institute Marina Favaro. “Pero el automejora recursivo también podría aumentar los riesgos de que los humanos pierdan el control sobre los sistemas de IA”. El posteo sugiere que la mejor forma de eludir esos riesgos sería una pausa mundial, algo parecido al desarme de la era de la Guerra Fría y los pactos de no proliferación en que los países como EE.UU. y Rusia acordaron limitar sus programas de armamento nuclear para evitar lo que se dio en llamar Destrucción Mutuamente Asegurada (MAD, en inglés). “Si fuera posible efectivamente desacelerar el desarrollo de esta tecnología para darnos a nosotros mismos más tiempo para resolver sus inmensas implicancias, pensamos que sería algo positivo”, escribieron los autores del posteo. Si todo esto te suena conocido, no es una alucinación.
Ya en 2023 la organización sin fines de lucro Future of Life Institute publicó una carta abierta convocando a todos los laboratorios de IA a instaurar una pausa de seis meses en el desarrollo de potentes nuevos modelos. Firmaban la carta Elon Musk, el pionero investigador de IA Yoshua Bengio, el cofundador de Apple Steve Wozniak, y decenas de miles más. Aunque esa carta y las celebridades firmantes lograron dar inicio a la conversación pública sobre los riesgos de una industria de la IA impulsada por la ciega lógica capitalista, no se implementaron políticas firmes para que esa pausa de seis meses se concretara. Pocos meses después de su publicación, Musk lanzó públicamente su propia startup de IA para competir con OpenAI, Anthropic, Google y otros grandes laboratorios.
La encrucijada Vale señalar el lenguaje extremadamente guardado que usa Anthropic en su posteo: Si fuera posible… pensamos que…. Probablemente…. Suena más a sugerencia que a un llamado a la acción con compromiso. Eso podría tener algo que ver con la encrucijada en la que se encuentra hoy la compañía.
Desde los inicios Anthropic se ha construido un lugar de algo así como la conciencia moral de la industria, un gran jugador dedicado a construir la IA con cautela y si es necesario, poco a poco para prevenir el tipo de situación desfavorable de una IA que los autores de ciencia ficción, los filósofos y muchos líderes de grandes laboratorios de IA temían desde hace mucho tiempo. Esa postura orientada a la seguridad claramente ha rendido sus frutos. Aunque sus chatbots Claude siguen estando por detrás de las descargas de la app ChatGPT de OpenAI, sus herramientas se han hecho tremendamente populares entre los desarrolladores web y los clientes comerciales, ambos sectores entre los que son clave en esta industria. Y ese es uno de los grandes factores que hicieron que eclipsara a OpenAI como startup de mayor valor en el mundo.
Pero también, la compañía está a punto de cotizar en la Bolsa de Valores, tras lo cual se le requerirá hacer lo que sea mejor para sus accionistas, como sucede con todas las compañías que comercializan acciones. Al menos en este momento del boom de la IA, pisar el freno no sería lo que pudieras considerar una estrategia financiera ganadora a largo plazo. Los que critican el argumento de la desaceleración suelen decir que con lo que está en juego en la carrera de la IA en términos económicos y geopolíticos, es muy improbable que EE.UU., China y otros países acuerden pausar el desarrollo, y que si lo hicieran sería imposible que se implemente esa desaceleración. Incluso, y peor todavía, si los desarrolladores de EE.UU. acordaran desacelerar, quedaría tal vez abierta la puerta para que otros desarrolladores no tan bien intencionados o éticos tomaran la delantera, algo que sería perjudicial para todos.
Clark y Favaro dicen en su posteo que “si la desaceleración simplemente permite que los actores menos prudentes avancen tecnológicamente, todos sufriríamos un deterioro en la seguridad”. Para que sea efectiva la desaceleración, dicen Clark y Favaro, no solo tendría que haber un acuerdo unilateral de los desarrolladores de IA de todo el mundo sino además un mecanismo global que pudiera verificar que en verdad cada laboratorio ha pausado el desarrollo, dando una señal de alarma si se detectara que alguno no está cumpliendo con esa pausa. Surgen entonces más preguntas que respuestas porque no queda claro cómo sería un sistema de supervisión en la práctica. En la era de la Guerra Fría los acuerdos nucleares podrían servir como hoja de ruta, pero no se trata de un juego en que los actores estén parejos. “El entrenamiento se hace con mucha facilidad, y no se parece en nada a esconder misiles en silos”, reconoce el posteo (tampoco hay que olvidar que a pesar de los acuerdos internacionales postguerra para evitar la proliferación de armas nucleares, las potencias nucleares como EE.UU., China y Rusia volvieron a trabajar en el avance de sus arsenales nucleares).
El posteo del blog señala que en los próximos meses Anthropic planea reunirse con legisladores, competidores y otros actores en la industria para conversar sobre estos desafíos. Esperan trabajar en conjunto para construir sistemas de supervisión que sirvan para que la pausa se pueda implementar. Y tal vez, con un ojo puesto en sus futuros accionistas, la compañía brinda lo que suena a compromiso a medias: “Si existieran esos sistemas, esperamos que se pudiera desacelerar o pausar temporalmente el desarrollo, si es que otros desarrolladores que estén en el mismo nivel, o cerca, lo hicieran también de manera verificable”.