Bloomberg — Greg Brockman, presidente y cofundador de OpenAI, defendió que cualquier ralentización en el desarrollo de la inteligencia artificial debería limitarse a empresas como la suya, que están creando los modelos más potentes. “Mucha gente reacciona diciendo: “Bueno, ¿podré seguir creando mi modelo de código abierto? ¿Podré seguir dedicándome a mi proyecto paralelo como afición?”. Y la respuesta debería ser un sí rotundo", afirmó Brockman en el podcast Odd Lots de Bloomberg. “Cuando hablamos de ritmo, en realidad nos referimos a esta frontera. Nos referimos a esos superordenadores gigantescos que suponen un gasto de capital de cientos de miles de millones de dólares”. Brockman se pronunció en una entrevista antes de la entrada de blog publicada el sábado por el CEO de Anthropic PBC, Dario Amodei, sobre los riesgos crecientes de la IA, en la que se comprometió a ralentizar el ritmo de desarrollo de los modelos avanzados.
El CEO de OpenAI, Sam Altman, respaldó rápidamente el llamamiento de Amodei a contar con evaluadores independientes. Altman también afirmó en una entrevista durante el fin de semana que su empresa no saldría a bolsa este año, ya que debe abordar cuestiones relacionadas con la seguridad. La entrada de Amodei se produce en un momento en que el sector advierte cada vez con mayor insistencia de que el rápido ritmo de desarrollo de la IA podría suponer riesgos para la sociedad. Las restricciones propuestas por los laboratorios punteros de IA provocaron una caída de las acciones el lunes, ya que a los inversores les preocupa que tales decisiones limiten el gasto empresarial en un sector que ha impulsado gran parte del repunte del mercado.
En la entrevista, Brockman señaló que OpenAI había reducido la frecuencia con la que entrena sus modelos de IA tras el reciente ataque a Hugging Face, en el que los agentes autónomos de OpenAI irrumpieron en los servidores de otra empresa durante unas pruebas. Según Brockman, ese caso “no fue una sorpresa” para OpenAI, ya que dichos agentes no habían pasado por el “entrenamiento de alineación” de la empresa —un término del sector que hace referencia a los protocolos destinados a garantizar la seguridad—. No obstante, Brockman afirmó que el episodio impulsó a OpenAI a mejorar sus medidas de seguridad internas. “Llevamos a cabo una reestructuración muy dolorosa de muchos de nuestros procesos” a raíz de lo sucedido, afirmó. OpenAI y Anthropic han sido objeto de críticas por abogar por una regulación más amplia y por pausas en la actividad relacionada con la IA como forma de socavar a los competidores que desarrollan alternativas de código abierto.
Muchos de estos modelos proceden de China, cuyos rápidos avances en IA son objeto de especial atención por parte de la administración estadounidense. Al ser preguntado sobre China, Brockman propuso el concepto de “coordinación” global y la firma de tratados internacionales sobre el desarrollo a largo plazo de la IA. A medida que avance la tecnología de la IA, el sector iría más allá de “una fase comercial que, en realidad, gira en torno a la competencia”, afirmó Brockman. Habrá una fase en la que la propia tecnología será “mucho más grande que cualquier persona, cualquier empresa e incluso cualquier país”, añadió. “En realidad, se trata de la humanidad en su conjunto”. -Con la colaboración de Tracy Alloway y Joe Weisenthal.
Lea más en Bloomberg.com