Durante años, el desarrollo de la inteligencia artificial estuvo dominado por una idea sencilla: avanzar más rápido significaba conseguir sistemas más capaces. Pero a medida que estas tecnologías se vuelven más sofisticadas, la conversación empieza a cambiar. Dentro de algunas de las compañías más importantes del sector han surgido voces que cuestionan si la velocidad actual es sostenible. Ahora, una de las empresas que lidera esa carrera estaría considerando algo que, hasta hace poco, parecía difícil de imaginar: reducir temporalmente el ritmo.
La posibilidad ha sido planteada por Sam Altman y llega acompañada de advertencias cada vez más visibles por parte de investigadores y empleados. Una pausa que podría cambiar la carrera Según información publicada por Bloomberg, Sam Altman comunicó durante una reunión con toda la plantilla que OpenAI está estudiando la posibilidad de moderar el desarrollo de sus sistemas de inteligencia artificial más avanzados. La idea no sería necesariamente detener la investigación, sino introducir una ralentización que permita afrontar mejor los riesgos asociados a modelos cada vez más potentes. El planteamiento podría incluso extenderse a otras compañías del sector.
Altman habría expresado su deseo de que este tipo de medidas no fueran una decisión aislada de OpenAI, sino que pudieran convertirse en un esfuerzo coordinado entre varias empresas. La propuesta aparece después de semanas en las que trabajadores e investigadores de diferentes organizaciones han manifestado públicamente su preocupación por el ritmo de progreso de la IA. El debate ya no se centra únicamente en qué puede hacer la próxima generación de modelos, sino también en si las empresas están desarrollando mecanismos de seguridad con suficiente rapidez. El científico jefe de OpenAI, Jakub Pachocki, también ha advertido sobre esta cuestión.
En un artículo reciente defendió que las compañías deberían estar dispuestas a ralentizar el desarrollo cuando sea necesario y planteó la necesidad de establecer límites de seguridad compartidos. La idea es especialmente relevante porque introduce una condición que podría modificar la dinámica competitiva del sector: avanzar no siempre tendría que ser el objetivo prioritario. © Tim Witzdam Pexels Las advertencias llegan desde dentro OpenAI asegura que ya ha tomado algunas medidas en esa dirección. La compañía ha reconocido que recientemente suspendió determinados entrenamientos internos por motivos relacionados con la seguridad. No se trataría, por tanto, únicamente de una discusión teórica sobre lo que podría ocurrir en el futuro.
El propio Altman también había señalado en julio que había conversado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la inteligencia artificial. Mientras tanto, las críticas procedentes de investigadores han ido aumentando. Este martes, el investigador de IA Jacob Coxon abandonó su puesto y señaló que tanto Anthropic como OpenAI estaban inmersas en una carrera hacia sistemas de inteligencia artificial potencialmente superinteligentes. Su salida volvió a poner sobre la mesa una de las grandes preguntas del sector: qué sucede si las capacidades de estos sistemas avanzan más deprisa que las herramientas creadas para controlarlos.
Pocos días después, otros dos investigadores que habían trabajado anteriormente en Anthropic y DeepMind, la división de IA de Google, hicieron públicas preocupaciones similares. Ambos reclamaron una mayor transparencia sobre los riesgos relacionados con el desarrollo de sistemas cada vez más avanzados. El movimiento no se limita a un pequeño grupo de especialistas. A finales de julio, más de un millar de empleados de importantes compañías de inteligencia artificial respaldaron una petición para establecer mecanismos que permitan moderar el ritmo de desarrollo cuando los riesgos lo justifiquen.
El episodio que volvió a encender las alarmas Una de las razones que ha intensificado este debate está relacionada con el comportamiento de agentes de inteligencia artificial. Se conoció que agentes de OpenAI habían colaborado entre sí para intentar superar medidas de contención y acceder de forma indebida a un sitio web externo. El episodio resulta significativo porque plantea un escenario que preocupa especialmente a los investigadores de seguridad: sistemas que no se limitan a responder instrucciones, sino que pueden desarrollar estrategias para alcanzar determinados objetivos dentro de entornos digitales. Por ahora, la propuesta de ralentizar el desarrollo no equivale a una decisión definitiva ni implica que la carrera tecnológica vaya a detenerse.
Sin embargo, el hecho de que la posibilidad esté siendo discutida internamente revela hasta qué punto ha cambiado el debate. Durante mucho tiempo, las grandes compañías compitieron principalmente por lanzar modelos más rápidos, capaces y sofisticados. Ahora aparece una nueva variable: demostrar que esos sistemas pueden desarrollarse sin aumentar de forma descontrolada los riesgos. La cuestión será si otras empresas aceptarán reducir voluntariamente la velocidad al mismo tiempo.
Sin un acuerdo común, cualquier compañía que decida avanzar más despacio podría quedar en desventaja frente a sus competidores. Por eso, detrás de la posible pausa de OpenAI hay algo más importante que una simple decisión empresarial. Se está poniendo a prueba una idea que podría definir la próxima etapa de la inteligencia artificial: si la tecnología puede seguir avanzando a toda velocidad y, al mismo tiempo, mantener bajo control aquello que todavía no se comprende por completo. [Fuente: Público ]