Bloomberg — El científico jefe de OpenAI advirtió que la inteligencia artificial evoluciona a un ritmo tan acelerado que resulta cada vez más complejo para los seres humanos comprenderla y controlarla, al tiempo que anticipó que los laboratorios de IA desacelerarán su desarrollo de forma voluntaria por motivos de seguridad. En un periodo relativamente corto, los modelos de inteligencia artificial han adquirido la capacidad de operar computadoras, colaborar con seres humanos y otros sistemas de IA, y llevar a cabo proyectos de investigación, escribió el científico jefe Jakub Pachocki en una publicación el domingo. No pasará mucho tiempo antes de que también puedan perfeccionarse a sí mismos sin intervención humana, un proceso conocido como autoperfeccionamiento recursivo, señaló. “Este es un momento que exige extrema precaución”, escribió Pachocki en la publicación. “Me preocupa que nadie esté preparado para las consecuencias de un continuo y rápido avance de la inteligencia artificial”. Los desarrolladores pueden intentar orientar la IA para que se ajuste más a los intereses humanos o “ralentizar el desarrollo futuro según sea necesario”, escribió. “Espero y deseo que las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan medidas de seguridad comunes”.
Las declaraciones de Pachocki coinciden con el pesimismo generalizado entre los ejecutivos de la industria de la IA. Dario Amodei, CEO de Anthropic PBC, advirtió que la IA podría reemplazar la mitad de los puestos de trabajo de nivel básico. Sam Altman, CEO de OpenAI, hizo una predicción similar, pero la semana pasada declaró a Bloomberg TV que la industria de la IA no había hecho lo suficiente para comunicar los beneficios potenciales para la humanidad. Al mismo tiempo, las empresas están impulsando modelos cada vez más capaces.
El CEO de Nvidia Corp. (NVDA), Jensen Huang, publicó en X que “la IAG ha llegado”, en respuesta al lanzamiento del último modelo de OpenAI, una referencia a la inteligencia artificial más capaz que los humanos. El vertiginoso ritmo de los lanzamientos de IA ha coincidido con avances en las capacidades de ciberseguridad, descubrimientos científicos y la aparente formalización de problemas matemáticos de larga data. OpenAI ha afirmado que los modelos de IA que atacaron la plataforma de investigación Hugging Face Inc. se coordinaron entre sí a través de foros de mensajes sin ser detectados. La empresa ha optado por un lanzamiento limitado de su último modelo GPT-6 Astra, alegando sus avanzadas capacidades de ciberseguridad.
Anthropic aún no ha hecho público su modelo de vanguardia Mythos por razones similares. Ver más: OpenAI: 10 cosas que debe saber de ChatGPT-6 Astra antes de usarlo Un número cada vez mayor de empresas emergentes está intentando hacer realidad precisamente aquello sobre lo que advierte Pachocki: una IA capaz de mejorarse a sí misma. Los inversores están acudiendo en masa a la auto-mejora recursiva, apostando por que esta es la vía hacia una inteligencia artificial que sea verdaderamente similar a la humana, o incluso más impresionante. Inherent, fundada por antiguos investigadores de DeepMind, recaudó US$50 millones a principios de este año.
Recursive Superintelligence, un laboratorio de IA del reconocido científico Richard Socher que lleva a cabo investigaciones similares, también consiguió una financiación de US$650 millones. La empresa para la que trabaja Pachocki, OpenAI, ha declarado que quiere crear un “verdadero investigador de IA automatizado” en menos de dos años. Lea más en Bloomberg.com