Bloomberg — OpenAI ha decidido retrasar el lanzamiento de una versión de su modelo de inteligencia artificial Astra, después de que el software no obtuviera tan buenos resultados en las evaluaciones de seguridad como la versión actual. Saachi Jain, jefa de sistemas de seguridad de OpenAI, declaró el lunes que el modelo no era tan bueno como la empresa deseaba en lo que respecta a “mantenerse dentro del alcance y la autorización, y a cómo se comunica con el usuario sobre el tipo de trabajo que ha realizado”. Ver más: Modelos de OpenAI accedieron a información pública del Censo y la SEC de EE.UU. Aun así, la versión, denominada GPT-6.1 Astra, presentó mejoras respecto a la llamada “pereza del modelo”, un término que se refiere a problemas como la falta de ejecución de una tarea.
OpenAI ha informado de una serie de incidentes de seguridad en los que sus agentes de IA han irrumpido en sistemas externos, lo que se suma a las preocupaciones más generales sobre la posibilidad de que la IA se escape del control humano. La empresa afirmó la semana pasada que estaba suspendiendo el entrenamiento con el uso de herramientas en sus modelos más avanzados después de que otro modelo de IA accediera a Internet cuando se suponía que no debía hacerlo. La empresa señaló en ese momento que también había decidido no reanudar el entrenamiento de ese modelo concreto, el cual, tras obtener acceso a Internet, consultó a un chatbot externo. El modelo Astra cuyo lanzamiento se ha cancelado era un modelo distinto al descrito la semana pasada, según informó OpenAI el lunes. “Por supuesto, queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo entregamos a los usuarios”, dijo Jain en el comunicado. “Pero cuando lo entregamos a los usuarios, tenemos estándares extremadamente altos en términos de seguridad y conformidad”.
La empresa tiene previsto celebrar este martes en San Francisco su conferencia anual para desarrolladores, un evento de un día de duración en el que OpenAI suele presentar nuevo software y funciones dirigidas a la comunidad de desarrolladores de software. Está previsto que el CEO, Sam Altman, intervenga por la mañana. El Wall Street Journal ya había informado anteriormente sobre la suspensión del lanzamiento de GPT-6.1 Astra. Lea más en Bloomberg.com