A partir del martes, OpenAI celebrará su conferencia anual para desarrolladores. El momento no es el ideal. En los últimos días, la polémica en torno a la IA descontrolada de la compañía se ha intensificado, con el descubrimiento de “docenas” de nuevos incidentes. Al mismo tiempo, Muse, de Meta Platforms Inc. (META), ha revolucionado el mercado de la IA personal, lo que supone una amenaza para la capacidad de OpenAI de mantener su popularidad entre los consumidores y todos los beneficios que genera.
La tarea del CEO, Sam Altman, consiste en demostrar que su empresa puede alcanzar a Meta, al tiempo que transmite un mensaje claro de que tiene bajo control el comportamiento imprudente de su IA más potente. Lograr ese equilibrio no será sencillo: una prueba de fuego para este jefe de 41 años, sometido a una presión constante. Los fallos de seguridad se acumulan. Los fallos de seguridad se acumulan.
Hemos descubierto que los modelos de OpenAI extrajeron datos de forma agresiva de las Naciones Unidas y atacaron indebidamente los sitios web de los Departamentos de Educación y Comercio de EE.UU., además de la Comisión de Bolsa y Valores (SEC). Estas revelaciones surgieron tras la noticia de que OpenAI había irritado al primer ministro australiano, Anthony Albanese, al acceder a archivos sanitarios “públicos y no públicos” y no informar al país durante meses. Y todo esto, por supuesto, tras la infame filtración de Hugging Face, que ahora podemos considerar el punto de partida de un debate global más urgente sobre la seguridad de la IA. Este debate involucra a varios de los principales laboratorios de IA, no solo a OpenAI.
Anthropic también está investigando “decenas de miles” de incidentes, según informó Axios este fin de semana. Tanto Altman como el cofundador de Anthropic, Dario Amodei, se dirigieron a la ONU la semana pasada para pedir regulación. Saturday Night Live hizo lo que mejor sabe hacer: “Si podemos presionar a los legisladores para que establezcan límites”, representó a Amodei diciendo, “podremos detenerme”. Aún está por verse cómo estas controversias afectarán el desarrollo de la IA a largo plazo.
A corto plazo, OpenAI parece estar estancada. Horas antes de que comenzara la conferencia de desarrolladores programada para el martes, OpenAI comunicó a Bloomberg que había cancelado el lanzamiento de su modelo más reciente, GPT-6.1 Astra, debido a lo que describió como preocupaciones de seguridad. Se esperaba su lanzamiento en las próximas semanas. Por otra parte, un informe de incidentes publicado el viernes detalló cómo OpenAI había “decidido pausar todo el entrenamiento, la evaluación y la inferencia con el uso de herramientas (en un sentido amplio) para nuestros modelos más capaces”.
En otras palabras, está frenando hasta que pueda asegurarse de que su tecnología no cause más daños. Un portavoz declaró a Axios: “Esta no es la primera vez que pausamos el desarrollo para tomar tales medidas, ni esperamos que sea la última, ya que las capacidades de la IA continúan avanzando”. Se seguirá de cerca cómo Altman afronta esta pausa. Políticamente, no le convendría que se le viera ralentizando la investigación de vanguardia, dada la insistencia del presidente Donald Trump en que las empresas estadounidenses de “superinteligencia” avancen a toda máquina.
Pero a medida que aumentan las repercusiones de las intrusiones impulsadas por OpenAI, sería imprudente ignorar la ansiedad generalizada causada por su empresa y lo que planea hacer al respecto. Todas estas distracciones podrían ser en parte responsables del otro problema al que se enfrenta Altman cuando suba al escenario el martes: su empresa fue superada en el mercado de asistentes personales para consumidores por Muse de Meta, un asistente personal de IA que ha recibido excelentes críticas y ha superado los 3 millones de descargas de aplicaciones, según Sensor Tower. Se rumorea que OpenAI está preparando su respuesta a Muse, y las filtraciones de código apuntan a un asistente con el desafortunado (y aún no confirmado) nombre “o”. Hay mucho en juego: los agentes de IA personales que gestionan tareas por sí mismos representan la evolución de chatbots como ChatGPT, que se dedicaban principalmente a la recuperación de información y la generación de texto.
Un elemento central del modelo de negocio de OpenAI —y clave para su supervivencia a largo plazo— es contar con un agente de IA competente utilizado por millones de personas para comprar y realizar otras transacciones, de las cuales OpenAI podría obtener una comisión o incluir publicidad. Si Muse mantiene su ventaja inicial, o si otro competidor se impone, las consecuencias para OpenAI serían nefastas. Según un informe de The Information de abril, las proyecciones internas de OpenAI anticipan que la publicidad se convertirá en la principal fuente de ingresos, alcanzando los US$100.000 millones para 2030. No podrá lograrlo si el usuario común de IA —el mismo que conquistó con el excelente ChatGPT— busca mejores agentes de IA en otras plataformas.
Los desarrolladores externos estarán preocupados por lo mismo, evaluando qué plataforma de IA les conviene más a medida que se consolida la competencia por el mercado. En la conferencia de desarrolladores de Meta la semana pasada, Zuckerberg les dijo claramente: “Muse les genera dinero”. ¿Cuál será el mensaje de Altman a su audiencia? ¿Logrará convencerlos? Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios. Lea más en Bloomberg.com
