La jefa de ética de OpenAI, Chloé Bakalar, dejó la compañía en julio. La habían contratado en agosto del año pasado. Antes de trabajar en OpenAI había sido jefa de ética en Meta y estableció políticas de ética de IA para Instagram y Facebook, según publicó el Financial Times . La fuente anónima de FT le habría dicho a ese periódico que Bakalar se especializaba en “políticas éticas de modelos de desarrollo, la interacción humana con la IA y el debate sobre la conciencia de las máquinas”.
Más allá de quién sea esa fuente, le habría dicho también que no habían reemplazado a Bakalar y que en OpenAI era la única experta en ética. Es decir que ahora OpenAI no tiene a nadie que se encargue de la ética. En este contexto resulta interesante oír parte del mensaje, relativamente directo y simple, de Bakalar durante la Cumbre Forbes de Salud en 2023 hablando sobre la confianza, ya que todavía estaba trabajando en Meta: “La capacidad de hacer que la gente sienta que la escuchan, la entienden y la ven, eso tiene importancia inmensa en especial en el campo de la atención de la salud”. "The ability to make people feel heard and understood and seen, that's immensely important, especially in the healthcare field." Chloé Bakalar, Ph.D., Chief Ethicist, Responsible AI (RAI) at @Meta , discussed generative AI and healthcare. #ForbesHealth pic.twitter.com/S8gmvOnwKl — Forbes (@Forbes) December 5, 2023 Los cambios que aún generan intriga Los grandes modelos de lenguaje disponibles al público eran bastante nuevos en ese momento y Bakalar señaló que eran “máquinas predictivas”, y no “entidades con emociones y sentimientos”. La percepción y el sentimiento, según su opinión, no estaban presentes. “Estamos muy lejos de eso”, había dicho entonces.
El tono de Sam Altman, CEO de OpenAI, en cuanto a la “singularidad” tecnológica cambió un poco en los últimos tiempos. Antes sugería que la humanidad estaba acercándose a abordar el tema – en un posteo de blog, “ The Gentle Singularity ” unos meses antes de contratar a Bakalar. Pero a finales del mes pasado, en un podcast titulado Relentless, Altman sonó más confiado y directo. “Ahora estamos, digamos, en la singularidad. He estado esperando esto toda mi vida y creo que será increíble, enormemente positivo, maravilloso para el mundo”.
Para ser claros, decir que la humanidad está en la singularidad no estaría en conflicto con declaraciones en cuanto a que los grandes modelos de lenguaje no tienen sentimientos ni percepción. Las definiciones de lo que es la singularidad son muy variadas. En las últimas semanas OpenAI ha estado en los titulares de las noticias referidas a la seguridad de la IA y la forma en que el gobierno la regula. Varios modelos de OpenAI han “roto la contención” como sucedió con los servidores de Hugging Face cuando estaban buscando respuestas a un ejercicio de evaluación.
La administración Trump anunció, aunque sin detalles, una iniciativa para el examen voluntario de los modelos de IA. Probablemente en relación con esto parece que OpenAI planea demorar el lanzamiento de un potente modelo nuevo, Astra, y según la información Sam Altman viajó en persona a Washington, D.C. para mostrarles el modelo Astra a los que legislan y hacen políticas. No es un caso aislado…al parecer Bakalar no fue la única experta en seguridad que dejó OpenAI en las últimas semanas. El jefe de Sistemas de Seguridad, Johannes Heidecke, y Joshua Achiam, que también ha ocupado puestos como especialista en seguridad en OpenAI, también dejaron la compañía este verano.
Sin embargo, y tal como dije antes, la seguridad en OpenAI tiene muchos ángulos y vueltas. El mes pasado el Jefe de Investigación de OpenAI Mark Chen hizo declaraciones ante Wired sobre lo que parece ser una nueva forma de abordar la seguridad, y suena a que las consideraciones están dispersas a lo largo del desarrollo. “Es importante que nuestro trabajo de seguridad se integre con el desarrollo de los modelos avanzados, con un rol más temprano y directo en cómo se forma el modelo, el producto, y cómo se toman las decisiones de lanzamiento”. Gizmodo se puso en contacto con OpenAI con preguntas sobre el alejamiento de Bakalar, además de solicitar confirmación de que no hay un especialista en ética en OpenAI. Un representante de la compañía nos brindó las declaraciones que ya se le habían dado al Financial Times después de publicar su artículo: “Agradecemos a Chloe por sus aportes.
La ética de la IA no está solo en una persona o equipo en OpenAI y las consideraciones éticas están profundamente insertas en el proceso de construcción de los modelos que impulsan varios de los equipos a lo largo de la investigación”.