Bloomberg Línea — El nombre de Jacob Coxon, un joven ingeniero británico de software, está retumbando en cada rincón de las redes sociales y la prensa internacional. La razón: dimitió de Anthropic, una reconocida desarrolladora de inteligencia artificial (IA), asegurando que ni esta compañía ni OpenAI están actuando de manera responsable. Coxon trabajó como investigador de Anthropic y, antes, también hizo parte de OpenAI, como uno de los desarrolladores de GPT-4 y GPT-4.5. De ahí lo llamativos que son sus testimonios. “Renuncié a Anthropic hoy.
Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable”, escribió Coxon en un hilo en X. “Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”. La publicación de Coxon, que suma 67 millones de visualizaciones y 464.000 ‘me gusta’ en la mañana de este miércoles, reavivó las alarmas en torno a la IA y la falta de una regulación internacional que le ponga límites a su desarrollo. “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing.
Si acaso, muchos ejecutivos e investigadores senior moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar miedo en privado. Ninguna otra actividad humana representa este nivel de peligro”, agrega el ingeniero. Google (GOOGL), OpenAI, Microsoft (MSFT), Anthropic y más de 100 empresas tecnológicas firmaron recientemente una carta haciendo a los gobiernos del mundo un “llamado a la acción colectiva en materia de ciberdefensa”, ante lo que parece una amenaza latente: los ataques con IA. El documento dice que hospitales, plantas de tratamiento de agua y la estructura que sostiene a Intener “están en peligro”.
Pero la opinión pública ha cuestionado una paradoja: que las mismas empresas que advierten del riesgo de la IA continúen en una carrera por desarrollarla y expandir su negocio. OpenAI, por ejemplo, presentó en la última semana su modelo ChatGPT-6 Astra. Y su presidente, Greg Brockman, afirmó que llegará a ser considerado como una de las primeras etapas de la inteligencia artificial general (AGI) o superinteligencia, aquella que tiene la capacidad de superar a los humanos en una gama de tareas. Pues bien, Coxon tiene una respuesta a quienes se preguntan por esta paradoja.
Según él, en OpenAI “muchos no han interiorizado profundamente las apuestas civilizatorias”, es decir, el impacto colectivo de la IA. “En Anthropic, las apuestas están bien comprendidas, pero están atrapados en una carrera por llegar primero: creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo”, agregó. Evan Hubinger, líder de ciencia de alineación en Anthropic y exjefe de Coxon, analizó cuál es la probabilidad de que la IA acabe con la humanidad, solo que en la próxima década. “Jacob tiene razón aquí—realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década”, escribió también en X. “Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”. La advertencia de Bill Gates sobre la IA Un ensayo publicado el pasado 26 de agosto por Bill Gates, cofundador de Microsoft, ya había advertido sobre lo “turbulenta” que puede ser la transición a la era de la inteligencia artificial (IA).
La desaparición de un sinnúmero de empleos, el uso de la IA para hacer daño y el reemplazo de las relaciones humanas son las principales preocupaciones expuestas por Gates. Pero, sobre todo, la falta de un marco internacional para abordar esta tecnología. “La máxima prioridad es una tarea monumental: crear un marco nacional e internacional para abordar la inteligencia artificial”, sostuvo el magnate. A ello se suma la falta de experiencia con una tecnología que, en pocas palabras, puede pensar y actuar como un ser humano. “Cuando surgió el PC, se necesitaron 20 años para cambiar significativamente nuestra forma de trabajar, ya que hubo que desarrollar el software, reducir su precio y aprender a usar las herramientas en los procesos empresariales”, rememoró.