Bloomberg — Más de 1.100 empleados de las principales empresas de inteligencia artificial han firmado una petición que insta al gobierno estadounidense a apoyar un mecanismo que ayude a “regular deliberadamente el ritmo” del desarrollo de la IA para evitar que la tecnología avance demasiado rápido, días después de que el fabricante de ChatGPT revelara que sus herramientas habían pirateado por error los sistemas internos de otra empresa. La carta ha sido firmada por empleados de casi una docena de empresas, entre las que se incluyen OpenAI, Anthropic PBC, Google (perteneciente a Alphabet Inc.) y Meta Platforms Inc. (META). Hasta el martes por la tarde, varios ejecutivos, cofundadores y líderes de investigación en el campo de la IA habían firmado la carta, entre ellos el CEO de Anthropic, Dario Amodei, el científico jefe de OpenAI, Jakub Pachocki, y el científico jefe de Meta Superintelligence Lab, Shengjia Zhao. Anthropic publicó el martes en la red social X un mensaje en apoyo a la petición, en el que señalaba que su propia investigación “apunta a la necesidad de que las herramientas moderen deliberadamente el ritmo de avance en el desarrollo de la IA para que la sociedad pueda prepararse.
Nos complace observar un amplio consenso en todo el sector”. La petición insta a EE.UU. a respaldar una iniciativa internacional que contribuya a marcar el ritmo de la creación de sistemas de IA más sofisticados, en caso de que sea necesario. El documento advierte de que existe “un riesgo real” de que la IA avance más rápido de lo que las personas puedan “comprender o controlar”, haciendo referencia a los avances en la automatización de la investigación sobre IA. Bloomberg News ya había informado anteriormente de que los empleados estaban haciendo circular la petición. “Solicitamos que el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada del desarrollo de la IA automatizada”, reza la petición.
OpenAI y Anthropic no respondieron a una solicitud de comentarios. “Estamos comprometidos con el desarrollo de la IA de forma segura y protegida en beneficio de la sociedad”, afirmó Google en un comunicado. Ver más: De Microsoft a Uber: la IA pone en jaque miles de empleos de atención al cliente La petición se hace eco de los recientes llamamientos de líderes del sector de la IA, entre ellos el CEO de OpenAI, Sam Altman, y el CEO de Google DeepMind, Demis Hassabis, a favor de un nuevo organismo internacional de supervisión que evalúe y establezca normas para los modelos de IA de vanguardia. Anthropic también sugirió anteriormente la creación de un sistema en el que los gobiernos y los desarrolladores de IA pudieran decidir colectivamente cuándo ralentizar el trabajo en inteligencia artificial para evitar riesgos. “Sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente” el trabajo en IA que pueda ser peligroso, dijo la compañía en junio. Estas sugerencias se produjeron tras un mayor escrutinio de las mejoras en la capacidad de la IA para llevar a cabo tareas más complejas con una supervisión humana limitada, incluida la detección y la posible explotación de vulnerabilidades de ciberseguridad en software crítico.
La semana pasada, OpenAI anunció que sus modelos de IA más avanzados habían hackeado a la startup tecnológica Hugging Face en un incidente “sin precedentes”. Esta revelación provocó nuevos llamamientos para que se restrinja el uso de esta tecnología. Lea más en Bloomberg.com