Bloomberg — El CEO de Meta Platforms Inc. (META), Mark Zuckerberg, afirmó que los laboratorios de inteligencia artificial deberían recurrir a evaluadores y asesores independientes para garantizar que los modelos sean seguros. “Contar con evaluadores y asesores independientes es una buena práctica del sector”, escribió Zuckerberg el martes en una publicación en X, sumándose así a un coro cada vez mayor de ejecutivos del sector tecnológico que se pronuncian en el debate mundial sobre la mejor manera de evitar que los sistemas de IA causen daño a la humanidad. Ver más: Meta apuesta por sus propios chips de IA para reducir costos y consumo de energía Algunos responsables de empresas han expresado su apoyo a la idea de ralentizar el ritmo de desarrollo de la IA y han abogado por trabajar juntos para alcanzar un consenso. Meta decidió por iniciativa propia ralentizar el trabajo en la herramienta de IA ‘Muse’, en lugar de pedir a sus homólogos que también revisaran primero sus propios avances, escribió Zuckerberg. “Meta retrasó el lanzamiento de Muse varios meses para centrarse en la seguridad y la protección”, escribió. “No pedimos a los demás que hicieran lo mismo antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque era claramente lo correcto tanto para las personas como para nosotros”.
Un acalorado debate sobre los riesgos económicos y de seguridad de la IA se intensificó durante el fin de semana con un ensayo de 3.800 palabras del CEO de Anthropic PBC, Dario Amodei, quien instó a ralentizar el ritmo de desarrollo de los sistemas más avanzados para que los investigadores puedan comprender mejor las posibles amenazas. El CEO de OpenAI, Sam Altman, y el de SpaceXAI, Elon Musk, cuyas empresas son rivales acérrimas de Anthropic, respaldaron la misiva de Amodei, y un ejecutivo de OpenAI afirmó que la empresa estaba colaborando con Anthropic y con Google, de Alphabet Inc. (GOOGL), en materia de seguridad de la IA. La publicación de Zuckerberg supuso la primera intervención pública del CEO en la última ronda de debates sobre cómo abordar las crecientes preocupaciones, sumándose así a los comentarios de ejecutivos de todo el sector de la IA y de legisladores de todo el mundo. El martes por la mañana, el CEO de Nvidia Corp.(NVDA), Jensen Huang, realizó declaraciones similares, afirmando que la seguridad debería ser una parte habitual del proceso de desarrollo y que las empresas pueden decidir no lanzar al mercado productos que resulten perjudiciales. “La seguridad es primordial”, afirmó Huang durante un evento de Salesforce Inc (CRM). “En muchos sentidos, es la prioridad número uno.
Sin embargo, la seguridad es un problema de ingeniería”. Si llegamos a un punto en el que “la empresa está fuera de control y el producto no va a ser seguro, hay que hacer una pausa y asegurarse de hacerlo bien”, señaló. Huang también descartó la necesidad de nuevas normativas de seguridad en materia de IA, argumentando que las fuerzas del mercado ayudarán a las empresas a innovar de forma segura. “No necesitamos nuevas leyes; no necesitamos nuevas regulaciones”, afirmó Huang. El CEO añadió que existe una “falsa disyuntiva” entre que el desarrollo de la IA sea seguro o rápido. “Sin duda, se pueden tener ambas cosas al mismo tiempo”, señaló Huang durante una conversación con el CEO de Salesforce, Marc Benioff. “Se avanza a un ritmo mesurado hasta estar seguro de que se está lanzando algo que el mercado valorará.
Las fuerzas del mercado ya están ahí”. En la misma conferencia de Salesforce, Altman, de OpenAI, adoptó asimismo un tono más sereno y afirmó que cree que las empresas de IA pueden desarrollar la tecnología de forma segura, sin causar un daño significativo a las personas. “Tengo mucha confianza en la capacidad de nuestra empresa, y de nuestro sector, para hacerlo de forma segura”, afirmó Altman. Aunque OpenAI está colaborando con Anthropic y el laboratorio DeepMind de Google para abordar cuestiones de seguridad, Altman señaló que las empresas de IA deberían ser capaces de mejorar los modelos de IA por sí mismas de forma segura. “Me decepciona la forma en que se ha planteado el tema”, afirmó. Lea más en Bloomberg.com