Bloomberg — OpenAI está barajando la posibilidad de ralentizar el desarrollo de la inteligencia artificial de vanguardia, y el CEO de la empresa creadora de ChatGPT, Sam Altman, espera que otras empresas del sector hagan lo mismo. En una reunión con toda la plantilla celebrada esta semana, Altman comunicó a los empleados que OpenAI podría moderar el ritmo de su desarrollo en materia de IA, quizá en colaboración con otros laboratorios de IA, aunque es posible que algunos no estén de acuerdo con ello, según fuentes familiarizadas con el asunto que han solicitado mantener el anonimato, ya que los detalles son confidenciales. En las últimas semanas, los empleados de las principales empresas de IA han expresado públicamente su preocupación por el aumento de los riesgos que entrañan los sistemas avanzados de IA, lo que ha avivado la inquietud en el seno de estas empresas. Tanto OpenAI como su rival, Anthropic PBC, han presentado a principios de este año la documentación confidencial necesaria para salir a bolsa.
OpenAI se ha negado a hacer comentarios. El científico jefe de la empresa, Jakub Pachocki, publicó recientemente un artículo en el que advertía sobre los peligros de la IA y afirmaba que, en su opinión, las empresas de IA deberían “coordinarse para ralentizar el desarrollo futuro según sea necesario”. Pachocki añadió que espera que “las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan unos límites de seguridad comunes”. OpenAI ha declarado que ha ralentizado parte del desarrollo de modelos y ha suspendido recientemente ciertos entrenamientos internos de IA debido a preocupaciones en materia de seguridad.
En julio, Altman también afirmó que había hablado con responsables de la Casa Blanca sobre la “necesidad” de moderar el ritmo del desarrollo de la IA. Ver más: OpenAI: 10 cosas que debe saber de ChatGPT-6 Astra antes de usarlo El martes, Jacob Coxon, investigador en IA, dimitió de su puesto y acusó a sus dos antiguos empleadores, Anthropic y OpenAI, de “jugar con nuestras vidas” al lanzarse a la carrera hacia una IA superinteligente. Coxon afirmó en una publicación en redes sociales que las personas que desarrollan la IA creen que esta podría “matarnos a todos antes de que termine la década”. Los comentarios se hicieron virales, atrayendo más de 150 millones de visualizaciones y la atención de destacados legisladores y figuras públicas.
El jueves, dos investigadores que habían abandonado recientemente sus puestos en Anthropic y DeepMind (de Google) también hicieron públicas sus preocupaciones sobre el rápido ritmo de desarrollo de la IA, afirmando que los creadores de IA deben ser más transparentes en cuanto a los riesgos de la tecnología. Además, a finales de julio, más de 1.000 empleados de todas las principales empresas de IA firmaron una petición en la que se reclamaba un mecanismo para ralentizar el ritmo de desarrollo de la IA. Varios empleados del ámbito de la IA dedicados a la seguridad han dimitido de importantes laboratorios en los últimos meses. Aunque muchos ejecutivos y trabajadores del sector de la IA llevan tiempo advirtiendo sobre el riesgo existencial que plantean los sistemas de IA, la preocupación ha aumentado tras las revelaciones de que agentes de IA de OpenAI colaboraron para burlar las medidas de contención y piratear un sitio web de terceros.
Este y otros incidentes de seguridad similares han avivado los temores sobre las capacidades cibernéticas de los nuevos modelos y los aparentes fallos de las empresas de IA a la hora de evitar que estos se descontrolen. Lea más en Bloomberg.com