Bloomberg — La consejera delegada de Citigroup Inc. (C), Jane Fraser, afirmó que las empresas están apresurándose a reforzar sus defensas a medida que los modelos de inteligencia artificial se vuelven aún más potentes y corren el riesgo de provocar ciberataques. “Hay una carrera por defender y reforzar todos los perímetros de la empresa, y actualmente se está produciendo un tsunami de parches en todas las compañías del mundo”, dijo Fraser el domingo en el Foro Económico de Qatar celebrado en Nueva York. A principios de este año, Anthropic PBC lanzó su modelo Mythos, un sistema que, según advirtió la compañía, tenía el potencial de inaugurar una nueva era de riesgo cibernético. “Cuando salió Mythos, no fue un buen día”, dijo Fraser refiriéndose a la evolución de la IA. Tras el lanzamiento de dicho modelo, el secretario del Tesoro, Scott Bessent, y el entonces presidente de la Reserva Federal, Jerome Powell, convocaron a los líderes de Wall Street a una reunión sobre el modelo, instando a los ejecutivos presentes a preparar sus sistemas para los modelos de IA más potentes. Desde entonces, la IA de empresas como Google (GOOGL)y Anthropic ha infiltrado inadvertidamente en otras empresas.
Esto ha suscitado advertencias por parte de ejecutivos como Dario Amodei, de Anthropic, de que las empresas deben ralentizar el ritmo de desarrollo de la IA y de que su empresa implementaría nuevas medidas de seguridad, como evaluadores externos. Opiniones divididas sobre la IA en el último mes A principios de este mes, Jacob Coxon, empleado de Anthropic que dimitió de su cargo, suscitó cierto malestar en torno a los riesgos de la IA al advertir de que los investigadores creen que la tecnología podría causar la muerte de personas antes de que termine la década. Ejecutivos del sector, como Jensen Huang, de Nvidia Corp. (NVDA), respondieron afirmando que la tecnología no supone un riesgo de extinción para la humanidad. “Creo que todos debemos respirar hondo y tomarnos las cosas con calma”, afirmó el domingo David Solomon, director ejecutivo de Goldman Sachs Group Inc.(GS), en el Foro Económico de Catar. Añadió que tenía “una gran confianza en que la humanidad seguirá aquí y en que todos participaremos activamente”.
En cuanto al desarrollo de la tecnología, el cuello de botella ha pasado de los chips a la energía necesaria para alimentar la IA, según Fraser, de Citigroup. “El cuello de botella ha pasado de los chips a la energía”, afirmó. “Y estamos observando una enorme demanda de energía en todo el mundo”. El primer ministro de Catar, el jeque Mohammed bin Abdulrahman Al-Thani, declaró el domingo que el país está colaborando con empresas de inteligencia artificial para invertir de forma responsable, y que las medidas de protección en torno a esta tecnología aún se encuentran en fase de desarrollo. El Gobierno del Estado de Catar es el patrocinador del Foro Económico de Catar, organizado por Bloomberg. Lea más en Bloomberg.com