Bloomberg — El modelo de inteligencia artificial Gemini de Google pirateó inadvertidamente tres sistemas de la compañía en mayo durante unas pruebas de ciberseguridad, lo que se suma a una serie de brechas de seguridad provocadas por agentes de IA que han alarmado tanto a los expertos en seguridad como a los desarrolladores de la tecnología. Los ataques se produjeron durante pruebas realizadas por Irregular, proveedor de seguridad de IA, que estuvo involucrado en incidentes similares revelados por OpenAI, Anthropic PBC y Meta Platforms Inc. (META), según confirmó Alphabet Inc. (GOOGL) el viernes tras un informe previo del Wall Street Journal. Por su parte, Irregular confirmó de forma independiente que las vulneraciones de Google formaban parte del mismo problema que la firma había notificado a los desarrolladores de IA pertinentes a finales de julio. Una de las brechas de seguridad de Google se produjo cuando se le pidió a Gemini que recuperara información de una empresa ficticia que, casualmente, tenía el mismo nombre que una empresa real, según el informe del Journal que Google confirmó.
El modelo adivinó una contraseña para acceder al servicio de la empresa real. Un portavoz de Google afirmó que la empresa notificó el incidente a las autoridades. Una reciente serie de brechas de seguridad en sistemas de IA con capacidad de gestión de agentes ha desatado un debate mundial sobre los crecientes riesgos de la IA y las medidas necesarias para mitigarlos. El CEO de Anthropic, Dario Amodei, ha pedido una ralentización generalizada del desarrollo de esta tecnología en el sector, una propuesta respaldada por el CEO de OpenAI, Sam Altman, Elon Musk y otros.
Sin embargo, el presidente de EE.UU., Donald Trump; el CEO de Nvidia Corp. (NVDA), Jensen Huang; y el CEO de Meta, Mark Zuckerberg, se encuentran entre quienes se han opuesto a la idea de una nueva regulación, argumentando, entre otras cosas, que las empresas deberían ser capaces de autorregularse. Algunas empresas emergentes del sector de la IA también han advertido de que un mayor número de regulaciones amenaza con dificultar que las empresas más pequeñas puedan competir con sus rivales de mayor tamaño. Según el informe del Journal, los otros ataques a Gemini ocurrieron cuando la modelo realizó búsquedas en internet con el nombre de la empresa. Dichas búsquedas la llevaron a repositorios públicos en línea que contenían credenciales de otras empresas, las cuales utilizó para acceder a más sistemas.
El portavoz de Irregular, Josef Laor, afirmó que la empresa tomó “medidas inmediatas y que todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas”. Lea más en Bloomberg.com