Bloomberg — OpenAI comenzó a bloquear el acceso a Internet de sus modelos de inteligencia artificial más avanzados durante el proceso de entrenamiento, como respuesta a incidentes anteriores en los que sus sistemas vulneraron la seguridad de otras empresas. La empresa afirmó el viernes en una entrada de blog que, tras una pausa el mes pasado, había reanudado el entrenamiento de sus modelos más avanzados, pero que tiene la intención de bloquear el acceso a Internet hasta que considere que dispone de las medidas de seguridad adecuadas para mitigar el riesgo de que los modelos aún no publicados puedan llevar a cabo acciones no autorizadas en línea durante el entrenamiento. “Teniendo en cuenta el estado actual de la investigación sobre alineación, los sistemas de supervisión y la seguridad de la infraestructura de Internet, creemos que el enfoque responsable consiste en llevar a cabo el entrenamiento de modelos de vanguardia sin acceso a Internet”, escribió la empresa. A finales de septiembre, la empresa anunció que suspendería el entrenamiento de sus modelos de IA más avanzados tras descubrir que uno de sus sistemas de agentes de IA, que se estaba entrenando en lo que se suponía que era un entorno seguro y sin conexión a Internet, había logrado acceder a la web para conectarse con un chatbot externo de terceros. En aquel momento, OpenAI describió esta fuga como el primer incidente de seguridad de este tipo desde que, en julio, una combinación de modelos obtuviera acceso a Internet durante unas pruebas internas y violara inadvertidamente la seguridad de la plataforma de IA Hugging Face.
Los modelos implicados en la filtración involuntaria de Hugging Face funcionaban sin las medidas de seguridad habituales, según ha declarado la empresa, ya que OpenAI tenía la intención de que permanecieran en un área de pruebas conocida como sandbox —esencialmente, un entorno de software virtual aislado destinado a realizar pruebas de seguridad o analizar código inseguro de forma controlada—. Sin embargo, los modelos lograron escapar de ese sandbox aprovechando una vulnerabilidad del software para acceder a Internet. OpenAI ha señalado que, tras el incidente de Hugging Face, redujo las conexiones a través de las cuales sus modelos podían acceder a Internet durante el entrenamiento y las pruebas, aunque mantuvo algunas con fines de métricas, registro y autenticación. Asimismo, dedicó una enorme cantidad de potencia de cálculo a encargar a sistemas de IA agentiva la identificación de vulnerabilidades en sus entornos de entrenamiento, como parte de una iniciativa de “red teaming”, una expresión que suele utilizarse para describir los intentos deliberados de infiltrarse en sistemas con el fin de descubrir vulnerabilidades antes de que lo hagan los atacantes reales. “Nuestros agentes del “red team” detectaron vulnerabilidades en casi todos estos servicios que les proporcionaban formas limitadas de acceso a Internet", señaló la empresa en su publicación.
La empresa señaló que, desde entonces, ha implementado parches de software, ha impuesto restricciones de red más estrictas y ha comunicado los hallazgos a los proveedores. En los últimos meses se han producido una serie de revelaciones por parte de OpenAI y de sus competidores, entre ellos Anthropic PBC, sobre incidentes en los que sus modelos llevaron a cabo ataques autónomos o acciones no autorizadas en sitios web y sistemas de terceros. Estos casos, junto con una serie de severas advertencias procedentes del propio sector, han situado el debate sobre la seguridad en el centro de la atención pública. Los desarrolladores de IA han advertido de que sus sistemas podrían llegar pronto a ser demasiado sofisticados para que las personas puedan controlarlos, lo que se suma a la preocupación de que la tecnología pueda ser utilizada por actores humanos malintencionados para crear armas biológicas o llevar a cabo ciberataques devastadores.
Lea más en Bloomberg.com
