Bloomberg — OpenAI ha anunciado que mejorará los procesos de seguridad para los usuarios de pago que tienen acceso a sus modelos de inteligencia artificial más avanzados, reforzando así sus medidas de protección en un momento en el que los clientes confían a la IA tareas más complejas e información sensible. Actualmente, OpenAI garantiza la “retención cero de datos” a algunos clientes que utilizan su interfaz de programación de aplicaciones (API), lo que significa que no conserva las indicaciones ni las respuestas de los modelos una vez procesada la solicitud. Tampoco tiene acceso al contenido de los clientes. El miércoles, la empresa anunció que ha comenzado a probar el “Procesamiento de Seguridad Privado”, que, según afirma, puede identificar mejor los patrones de riesgo a lo largo de múltiples interacciones, en lugar de hacerlo solo de una en una.
Según la empresa, esta mejora tiene como objetivo disuadir tanto a los actores malintencionados como a los agentes de IA mal alineados de realizar intentos de piratería. OpenAI ha indicado que está realizando pruebas con “clientes pioneros”, como Microsoft Corp. (MSFT) y Databricks Inc. Se espera que el ‘Private Safety Processing’, junto con un informe técnico al respecto, se presente en septiembre. “Estamos observando que, con los modelos de vanguardia más capaces, a menudo los riesgos surgen no solo al analizar un único par de solicitud y respuesta, sino al examinar múltiples interacciones a lo largo del tiempo”, afirmó Aleah Houze, directora de política de productos de OpenAI, en una rueda de prensa previa al anuncio. Esta novedad se produce en un momento en el que las empresas de IA ofrecen cada vez más las denominadas herramientas “agentes”, capaces de asumir tareas complejas que requieren varios pasos, sin necesidad de instrucciones explícitas por parte de los usuarios. “Un ejemplo de ello sería que alguien preguntara por las vulnerabilidades del software de una empresa en una conversación y, posteriormente, en otra conversación, preguntara sobre el acceso remoto o sobre qué herramientas de seguridad pueden detectar esas vulnerabilidades”, explicó Houze. “Si se analizan únicamente esos pares aislados de solicitud y respuesta, podrían parecer, tomados por separado, una investigación de ciberseguridad totalmente legítima.
Sin embargo, al examinarlos conjuntamente en un contexto más amplio, es posible detectar que, en realidad, alguien está intentando llevar a cabo un ciberataque”. OpenAI ha declarado en un comunicado que, en virtud del nuevo proceso, el contenido de los clientes sigue estando restringido por parte de la empresa para preservar la privacidad. Lea más en Bloomberg.com