Pase lo que pase, no es nada bueno. Desde que la Casa Blanca prácticamente cortó el acceso a los modelos de inteligencia artificial más recientes de Anthropic PBC, ambas partes han ofrecido versiones contradictorias sobre las causas de estas restricciones repentinas. La confusión reinante no hace sino poner de manifiesto las deficiencias de la actual regulación de la IA. El último modelo de Anthropic, llamado Fable 5, se lanzó el 9 de junio.
Casi de inmediato, funcionarios de la Casa Blanca expresaron su preocupación por su posible uso indebido. Según informes de prensa, investigadores de Amazon.com Inc. (inversor de Anthropic) lograron vulnerar algunas de las medidas de seguridad de Fable y acceder a funciones restringidas. A continuación, se produjo una serie de tensas llamadas telefónicas entre la empresa y la administración, cuyos detalles aún son objeto de controversia. Anthropic lo calificó todo de “malentendido”.
Sin embargo, el 12 de junio, citando a las autoridades de seguridad nacional, el Departamento de Comercio tomó la medida extraordinaria de imponer restricciones a la exportación de Fable y un modelo relacionado, impidiendo que los ciudadanos extranjeros, incluidos los empleados de Anthropic, accedieran a ellos y obligando así a la empresa a suspender el servicio a usuarios de todo el mundo. En efecto, mediante una decisión unilateral y arbitraria —y con los hechos más relevantes aún sin esclarecer—, la administración ha bloqueado los modelos más avanzados de la principal empresa de IA del país, prácticamente sin dar ninguna explicación. Cabe esperar que el estancamiento se resuelva pronto (el presidente declaró la semana pasada que las negociaciones iban bien). Pero el daño ya está hecho.
Un proceso opaco de este tipo no beneficia a nadie. Viola el compromiso del gobierno de evitar un régimen de licencias o autorización previa para la IA, pero no establece estándares identificables que las empresas deban seguir. Dificulta enormemente las decisiones de inversión e implementación, al tiempo que amenaza con frenar la innovación y crear nuevas vías para la injerencia política. Varios analistas han descrito el proceso como un “interruptor de apagado”.
Además, la Casa Blanca ha creado, al menos, la apariencia de una regulación selectiva. Como señaló recientemente un grupo de investigadores de seguridad , otros modelos disponibles públicamente pueden generar precisamente el tipo de resultados que el gobierno ha citado, y sin embargo, no están sujetos a tales restricciones. Y la capacidad en sí misma —solicitar al modelo que ayude a corregir fallos de software— se utiliza habitualmente en ciberseguridad. “Si este estándar se aplicara a toda la industria”, afirma Anthropic, “creemos que paralizaría prácticamente todas las nuevas implementaciones de modelos para todos los proveedores de modelos de vanguardia”. Persistir en este enfoque podría acarrear consecuencias negativas adicionales.
Sin duda, dificultaría la captación de personal cualificado para la industria, dado que aproximadamente dos tercios de los estudiantes de posgrado en programas relacionados con la IA provienen del extranjero. (De hecho, muchas de las figuras más destacadas del sector, como Andrej Karpathy de Anthropic, nacieron fuera de Estados Unidos). Vender modelos en el extranjero se volvería más complicado, otros países tendrían un nuevo incentivo para desarrollar sus propias capacidades soberanas y la ventaja de Estados Unidos sobre China podría reducirse. En resumen, la Casa Blanca corre el riesgo de perjudicar gravemente a una industria que ha afirmado repetidamente querer defender. Es urgente replantearse la situación.
Las preocupaciones sobre la seguridad nacional son legítimas, y el gobierno debería tener la facultad de restringir los modelos peligrosos. Sin embargo, el Congreso necesita crear un marco transparente para ello. Un modelo sería que el Centro de Estándares e Innovación en IA estableciera métodos de evaluación, certificara auditores independientes y coordinara la revisión gubernamental de los riesgos para la seguridad nacional, al tiempo que brindara a las empresas la oportunidad de mitigar cualquier inquietud. Existen muchas otras opciones.
Lo fundamental es contar con un proceso predecible, estándares claros y reglas consistentes. La IA tiene un potencial inmenso. Es demasiado importante como para regularla a puerta cerrada. Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios.
Lea más en Bloomberg.com