“Nadie sabe nada”, fue la famosa frase que el guionista William Goldman pronunció sobre la industria del cine. Algo muy parecido puede decirse hoy en día de la IA, una tecnología que avanza a gran velocidad sin un destino claro. No obstante, a diferencia de lo que ocurre en el cine, los bots podrían, algún día, rebelarse y exterminar a la humanidad, según algunos expertos del sector. Es justo decir que la gente está preocupada.
Durante las últimas semanas, OpenAI ha retrasado el lanzamiento de su más reciente modelo por motivos de seguridad; Anthropic PBC ha reconocido en un documento presentado ante las autoridades reguladoras que sus productos podrían suponer “riesgos catastróficos o existenciales para la humanidad”. Y un antiguo investigador del sector ha advertido de que la inteligencia artificial “podría acabar con todos nosotros antes de que termine la década”, opinión con la que han coincidido algunos de sus antiguos compañeros de trabajo. Es comprensible, entonces, que la población esté alarmada. Aun así, conviene poner las cosas en perspectiva.
Primero, estos sombríos escenarios distan mucho de ser un consenso entre los expertos, tal y como demuestran estudios como el Informe Internacional sobre Seguridad de la IA, el Panel Presidencial de la Asociación para el Avance de la Inteligencia Artificial y el Índice de IA de Stanford. Numerosos análisis técnicos han llegado asimismo a la conclusión de que las amenazas de “extinción” son casi inverosímiles. Mientras tanto, evaluaciones independientes han revelado que los modelos más recientes suelen superar a sus predecesores en las pruebas de seguridad, incluso a medida que mejoran sus capacidades. Segundo, aunque los recientes incidentes de IA “rebeldes” resultan inquietantes, los análisis posteriores han revelado que no se debieron tanto a nuevas capacidades enigmáticas como a descuidos y fallos de ingeniería que pueden mitigarse con prácticas de seguridad conocidas, incluidos los controles estándar de entornos aislados y la supervisión continua del comportamiento.
Del mismo modo, si bien algunos episodios de piratería informática basados en la IA han acaparado los titulares, no han implicado técnicas novedosas ni extraordinarias; por el contrario, han reflejado un uso más rápido o sofisticado de métodos tradicionales. Estos incidentes exigen un escrutinio minucioso. Pero, al menos hasta ahora, abogan más por la prudencia que por el pánico. Dicho esto, es evidente que los modelos de vanguardia están avanzando rápidamente y que los riesgos, incluso los menos probables, deben ser tomados en serio.
En este sentido, fue alentador ver cómo los principales ejecutivos del sector de la IA se reunieron en la Casa Blanca la semana pasada y acordaron un conjunto de medidas de precaución voluntarias, entre las cuales se incluyen nuevos controles internos, auditorías externas independientes y una mayor supervisión por parte de los consejos de administración. Además se comprometieron a “reunirse periódicamente para establecer normas y buenas prácticas”. Es un buen punto de partida. Los evaluadores independientes deberían contribuir a consolidar las mejores prácticas para un desarrollo y una implementación seguros.
Compartir normas y prácticas bajo los auspicios de la Casa Blanca es un enfoque más acertado que las exenciones antimonopolio que el sector había venido reclamando previamente. Y lo que es más importante, el acuerdo contribuye a establecer un principio clave: los laboratorios de inteligencia artificial son responsables de sus productos y de los daños que causen. Los responsables políticos deberían aprovechar este consenso. Para empezar, el Congreso debería exigir la divulgación confidencial de capacidades peligrosas e incidentes de seguridad; aclarar los estándares de responsabilidad para los modelos que causan daños externos.
Además debería invertir más en investigación sobre interpretabilidad y alineación; financiar adecuadamente la capacidad gubernamental para probar modelos de alto riesgo; y, fundamentalmente, garantizar que la infraestructura crítica esté reforzada contra ciberataques basados en IA. El poder ejecutivo, por su parte, debería trabajar para reforzar la resiliencia en toda la economía. Necesita probar modelos de vanguardia para capacidades de riesgo y hacer llegar la tecnología defensiva al mayor número posible de manos legítimas, basándose en el centro de intercambio de información sobre ciberseguridad e IA que creó en junio. Precisaría usar la política de contratación pública para mejorar los procesos de seguridad del software y acelerar la aplicación de parches y defensas automatizadas.
También debe mejorar el intercambio de información, incluso con los países aliados, sobre los riesgos graves. Desde luego, ninguna serie de políticas garantizará una seguridad perfecta, y los modelos de inteligencia artificial sin duda causarán más estragos. Sin embargo, el avance de cualquier nueva tecnología requiere ambición, experimentación y asumir riesgos, lo que incluye dar pasos hacia lo desconocido. Ese es el precio del progreso.
Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios. Lea más en Bloomberg.com
