Uno de los fundadores de la empresa que desarrolla Claude cree que la inteligencia artificial está avanzando demasiado rápido como para dejar toda su seguridad en manos de las compañías que la construyen. Este ha dejado una frase bastante contundente sobre el estado actual de la IA: “Estamos tirando los dados con riesgos inmensos”. La frase forma parte de una entrevista publicada por la BBC el 14 de septiembre. Más allá de la advertencia, lo cierto es que la entrevista es bastante jugosa.
Clark abre la puerta a que llegue un momento en el que la ley obligue a las empresas que desarrollan los sistemas de IA más avanzados a disponer de una especie de “kill switch”. Para el que no esté familiarizado con el término, se trata de un mecanismo capaz de apagar la IA completamente si se vuelve demasiado peligrosa y cuya existencia pueda comprobar un tercero independiente. “Estamos tirando los dados con riesgos inmensos” La BBC preguntó a Clark qué probabilidad asignaría a que la inteligencia artificial llegase a acabar con todos los seres humanos. Este no entró en la guerra de porcentajes que sí tuvimos la semana pasada y dijo textualmente que “no considera especialmente útiles esas estadísticas”. Eso sí, nada más terminar, lanzó una advertencia mucho más amplia: “We are rolling dice with immense risks.
And the point is, we have to change the course of this industry” o en español, “estamos tirando los dados con riesgos inmensos. Y la cuestión es que tenemos que cambiar el rumbo de esta industria”. Este considera problemático que una tecnología que gana capacidades rápidamente continúe desarrollándose como una industria prácticamente sin regulación específica para algunos de sus riesgos más extremos. Su argumento es claro: si el daño potencial es extraordinariamente alto, esperar a conocer con certeza la probabilidad puede ser una apuesta demasiado arriesgada.
El “botón de apagado” que Anthropic cree que podría terminar siendo obligatorio Una de las novedades más relevantes de sus declaraciones la encontramos en la necesidad de un “botón de apagado”. Clark explica que la mayoría de los grandes laboratorios de inteligencia artificial ya disponen de diferentes formas de “pull the plug”, literalmente para desconectar o detener sus sistemas. Eso sí, lo que plantea va a traer cola: ¿Debería bastar con que cada empresa diga que puede apagar su modelo? Clark cree que no y considera que este mecanismo de apagado debería ser verificable por una tercera parte independiente y que su existencia deje de ser voluntaria para pasar a convertirse en una obligación.
No sería simplemente poner un botón rojo al lado de ChatGPT o Claude Así a bote pronto podemos imaginarnos una enorme palanca capaz de apagar una inteligencia artificial con solo bajarla, pero la realidad técnica es más compleja. Los modelos funcionan sobre enormes infraestructuras distribuidas, pueden existir distintas versiones de sus pesos, copias para evaluación, sistemas desplegados mediante API y agentes que tienen acceso a herramientas externas. Tener un mecanismo de apagado no es sencillo e incluso aparece en un vacío legislativo. Dos congresistas de EEUU, el demócrata Ted Lieu y el republicano Nathaniel Moran, presentaron el pasado 23 de julio la AI Kill Switch Act, H.R. 9917.
Por ahora es un proyecto de ley y no está vigente. Además, es algo que debería coordinarse a nivel mundial. No tendría ningún sentido que las empresas americanas lo acordaran y que, en otras partes del mundo, como en China, pasaran totalmente de estas preocupaciones de seguridad. Por si fuera poco, la idea de un botón de apagado choca con la visión de varios expertos.
El investigador australiano Toby Walsh, por ejemplo, ha calificado la discusión sobre un kill switch de distracción simplista.