La inteligencia artificial ya no se limita a responder preguntas, escribir textos o generar imágenes. Los sistemas más avanzados empiezan a ejecutar tareas completas, interactuar con plataformas digitales y tomar decisiones operativas sin necesitar instrucciones humanas en cada paso. Lo que hace pocos años parecía una posibilidad lejana comienza a convertirse en una realidad, y algunos especialistas advierten que estamos avanzando más rápido de lo que podemos controlar. Una de las voces que acaba de sumarse al debate es Catalina Botero, abogada colombiana especializada en derechos humanos y regulación tecnológica.
Durante una entrevista con José Antonio Montenegro en el programa GloboEconomía de CNN en Español , emitida el 16 de octubre, utilizó una comparación inquietante para describir el rumbo de la industria: «Estamos creando unas máquinas, que son una especie de ejércitos sin alma». La frase plantea una cuestión que la industria tecnológica todavía intenta resolver: ¿qué sucede cuando entregamos cada vez más autonomía a sistemas que no poseen responsabilidad moral y cuyo comportamiento no siempre podemos anticipar? La inteligencia artificial está dejando de ser una herramienta que simplemente obedece La regulación de la inteligencia artificial se ha convertido en una prioridad para gobiernos y organismos internacionales, que buscan establecer obligaciones de transparencia, seguridad y supervisión. © Frédéric Marvaux/European Union. Para comprender el alcance de la advertencia, hay que observar cómo está evolucionando esta tecnología .
Los primeros asistentes basados en modelos de lenguaje necesitaban instrucciones relativamente concretas para producir una respuesta. Hoy, los denominados agentes de IA pueden descomponer objetivos, utilizar herramientas digitales y completar secuencias de acciones con una supervisión humana limitada. En febrero de 2026, el Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) lanzó una iniciativa específica para establecer estándares de seguridad e interoperabilidad de agentes de IA . El organismo reconoció que estos sistemas ya pueden escribir código, gestionar correos electrónicos, organizar calendarios y realizar compras, entre otras actividades.
El cambio resulta importante porque introduce una diferencia entre recomendar una decisión y ejecutarla. Un chatbot puede explicar cómo modificar una base de datos; un agente con permisos suficientes podría introducir esos cambios directamente. Esto no significa que los sistemas actuales tengan voluntad propia, conciencia o intenciones comparables a las humanas. Su autonomía es funcional: pueden seleccionar y ejecutar acciones dentro de los recursos y objetivos que se les proporcionan.
Pero precisamente ahí aparece uno de los problemas. El NIST advirtió en enero que conectar modelos de IA con herramientas capaces de modificar sistemas reales introduce riesgos de seguridad específicos , diferentes de los asociados al software convencional. El peligro no es que las máquinas tengan malas intenciones, sino que nadie responda por sus decisiones Catalina Botero Marino, jurista colombiana y exrelatora especial para la libertad de expresión de la CIDH, advirtió sobre los riesgos que plantea el desarrollo de la inteligencia artificial. © BID Invest. La preocupación expresada por Botero conecta con una discusión más amplia sobre derechos humanos, responsabilidad y poder tecnológico.
La jurista fue relatora especial para la libertad de expresión de la Comisión Interamericana de Derechos Humanos entre 2008 y 2014 , una experiencia vinculada a los límites del poder y la protección de los derechos fundamentales. El problema de los sistemas automatizados no reside necesariamente en que decidan causar daños, sino en que sus resultados pueden tener consecuencias importantes sin que exista una responsabilidad claramente distribuida entre desarrolladores, empresas y usuarios. La UNESCO advirtió en su Recomendación sobre la Ética de la Inteligencia Artificial que estos sistemas pueden afectar la privacidad, la igualdad, el empleo, la libertad de expresión y otros derechos fundamentales. También señaló que los algoritmos pueden reproducir prejuicios presentes en la sociedad y amplificar formas existentes de discriminación.
La dificultad aumenta cuando las decisiones automatizadas se incorporan a instituciones públicas y privadas. Según el informe Digital Government Outlook 2026 de la OCDE , 35 de los 36 países examinados ya utilizaban inteligencia artificial en al menos una actividad gubernamental. Sin embargo, apenas el 39% exigía evaluaciones de riesgo antes de implementar estos sistemas y solo el 31% realizaba auditorías posteriores. Las cifras reflejan una distancia considerable entre la velocidad de adopción y los mecanismos destinados a vigilar sus consecuencias.
La gran pregunta es quién tendrá el control cuando los sistemas sean todavía más capaces La advertencia llega en un momento en que la supervisión independiente de la inteligencia artificial continúa siendo objeto de disputa. Según una investigación de Reuters publicada el 13 de octubre de 2026 , OpenAI y Anthropic mantenían discusiones sobre cuánto control debían conservar las empresas sobre la publicación de evaluaciones externas de seguridad. El debate enfrenta la necesidad de transparencia con la protección de información comercial sensible. Mientras tanto, la OCDE ha identificado la supervisión humana, la trazabilidad y la definición de responsabilidades como elementos fundamentales para incorporar agentes autónomos a organizaciones reales.
La frase de Botero funciona como una advertencia sobre la concentración de capacidades tecnológicas, aunque no demuestra que los sistemas actuales se comporten como ejércitos ni que sean intrínsecamente incontrolables. La inteligencia artificial puede contribuir a mejorar procesos médicos, científicos, educativos e industriales. Pero esas posibilidades no eliminan la necesidad de establecer límites verificables, especialmente cuando las decisiones automatizadas afectan a otras personas. La paradoja es que estamos enseñando a las máquinas a realizar tareas cada vez más complejas, mientras seguimos intentando responder una pregunta mucho más básica: quién debe hacerse responsable cuando sus decisiones salen mal.
