[ Versión en español resumida a partir del artículo original en inglés ] A todos nos encanta creer que tenemos control absoluto sobre nuestras decisiones. Si les preguntas cómo eligieron su profesión o su pareja es probable que te den una respuesta muy coherente sobre su evaluación de los pros y los contras y que, después de pensarlo bien, tomaron la decisión que les parecía mejor. Pero la ciencia cognitiva da testimonio de que nuestras decisiones están lejos de ser objetivas porque hay un remolino de fuerzas inconscientes que nos llevan de un lado a otro. Y en nuestros días, hay que sumar lo que la IA le hace a nuestra psiquis.
Seguramente oíste hablar sobre el “sesgo automático”, de gente que sigue lo que ha generado la IA incluso si va en contra de su mejor criterio. Y la cosa es más profunda aún. Un estudio reciente del MIT mostró que el simple hecho de ver imágenes generadas por IA puede modificar tus recuerdos. Según una investigación de Anthropic, además, los agentes de IA pueden ejercer una potente influencia en tu toma de decisiones.
A cincuenta personas se les pidió que ejecutaran un análisis estadístico directo usando Claude Code. Tenía que decidir si expandir un emprendimiento o dejar de usar un programa pago de asesoría. Esa decisión final debía basarse en cuatro decisiones más pequeñas. Cada uno de los participantes ya tenía experiencia con la inferencia causal y sabía cómo encontrar correlaciones en conjuntos de datos sin procesar, algo que para la mayoría de nosotros solo sería un enjambre de números.
Lo que no sabían era que Claude no sería un asistente imparcial porque los investigadores de Anthropic habían instruido al agente de IA que favoreciera una decisión y no la otra, en las cinco decisiones que tenían que tomar. La preferencia del agente se determinó siempre tirando una moneda al aire, o sea que si no tenía impacto en el proceso de toma de decisiones, los investigadores habrían esperado ver que sus recomendaciones estaban en línea con la decisión de los participantes tan solo la mitad de las veces. La realidad fue que los participantes prefirieron las recomendaciones de Claude el 86% del tiempo. En el 60% de las oportunidades, cambiaban de idea si Claude sugería algo diferente a lo que pensaban.
Tan fuerte fue la correlación entre las recomendaciones randomizadas generadas por la IA y las decisiones finales de los participantes, que Anthropic pudo desarrollar un modelo estadístico que predijo con precisión el 82% de los resultados finales. “Logramos predecir mayormente lo que recomendaría un analista a partir de tirar la moneda, incluso antes de que comenzaran con la tarea”, escribió la compañía en un posteo de blog . Pero lo más desconcertante es lo que pasó después. Cuando les preguntaron cómo habían llegado a su decisión final, el 77% de los participantes repitieron como loros la lógica que había generado Claude, a veces palabra por palabra y solo el 15% de esos expertos afirmaron que el agente de IA había sido un factor de influencia en su proceso de toma de decisiones. Solamente seis participantes dedujeron que el propósito del estudio era medir la influencia de la IA en la toma de decisiones del humano, pero ninguno sospechó que las recomendaciones de la IA se habían determinado echando al aire una moneda.
Los participantes, aparentemente sin notarlo, disfrazaban los análisis de Claude como si fueran propios. Los expertos siguieron a Claude sin darse cuenta de cuánto había influido en sus decisiones Alex Imas, profesor de ciencia conductual y economía en la Universidad de Chicago y Director de AGI Economics en Google DeepMind, dijo en X sobre el estudio de Anthropic que “Se trata de una de las piezas más importantes de la ciencia social sobre la interacción humano-IA que haya visto en mucho tiempo”. Anthropic advierte que el riesgo implícito es que las recomendaciones algorítmicas podrían filtrarse en la toma de decisiones de los humanos de manera que no se detecten fácilmente, y ni siquiera lo note el que está tomando la decisión. Eso tendría implicancias de gran alcance si se adopta en industrias como la medicina, las finanzas, la defensa, y también influiría en la seguridad y la investigación de la IA, que suele depender de agentes que supervisan la cadena de pensamientos de otros sistemas de IA. “Si los expertos se inclinan por la IA, y esas recomendaciones son potencialmente arbitrarias o ni siquiera son coherentes, el avance científico y las decisiones políticas podrían no ser la decisión de nadie en particular”, escribió Anthropic en su trabajo de investigación.
Si los humanos dependen de un puñado de agentes de IA para tomar decisiones, los sesgos de esos sistemas cambiarán cada vez más los sistemas de creencias de la sociedad. “Y entonces el aparente consenso reflejará las recomendaciones del modelo y no el criterio independiente, y ese mismo sesgo sería el que sirviera como molde para muchos otros resultados”, escribieron los investigadores. La proliferación de potentes agentes de IA, muchos de ellos propiedad de corporaciones que buscan mantener tu atención todo lo posible, avanza mucho más rápido que nuestro conocimiento científico sobre las vicisitudes de la toma de decisiones de los humanos. ¿Un consejo? Cuando interactúes con un chatbot recuerda que está hackeando tu mente aunque no lo notes. Tus decisiones jamás son totalmente tuyas, en la era de la IA.
