A muchos, incluyendo a algunos católicos, les cuesta aceptar la doctrina de la infalibilidad papal. No obstante, las encíclicas papales, esos ensayos teológicos que los pontífices publican para orientar a los obispos “en sus relaciones con sus feligreses”, son indicadores casi siempre infalibles de la confianza social y económica. No deben ser ignoradas. El simple hecho de que el papa León XIV haya elegido publicar un ensayo de 40.000 palabras en el que sostiene que la inteligencia artificial debe “servir a la humanidad, no concentrar el poder” es una muestra de que el tema ha cobrado relevancia en la sociedad y apunta a que se avecina un punto de inflexión.
La Iglesia católica romana no destaca precisamente por su capacidad de adaptación, pero siempre que intenta reformarse, su sentido de la oportunidad es espectacular. El Concilio Vaticano II es un ejemplo magnífico. Convocado por el papa Juan XXIII en 1959, en una época de prosperidad estable, marcó el inicio de un periodo de cambios convulsos. Su primera sesión, que empezó en octubre de 1962, coincidió con la crisis de los misiles en Cuba.
La segunda, en plena beatlemanía, se vio interrumpida por el asesinato de John F. Kennedy. Cuando concluyó en 1965, bajo el pontificado de Pablo VI, la revolucionaria década de los sesenta ya estaba en pleno apogeo. De alguna manera, Juan había intuido que se avecinaba un punto de inflexión.
La Iglesia trata de seguir la guía del Espíritu Santo. Es posible que su calendario se rija por las prioridades de un Dios omnisciente. Sin embargo, no es necesario recurrir a lo sobrenatural. A pesar de todos sus defectos, la Iglesia ha conservado su importancia y su papel al actuar como un indicador de opinión de un poder sin igual.
Los sacerdotes actúan como intermediarios entre la población, adquieren un conocimiento profundo de sus feligreses y comunidades, y transmiten sus opiniones a una jerarquía que tiene como máximo representante al Papa. Las encíclicas papales, que culminan este proceso, abordan las principales preocupaciones de la sociedad. Todos deberíamos prestar atención a la encíclica de León XIII "Magnifica Humanitas" (Sobre la protección del ser humano en la era de la inteligencia artificial). Las encíclicas en la historia Con un simbolismo intencionado, esta encíclica apareció en el aniversario de la "Rerum Novarum" (Sobre el capital y el trabajo) de León XIII, publicada en 1891, que abordaba el “espíritu de cambio revolucionario” provocado por la Edad Dorada y proponía restablecer el equilibrio a favor de los trabajadores.
Anticipó el auge de los movimientos obreros organizados. Peter Atwater, economista de la Universidad William & Mary que analiza el impacto del estado de ánimo social en los mercados y la economía, apunta a una tesis de su alumna Francesca Pereira que demuestra que “las encíclicas papales de gran repercusión suelen coincidir con los momentos de mayor y menor confianza a nivel mundial”. Estas aparecen cuando la relación entre el Dow Jones Industrial Average (que sube cuando la gente es optimista) y el oro (elegido cuando son pesimistas) se encuentra en máximos o mínimos significativos, o cerca de ellos. “Mientras que la relación entre el Dow y el oro refleja el pesimismo y el optimismo del público en los mercados, las encíclicas papales constituyen la respuesta moral al estado de ánimo social”, afirma Pereira. Las nueve encíclicas de mayor repercusión desde 1925 se publicaron todas en momentos de gran incertidumbre o confianza.
Así, "Casti Connubii" (Sobre el matrimonio cristiano) reafirmó su oposición a todo control de la natalidad y a la eugenesia en 1930, cuando un momento de gran confianza se transformaba en una depresión global. La encíclica "Humanae Vitae" (Sobre la regulación de la natalidad), publicada en 1968, reiteró ese mensaje en plena revolución sexual (y en el apogeo de un mercado alcista). La Iglesia había perdido esta batalla en la sociedad, pero necesitaba manifestar su disconformidad. En junio de 2009, en “Caritas in Veritate”, Benedicto XVI abogó por aferrarse a la verdad objetiva en los momentos más oscuros de la Gran Recesión, cuando las teorías conspirativas acampaban a sus anchas. “Fratelli Tutti”, de Francisco , en 2020, imploró fraternidad y tolerancia hacia los inmigrantes en los días más sombríos de la pandemia. “Fides et Ratio”, la súplica de Juan Pablo II por el autoconocimiento, llegó a finales de 1998, justo cuando el optimismo apocalíptico de la década de 1990 estaba a punto de estallar.
Los pontífices no modifican el estado de ánimo de la sociedad, ni tampoco alteran la doctrina. Lo que hacen es cambiar de tono para abordar los temas de actualidad. “En vez de ser un vehículo para el cambio en la Iglesia”, observó Pereira, “los altibajos en la confianza suelen llevar a los líderes eclesiásticos a mantenerse firmes en las enseñanzas doctrinales fundamentales”. Al plasmar sus ideas por escrito, un papa envía una señal clara de que el estado de ánimo de la sociedad es extremo y exigirá una respuesta. Magnifica Humanitas debe interpretarse en un contexto donde Luigi Mangione, cuyo juicio por el asesinato del CEO de United Healthcare avanzó la semana pasada, es exaltado; los estudiantes de las universidades de élite abuchean cualquier mención de la IA en sus ceremonias de graduación, y la popularidad de las grandes empresas, incluso en Estados Unidos, está en su punto más bajo.
No es de extrañar que el Papa se sintiera obligado a pronunciarse. Inteligencia artificial y sociedad León tiene dos problemas principales con la inteligencia artificial: la falta de rendición de cuentas en su funcionamiento y el impacto de la tecnología en las personas y su sentido de identidad. Ambas preocupaciones reflejan inquietudes generalizadas. Sus argumentos pusieron a la iglesia en conflicto directo con los libertarios de Silicon Valley.
El Manifiesto del Optimista Tecnológico, un panfleto agresivo del poderoso capitalista de riesgo Marc Andreessen, atacó cualquier intento gubernamental de frenar el desarrollo de la IA. Argumentó: “La inteligencia artificial es nuestra alquimia, nuestra piedra filosofal; literalmente, hacemos pensar a la arena. Creemos que la inteligencia artificial se entiende mejor como una solución universal a los problemas. Y tenemos muchos problemas que resolver.
Creemos que la inteligencia artificial puede salvar vidas, si se lo permitimos. La desaceleración de la IA costará vidas… Las muertes que se podrían haber evitado con la IA que se impidió que existiera son una forma de asesinato.” León responde que el desarrollo tecnológico descontrolado puede dar lugar a “un aumento de los medios sin un crecimiento de la humanidad: tener más sin ser más”. En lugar de aceptar la IA como una piedra filosofal, sostiene: “La tecnología no es simplemente una herramienta. Cuando se convierte en el criterio con el que se juzga todo, empieza a dictar qué importa y qué se puede descartar, reduciendo la creación a un objeto de explotación y a los seres humanos a meros engranajes de un sistema impulsado hacia una eficiencia cada vez mayor.” León además alerta sobre la concentración de poder en unas pocas empresas dominantes de IA.
El enfoque permisivo de los gobiernos para regular los inicios de internet y las redes sociales, y su actitud relajada hacia las leyes antimonopolio, han permitido que unas pocas empresas puedan “establecer las condiciones de acceso” y “moldear las posibilidades mismas de participación”. Dicho poder concentrado, argumenta: “Tiende a volverse opaco y a eludir la supervisión pública, lo que aumenta el riesgo de que se produzcan formas de desarrollo distorsionadas que den lugar a nuevas dependencias, exclusiones, manipulaciones y desigualdades.” Su intervención ha llegado en un momento oportuno, ya que los planes de salida a bolsa este año de SpaceX (propietaria de xAI), OpenAI (desarrollador de ChatGPT) y Anthropic (que controla el chatbot Claude) dejarían incluso a los accionistas sin capacidad práctica para controlar o dirigir sus propias empresas. Aprendiendo de los errores cometidos con las redes sociales, el papa León XIV afirma que la sociedad debe evaluar si el poder de las infraestructuras digitales y los algoritmos fomenta realmente la participación y la responsabilidad, protege a los vulnerables, garantiza un acceso equitativo a las oportunidades y se mantiene orientado hacia el bien común. Facebook y Twitter no cumplieron con este cometido.
Y León, al igual que otros, desea proteger a los vulnerables de los chatbots de inteligencia artificial. La IA y el individuo La otra gran preocupación de Leo es el efecto de la IA en, como él mismo lo expresa en el título, la Magnificencia de la Humanidad. Actualmente, la gente trata a los chatbots de IA como si fueran personas con todos los atributos de los humanos, a pesar de que las IA: “No experimentan vivencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no saben, desde su interior, qué significan el amor, el trabajo, la amistad o la responsabilidad. Tampoco tienen conciencia moral.” Según él, la IA no es moralmente neutral y su uso nunca puede ser una cuestión puramente técnica; sin embargo, se presenta como objetiva y simula la comunicación humana.
Puede debilitar la creatividad y el juicio personales, y crear la ilusión de una relación con un sujeto personal real. Además, corre el riesgo de que sus consejos, aparentemente neutrales y objetivos, acaben reflejando y reforzando el estereotipo o el sesgo ideológico de sus diseñadores. Al presentar estos argumentos, Leo responde a algunas de las historias aterradoras que ya han salido a la luz, sobre cómo los chatbots de IA pueden reforzar lo que el usuario quiere oír hasta el punto deincitar a los adolescentes al suicidio. También continúa el eterno debate moral que enfrenta a la Iglesia y a los seguidores de lfilósofo Immanuel Kant (quien sostenía como imperativo categórico que ninguna persona debe ser tratada simplemente como un medio para un fin) contra el utilitarismo, la filosofía de hacer el mayor bien para el mayor número, en lugar de preocuparse por cada individuo.
Si al ser humano se le trata como algo que debe perfeccionarse o superarse, resulta más fácil aceptar que algunas vidas son menos útiles, menos deseables o menos valiosas", afirma, en una clásica repetición del argumento de Kant contra los utilitaristas. En nombre del progreso, advierte: “Los “sacrificios necesarios” podrían empezar a justificarse, trasladando la carga a los más vulnerables en pos de una supuesta optimización de la especie." No es necesario ser católico, ni siquiera creer en Dios, para encontrar ese argumento sumamente convincente. En cuanto al papa, existen argumentos libertarios y utilitaristas en contra de lo que dice, mientras que algunos católicos se quejan de que, al pedir una regulación más estricta de la IA en lugar de prohibirla, no ha ido lo suficientemente lejos. Pero al plantear este argumento ahora, el pontífice expresa una preocupación que se ha vuelto abrumadora en la sociedad, y ha cumplido con su deber como líder religioso al impulsar el debate moral.
Ese debate ahora debe intensificarse. Esta nota no refleja necesariamente la opinión del consejo editorial de Bloomberg LP y sus propietarios. Lea más en Bloomberg.com