León XIV: "Ningún algoritmo puede hacer que la guerra sea moralmente aceptable"

“¿La IA hace que la vida humana en la tierra, en todos sus aspectos, sea “más humana”? ¿La hace más “digna del hombre”?. Si la respuesta es «sí», entonces podemos reconocer en ella una buena posibilidad que habitar con responsabilidad, en un camino de reconstrucción paciente y compartida, siguiendo el modelo del renacimiento de Jerusalén narrado en el libro de Nehemías. Si, por el contrario, el poder crece mientras el corazón se seca y los lazos se rompen, entonces nos encontramos ante una nueva forma de Babel: una construcción grandiosa, pero inhumana”. El Papa León XIV acaba de hacer pública ‘Magnifica Humanitas’, su primera encíclica, “sobre la protección de la persona humana en al era de la Inteligencia Artificial”. Y lo ha hecho, como buen agustino, echando mano de las ‘dos ciudades’, con una comparación que se repite en varias ocasiones a lo largo de las 110 páginas de un texto perfectamente entrelazado en la base de la Doctrina Social de la Iglesia (inserta desde la ‘Rerum Novarum’ de León XIII) y los retos del mundo global (y digital): la lucha entre dos modelos: Babel y Jerusalén.

La tesis se mantiene del primer al último párrafo de su primer texto magisterial: “La Magnífica Humanidad creada por Dios se encuentra hoy ante una elección decisiva: levantar una nueva torre de Babel o construir una ciudad donde Dios y la humanidad convivan juntos”, explica al comienzo de una encíclica que, junto a la denuncia de los malos de la IA, propone un nuevo paradigma social, basado en el diálogo y en la extrema dignidad de toda persona humana frente al “control social” y las “nuevas esclavitudes” del algoritmo y los poderosos (esos no cambian). Con un dardo dirigido especialmente a Donald Trump: “Cualquier intento o proyecto de eliminar o someter a una nación es gravemente inmoral y, por lo tanto, inaceptable”. Y una llamada de fondo: “No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”.

“Cualquier intento o proyecto de eliminar o someter a una nación es gravemente inmoral y, por lo tanto, inaceptable”

“El anuncio del Evangelio no puede olvidar la vida concreta de los pueblos”, sostiene el pontífice quien tarda apenas cuatro párrafos en señalar cómo “la digitalización, la inteligencia artificial y la robótica están transformando nuestro mundo”. Como hiciera en su día León XIII, “ahora nos toca a nosotros asumir con lucidez y responsabilidad los restos de nuestro tiempo”, preguntándonos “quien detenta hoy este poder y hacia qué fines lo orienta”, en este “cambio de época”, en palabras de su antecesor Francisco.

En esta tesitura “entre edificar Babel o reconstruir Jerusalén”, el Papa advierte del “riesgo de la deshumanización” que plantea “la idolatría del beneficio que sacrifica a los débiles, la uniformidad que aplana las diferencias o la pretensión de un lenguaje único capaz de traducir todo, incluso el misterio de la persona, en datos y prestaciones”. Frente a ello, propone que “el pluralismo (…), en la práctica de la sinodalidad, se convierta en el esapcio en el que lahumanidad recupere sus sólidos cimientos y su fin último”.

Cosntruir, en definitiva, el bien común, aceptando la fragilidad humana “sin considerarlos un error que haya que corregir”, y a postando por “una corresponsabilidad valiente”. Y todo ello, con “un lenguaje evangélico”, evitando “las palabras que humillan o enfrentan” para “seguir siendo profundamente humanos” en la era de la Inteligencia Artificial. “No temamos ensuciarnos las manos en la obra de nuestro tiempo”, clama el pontífice en su introducción.

En su primer capítulo, León XIV hace un repaso de la Doctrina Social de la Iglesia desde León XIII a nuestros días, prestando especial relevancia al Concilio Vaticano II y al magisterio de los tres últimos papas, fundamentalmente Francisco. Así, sostiene, “la Iglesia reconoce el valor de las realidades políticas y sociales y respeta su propia responsabilidad (…) No pretende asumir las funciones que competen al Estado”, pero tampoco “permanecer ajena a los sufrimientos concretos”. De hecho, Prevost defiende la DSI “no como un manual de principios y normas que aplicar, sino un camino de discernimiento comunitario”. Que sirve para ayer y para el mundo de hoy, amenazado por “élites reducidas movidas por intereses particulares o ideológicos”, y apuesta, como hizo Bergoglio en Fratelli tutti, por “el sueño de una humanidad que sepa elegir la amistad social y la fraternidad universal”.

En el segundo capítulo, el Papa aborda los principios de la DSI, aplicándolos al momento presente. De este modo, tras defender “la igual dignidad de todos los seres humanos”, hace una cerrada defensa del multilateralismo y (pese a sus fallos, como dirá posteriormente) de Naciones Unidas, abogando a la comunidad internacional a “proteger y promover” los derechos humanos más allá de “una declaración formal de los mismos”.

Especial atención merece la constatación de que “aún queda mucho camino por recorrer para que, en todo el mundo, se garanticen verdaderamente de manera igualitaria los derechos de una gran parte de la población, es decir, los de las mujeres”, con “decisiones concretas”. “Mientras persista esta brecha , no podremos decir que la sociedad reconoce verdaderamente, hasta el fondo, que las mujeres tienen la misma dignidad que los hombres”.

Por ello, el Papa apuesta por “el bien común” que “da vida a un pueblo”. En este punto, León XIV lamenta que “cuando la política renuncia a una visión a largo plazo y se reduce a cálculos a corto plazo, o a polarizaciones estériles (…), crecen las desdigualdades y las fracturas sociales”.

“Cualquier proyecto de eliminar o someter a una nación es gravemente inmoral, y por tanto, inaceptable”

“Invito a todos -proclama el pontífice- a pensar en formas de cooperación e instituciones internacionales más eficaces, capaces de custordiar el bien común global sin anular la legítima pluralidad de los pueblos y los Estados”, con una nada oculta referencia a Trump (son palabras similares a las que dijo ante la amenaza de destrucción de Irán) al afirmar con rotundidad que “cualquier proyecto de eliminar o someter a una nación es gravemente inmoral, y por tanto, inaceptable”.

Tras defender el derecho a la propiedad universal de los bienes, el Papa avanza la crítica a las “nuevas formas de propiedad: patentes, algoritmos, plataformas digitales, infraestructuras tecnológicas, datos”, que pueden crear “un nuevo desequilibrio (que) alimenta la brecha entre incluidos y excluidos, entre quienes pueden participar en la revolución digital y quienes quedan al margen”. Frente a esta realidad, Prevost aboga por el principio de solidaridad y la defensa de la justicia social, que “exige una mirada que parta de los últimos”: migrantes, pobres, refugiados o víctimas de la violencia, pero también las víctimas de “estructuras que producen desigualdad casi automáticamente”. En este punto el Papa advierte del riesgo de un nuevo colonialismo en el ámbito de las tecnologías digitales.

Hablando de la realidad de la migración, León XIV reclama “dos compromisos complementarios”. En primer lugar, “salvaguardar el derecho a la esperanza de quienes se ven obligados a partir, garantizando vías seguras y legales, condiciones de acogida digna y vías reales de integración”. En segundo término, “promover también el derecho a permanecer en la propia tierra en paz y seguridad, abordando las causas profundas que obligan a migrar”, apostando por un desarrollo humano integral que reconozca “los derechos sociales y de los pueblos”.

“Concretamente, la participación de los bautizados en los procesos decisorios y la corresponsabilidad en la misión pasan por organismos de participación reales, no nominales”

Y hacerlo desde “un estilo sinodal” en la toma de decisiones, también en la Iglesia, evitando todo paternalismo que ahogue la libertad evangélica”. “Concretamente, la participación de los bautizados en los procesos decisorios y la corresponsabilidad en la misión pasan por organismos de participación reales, no nominales”, reclama Prevost, quien también insta a emprender “un camino de justicia” con “las víctimas de abusos espirituales, económicos, institucionales, sexuales, de poder y de conciencia”, basado en “el reconocimiento del daño, la justa reparación y la prevención”.

En el tercer capítulo, el Papa entra de lleno en los riesgos y oportunidades de la Inteligencia Artificial. Así, advierte del riesgo de que “un poder de tal envergadura se concentra en unas pocas manos, tiende a volvese opaco y a escapar al control público, y crece el riesgo de un desarrollo distorsionado que genera nuevas dependencias, exclusiones, manipulaciones y desigualdades”.

La IA puede ser una ayuda valiosa y, al mismo tiempo, requiere un enfoque sobrio y vigilante” para que no “generar nuevas formas de exclusión

Sin querer juzgar a la IA, “cualquier afirmación corre el riesgo de quedar obsoleta en poco tiempo”, el Papa sí invita a “evitar el equívoco” de equipararla a la inteligencia humana, pues la IA “no tiene conciencia moral” ni “comprende lo que produce”. “La IA puede ser una ayuda valiosa y, al mismo tiempo, requiere un enfoque sobrio y vigilante” para que no “generar nuevas formas de exclusión”. Una exclusión que cede a un algoritmo el pese de las grandes decisiones, en la que “la injusticia se vuelve silenciosa y la compasión, la misericordia y el perdón (…) desaparecen del horizonte”.

“No podemos considerar que la IA sea moralmente neutra”

“No podemos considerar que la IA sea moralmente neutra”, constata León, quien invita a la transparencia, y a la prudencia, para “debatir el código ético que se va a utilizar”. “De lo contrario añade- quienes controlan la IA impondrán su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas”. “No sirve de nada una IA más moral, si esa moral la deciden unos pocos”, afirma con rotundidad, advirtiendo de que “pequeños grupos muy influentes pueden orientar la información y el consumo, condicionar los procesos democráticos e influir en las dinámicas económicas en su propio beneficio, contradiciendo la justicia social y la solidaridad de entre los pueblos”.

“No sirve de nada una IA más moral, si esa moral la deciden unos pocos”, afirma con rotundidad, advirtiendo de que “pequeños grupos muy influentes pueden orientar la información y el consumo, condicionar los procesos democráticos e influir en las dinámicas económicas en su propio beneficio, contradiciendo la justicia social y la solidaridad de entre los pueblos”

Por ello, el Papa lanza una petición, la de “desarmar la IA” para “impedir que domine a lo humano”. “Dirijo un llamamiento especial a quienes desarrollan la inteligencia artificial (…): están llamados a tratar con la debida seriedad los valores que infunden en sus proyectos: con transparencia, con responsabilidad hacia las comunidades implicadas y con la atención necesaria para verificar que lo que se cultiva sea realmente un bien”. Prevost se muestra muy crítico con las “narrativas de fondo”, el transhumanismo y el posthumanismo. “En nombre del progreso se puede llegar a imaginar ‘sacrificios necesarios’ y hacer que los más frágiles paguen el precio de una supuesta optimización de la especie”, sostiene, poniendo ejemplos de “la corrupción moral” a la que pudo llegar el ser humano durante el nazismo, y reivindicando los Derechos Humanos o a ‘santos’ laicos (Luther King, Nelson Mandela, Teresa de Calcuta, María Montesori o Benazir Bhuto) y “mártires de la fraternidad y de la justicia como San Maximiliano María Kolbe, San Óscar Romero y el beato Enrique Angelelli”, unidos a los “mártires de lo cotidiano”. “Por eso la humanidad -magnífica y herida- no debe ser sustituida ni superada (…). Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el comienzo de un cambio profundo. El futuro de una persona no es calculable, está confiado a su libertad” clama el Papa.

“En nombre del progreso se puede llegar a imaginar ‘sacrificios necesarios’ y hacer que los más frágiles paguen el precio de una supuesta optimización de la especie”

Cuidar lo humano es el leit motiv del cuarto capítulo, en el que Prevost aborda cuestiones como la verdad y la democracia, denunciando cómo la tecnología puede usarse “para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso”. “La desinformación no surge con la IA, pero hoy encuentra en ella un potente multiplicador”, glosa León XIV, quien echa mano de Hannah Arendt para advertir que “el desinterés por la verdad lleva, lenta pero inexorablemente, a deslizarse hacia el totalitarismo”.

“Hemos asistido con vergüenza al laborioso descubrimiento de verdades dolorosas, incluso sobre miembros de la Iglesia y sobre realidades eclesiales. En particular, algunos periodistas apasionados por la verdad han desempeñado un papel fundamental a la hora de sacar a la luz injusticias y abusos”

Una verdad que debe ser comunicada, aunque duela. También, de nuevo, poniendo como ejemplo a la Iglesia. “Hemos asistido con vergüenza al laborioso descubrimiento de verdades dolorosas, incluso sobre miembros de la Iglesia y sobre realidades eclesiales. En particular, algunos periodistas apasionados por la verdad han desempeñado un papel fundamental a la hora de sacar a la luz injusticias y abusos”, explica Prevost, quien repite las palabras de Bergoglio: “Les agradezco también lo que cuentan sobre lo que no va bien en la Iglesia, por ayudarnos a no esconderlo bajo la alfombra y por la voz que han dado a las víctimas de abusos”, y recuerda que “la vigilancia y la transparencia son ante todo una grave responsabilidad de la propia Iglesia y no debemos esperar a que otros nos obliguen a afrontar verdades incómodas sobre nosotros mismos”. Quien tenga oídos…

Ayunar de la IA

Los procesos educativos, en los que el Papa propone “ayunar de la IA” para “proteger a nuestros jóvenes de la promesa de la máquina perfecta”, la tecnología como sustituta de la educación o el difícil papel de los padres (aquí, Prevost lanza la necesidad de “una alianza” entre la política, las instituciones educativas y las familias), además de las “fuertes desigualdades en el acceso a la educación” que aún persisten en el planeta.

Llegados a este punto, León XIV plantea uno de los principales ejes de su encíclica, el valor del trabajo y su dignidad en tiempos de la IA, abogando por la dignidad del trabajo y alertando contra el desempleo que trae la excesiva automatización. “Se necesita un nuevo esfuerzo convergente de los responsables políticos, las organizaciones de trabajadores, el mundo empresarial y la comunidad científica para elaborar rápidamente normas y protecciones adecuadas y compartidas, también a nivel internacional”, estableciendo “criterios sociales” para que la automatización proteja el empleo, “para que la tecnología esté orientada a liberar tiempo y capacidades humanas y no a generar exclusión”.

Romper las cadenas de las nuevas esclavitudes

“En la era de la IA ya no es posible confiar únicamente en la ‘mano invisible’ del mercado”, sino que “es necesaria una cooperación internacional capaz de definir estrategias comunes”. ¿Cuáles? Prevost define tres: transparencia y responsabilidad, inclusión y acceso, y medidas de equidad. Un camino en el que se deriva “una responsabilidad pública específica”, especialmente en el caso de los estados, que eviten “las dependencias y el control social”.

En este punto, el Papa aboga por “romper las cadenas de las nuevas esclavitudes” en la que se encuentran “millones de seres humanos” en su mayor parte jóvenes y mujeres que “trabajan duramente a cambio de remuneraciones mínimas”. Así, añade, “la Iglesia renueva su firme condena de toda forma de esclavitud” y recuerda que “no reaccionar con firmeza o tolerar estas prácticas significa, en cierta medida, hacerse cómplice hoy de las culpas cometidas ayer, cuando la esclavitud se justificaba o se silenciaba”.

“Es inevitable sentir un profundo dolor al considerar el enorme sufrimiento y la humillación que la esclavitud ha significado para tantas personas (…). Por eso, en nombre de la Iglesia, pido sinceramente perdón”

De nuevo, en este punto, Prevost entona el mea culpa. “Es inevitable sentir un profundo dolor al considerar el enorme sufrimiento y la humillación que la esclavitud ha significado para tantas personas (…). Por eso, en nombre de la Iglesia, pido sinceramente perdón”. Una esclavitud que, a veces, toma el rostro del colonialismo, “que no solo domina los cuerpos, sino que se apropia de los datos”. Y, de nuevo, una advertencia: “Si la técnica se convierte en criterio absoluto, la persona corre el riesgo de ser tratada como un dato, un engranaje o una mercancía”.

En el quinto capítulo de la encíclica, ‘La cultura del poder y la civilización del amor’, Prevost entre de lleno en las “graves repercusiones” que un mal uso de la tecnología puede tener en la guerra, transformada por formas híbridas, como “los ataques cibernéticos, la manipulación de la información, campañas de influencia o automatización de decisiones estratégicas”, además de la potenciación de la propia industria de la guerra.

Hoy, reconoce el Papa, asistimos a “la expansión de una cultura del poder, hecha de polarizaciones y violencias”. “Se está consolidando una cultura del poder, en la que la disponibilidad de medios y la capacidad de dominar tienden a dictar la agenda y los criterios de decisión, relegando el bien común de la humanidad a un segundo plano y reduciendo el drama concreto de los pueblos en guerra a una variable secundaria respecto a los intereses estratégicos”, subraya Prevost, quien lamenta “la normalización de la guerra”.

Memoria histórica

“Hoy asistimos a un verdadero cambio de paradigma en el discurso público y en las decisiones de rearme, con una preocupante rehabilitación de la guerra como instrumento de política internacional, mientras se erosionan precisamente aquellos criterios éticos que habían limitado su uso”, añade el pontífice, quien alerta de “una preocupante pérdida de memoria histórica”, en “un clima en el que las noticias falsas y las manipulaciones narrativas empañan las lecciones aprendidas”. “Sin una memoria viva de los horrores de la guerra -apunta Prevost- las decisiones políticas corren el riesgo de tomarse basándose en cálculos de fuerza, carentes de una visión de las consecuencias a largo plazo”.

Es en dicho clima donde “la humanidad está cayendo en una cultura violenta del poder, donde la paz ya no aparece como una tarea que asumir, sino como un intervalo precario entre conflictos”. De ahí la necesidad de la condena a la “guerra justa”, “invocada con demasiada frecuencia para justificar cualquier guerra”, con “consecuencias desastrosas para las poblaciones civiles”.

“Es mucho más sencillo iniciar una guerra que detenerla y, sin embargo, la reflexión sobre la prevención de conflictos sigue siendo dramáticamente marginal”

A ello se suma el crecimiento de la industria bélica. “No podemos ignorar los enormes intereses económicos que se esconden tras la guerra”, apunta el pontífice, quien señala la “disuasión nuclear” y la “difícilmente controlable carrera armamentística”, en una carrera sin fin. “Es mucho más sencillo iniciar una guerra que detenerla y, sin embargo, la reflexión sobre la prevención de conflictos sigue siendo dramáticamente marginal”.

“No existe ningún algoritmo que pueda hacer que la guerra sea moralmente aceptable”, replica León XIV, quien admite del riesgo de que nos acostumbremos “a la idea de que la violencia es inevitable y solo debe optimizarse”.

“La fuerza del derecho internacional se ve así sustituida por la supuesta ley del más fuerte”, en un “falso realismo”, en la que “los extremismos religiosos y fanatismos identitarios se alían con un economicismo irracional”, mientras que la política “recurre a la desinformación, la ridiculización del adversario y la construcción sistemática de miedos y resentimientos”, siguiendo “cálculos de utilidad o seguridad”

A ello se suma “la crisis del multilateralismo”. “En lugar de avanzar, estamos retrocediendo con respecto al giro histórico del siglo XX”, asumiendo que “la globalización no ha generado automáticamente unidad y paz, sino que ha suscitado reacciones fundamentalistas, identitarias y nacionalistas”. Así, “resurge la tentación de construir la identidad colectiva frente a un enemigo, alimentando narrativas en las que cada uno se presenta como víctima con derecho a la venganza”. “La fuerza del derecho internacional se ve así sustituida por la supuesta ley del más fuerte”, en un “falso realismo”, en la que “los extremismos religiosos y fanatismos identitarios se alían con un economicismo irracional”, mientras que la política “recurre a la desinformación, la ridiculización del adversario y la construcción sistemática de miedos y resentimientos”, siguiendo “cálculos de utilidad o seguridad”.

“La construcción de un mundo en estado de beligerancia permanente es un mal, y hay que llamarlo por su nombre”, apunta con rotundidad el Papa. ¿Qué hacer?, se pregunta Prevost, citando al Tolkien de El Señor de los Anillos para apuntalar la necesidad de afrontar “nuestra responsabilidad cotidiana y pública”.

“Desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivas un sano realismo y relanzar el diálogo y el multilateralismo”

¿Cómo? Con cinco vías: “desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivas un sano realismo y relanzar el diálogo y el multilateralismo”.

“Hay conflictos en los que no es justo permanecer neutrales”, como los bombardeos contra civiles, ataques a hospitales o escuelas. “Dar espacio a la mirada y a la voz de las víctimas ayuda a tomar verdadera conciencia del abismo del mal que encierra la guerra y, en general, toda violencia”, sostiene el Papa, quien sostiene que “la Iglesia puede ser un lugar de memoria viva de las víctimas”.

De la cultura del poder a la cultura de la negociación

En lo político, León XIV considera “urgente pasar de la cultura del poder a una auténtica cultura de la negociación”, recordando sus palabras al inicio de su pontificado (“La guerra nunca es inevitable”), denunciando a quienes utilizan el nombre de Dios “para legitimar el terrorismo” y recuperando “la necesidad de la diplomacia y el multilateralismo”.

“Las organizaciones internacionales, en particular la ONU, siguen siendo instrumentos esenciales para promover una civilización del amor, apoyando el diálogo entre las naciones, la solución pacífica de los conflictos, el desarrollo integral de los pueblos, la protección de las personas más vulnerables, el desarme y el cuidado de la creación”, reclama el Papa. “La Santa Sede apoya y acompaña este compromiso, aunque reconoce que la actual debilidad de la ONU y del sistema político internacional pone de manifiesto la necesidad de reformas profundas: no se trata solo de ajustes técnicos, ya que la crisis de convicciones y de valores afecta también a los fundamentos éticos de la vida de las naciones y dificulta orientar el multilateralismo hacia el verdadero bien común”, constata.

En sus conclusiones, el Papa, “como creyente entre creyentes”, invita a “contemplar en el rostro del Hijo una magnifica humanidad que ilumina también el tiempo de la IA”, animando a los cristianos a “asumir un papel activo, sin refugiarnos en el espiritualismo o en nuestros pequeños mundos”. “¡Mantengámonos fieles a la verdad!”, apunta. “¡Cuidemos las relaciones!” añade. “¡Invirtamos en la educación!”, constata. “¡Amemos la justicia y la paz!”, finaliza.