Czerny: "La IA es una obra en construcción"

(Salvatore Cernuzio, Vatican News).- Es una humanidad «herida» la que habita la era actual. Herida hasta el punto de «asesinar a miles de niños e inocentes en guerras que incluso violan el derecho internacional», hasta el punto de «reducir a tantas personas a la esclavitud» y hasta alcanzar «niveles de indiferencia, cinismo y crueldad que no dejan de asombrarnos». A pesar de todo, el Papa León XIV llama a esta humanidad «magnífica». Y por eso, en su primera encíclica —Magnifica Humanitas— , llama a protegerla y valorarla, a «vigilar atentamente contra nuevas formas de deshumanización» y a permanecer «fiel» a su grandeza, en un momento en que una revolución como la Inteligencia Artificial (IA) amenaza con ponerlo todo en peligro. Hoy, 25 de mayo, tres cardenales ilustraron, en el Aula del Sínodo, las intenciones, los detalles, los matices y las implicaciones teológicas y sociales de la primera encíclica de León XIV.

No se trata de un documento sobre IA, sino de un análisis de lo que la IA significa para la humanidad y el mundo «en una época marcada por transformaciones rápidas, profundas y responsables», como destacó el cardenal secretario de Estado Pietro Parolin, uno de los ponentes de la presentación junto con los cardenales Michael Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, y Víctor Manuel Fernández, prefecto del Dicasterio para la Doctrina de la Fe. A ellos, se unieron profesores universitarios y expertos en la materia, así como el propio Papa León XIV, quien concluyó la jornada con un discurso explicando la génesis y la misión del magisterio.

La Iglesia está llamada a discernir los desafíos de la historia

Parolin moderó las diversas intervenciones en el Aula, introduciendo el evento con una amplia reflexión sobre la «transición digital», que, «como un prisma», refleja muchas cuestiones que impregnan la vida contemporánea: «La dignidad de la persona, el trabajo, la libertad, la calidad de los lazos sociales, la paz, la justicia, la responsabilidad hacia nuestra casa común».

Parolin situó la Magnifica Humanitas en el contexto de la doctrina social de la Iglesia: hace 135 años, el Rerum Novarum de León XIII «reconoció las transformaciones industriales de su tiempo como una cuestión profundamente humana y social»

El Secretario de Estado situó la Magnifica Humanitas en el contexto de la doctrina social de la Iglesia: hace 135 años, el Rerum Novarum de León XIII «reconoció las transformaciones industriales de su tiempo como una cuestión profundamente humana y social». Hoy, ante el poder de las tecnologías digitales, «la Iglesia está llamada una vez más a discernir las novedades de la historia» y a ofrecer «una contribución al bien de toda la humanidad». Y a hacerlo a través del diálogo. Este es el principal aspecto nuevo, según Parolin: en tiempos de León XIII, «no siempre era posible para la Iglesia entablar un diálogo directo con los principales actores económicos, políticos e industriales que guiaban la transformación social». Hoy, «este diálogo ya está en marcha e involucra a instituciones, gobiernos, universidades, empresas y centros de investigación». La Iglesia participa en este proceso «con confianza y libertad», convencida de que «escuchar a los implicados» hace más concreto su servicio y más eficaz su contribución a la protección de la humanidad.

La presencia en el Aula del Sínodo de voces del mundo de la IA debe interpretarse desde esta perspectiva explicó Parolin: es un signo del deseo de la Iglesia de «encontrarse con quienes trabajan activamente en esta transformación» y de compartir «la sabiduría ancestral» sobre «la comprensión de la persona humana, su dignidad, su libertad y su vocación relacional».

El cardenal Parolin en la presentación de la encíclica "Magnifica Humanitas" (@Vatican Media)

Fieles a la grandeza de la humanidad

El cardenal Parolin citó las palabras de Romano Guardini al respecto: «El crecimiento del poder humano exige una madurez correspondiente en su gobierno». «Hoy», advirtió, «la velocidad con la que se acumula este poder corre el riesgo de superar la capacidad de las instituciones —e incluso de la conciencia individual— para dirigirlo». Esta «asimetría entre poder técnico y sabiduría moral» es quizás el desafío más profundo que plantea Magnifica Humanitas .

El criterio propuesto es exigente: «En la era de la Inteligencia Artificial, salvaguardar la dignidad humana significa estar vigilantes ante nuevas formas de deshumanización y permanecer fieles a la grandeza de la humanidad». Porque «la tecnología», afirmó el Secretario de Estado, «no puede medirse únicamente por su eficacia o la rapidez de sus resultados; exige ser reconducida a la verdad de la persona, a la justicia de la vida en común y al bien de todos los pueblos de la tierra».

Ingenio, conciencia, cuidado

El cardenal Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, se centró en tres palabras clave: «Ingenio, conciencia y cuidado». «Ingenio» porque la IA «es uno de los grandes logros del ingenio humano» y toda la humanidad puede sentirse «orgullosa» de lo que tantos científicos y científicas han conseguido. El cardenal expresó su «gratitud» por la inteligencia artificial, pero también hizo un llamamiento al «discernimiento» ante los cambios y transformaciones que avanzan a pasos agigantados, a veces en cuestión de meses o semanas.

La IA «es una obra en construcción», observó Czerny: «Puede contribuir a una convivencia más justa, apoyar el cuidado de nuestra casa común y servir al desarrollo de los pueblos», pero también puede «concentrar el poder, exacerbar las desigualdades y dejar atrás a quienes ya están marginados». El rumbo «depende de nuestras decisiones» y de nuestra capacidad para «gestionar la innovación». Y aquí entra en juego el segundo punto: «Conciencia», según la definición del Concilio Vaticano II, «la parte más íntima de la persona en la que el ser humano es tocado por la voz de Dios, reconoce el bien y escucha la llamada de la verdad».

«Cuidado», la tercera palabra, se refiere al cuidado de nuestra casa común, sobre la que la IA a veces tiene un impacto violento. Desde esta perspectiva, Magnifica Humanitas «se sitúa en profunda continuidad con Laudato Si'  y Laudate Deum », textos en los que «el Papa Francisco enseñó que cuando el poder técnico se separa de una sabiduría capaz de salvaguardar las relaciones, puede transformarse en dominación sobre la humanidad y la creación». Esta conciencia adquiere una nueva urgencia: la de la educación: «Educar en la era de la Inteligencia Artificial significa formar personas capaces de usar herramientas poderosas manteniendo su libertad interior; de acceder a grandes cantidades de información conservando el juicio crítico; y de vivir en contextos digitales sin perder la alegría de la escucha genuina, los encuentros y las relaciones interpersonales».

El cardenal Michael Czerny, prefecto del Dicasterio para el Servicio del Desarrollo Humano Integral, presenta la encíclica (@Vatican Media)

La capacidad para el mal y las chispas del bien

Por su parte, Fernández vinculó Magnifica Humanitas a la realidad actual de una humanidad marcada por guerras «que de ninguna manera pueden justificarse», por nuevas formas de esclavitud, por el cinismo y la crueldad. Con esta misma humanidad, subrayó Fernández, el Papa dialoga, invitándonos a contemplarla en su «terrible capacidad para el mal», pero, al mismo tiempo, en la «chispa» de bondad y belleza que encarna. Por ello, la encíclica contiene numerosas referencias al arte —desde la Novena Sinfonía de Beethoven hasta el Guernica de Picasso y la película La lista de Schindler— , a instituciones como la Cruz Roja y la ONU, o a movimientos «preciosos» como el de los derechos civiles en Estados Unidos, con «el hermoso testimonio de Martin Luther King», y el fin del apartheid con la elección de Nelson Mandela de «perdón» y «fraternidad».

Fernández. "Formas de poshumanismo proponen el reemplazo de la humanidad" o "transhumanismo" incluso nos invitan a creer que la vida será un "paraíso" solo gracias a "sofisticados dispositivos que resuelven problemas y aumentan capacidades"

Entre los ejemplos de bondad mencionados por el Papa y recordados por Fernández se encuentran los de la Madre Teresa de Calcuta, Dorothy Day, Marie Curie, Elisabeth Elliot, Benazir Bhutto y los "mártires de la fraternidad y la justicia" como Kolbe, Romero, Angelelli y Van Thuan, sin olvidar a los "mártires de la vida cotidiana: padres, enfermeras, médicos, voluntarios".

Un fascinante entrelazamiento de "bondad, lucha y belleza" que, según el Prefecto de la Doctrina de la Fe, nos ayuda a comprender que "la humanidad —magnífica y herida— no debe ser ni reemplazada ni superada". Precisamente cuando "formas de poshumanismo proponen el reemplazo de la humanidad" o "transhumanismo" incluso nos invitan a creer que la vida será un "paraíso" solo gracias a "sofisticados dispositivos que resuelven problemas y aumentan capacidades".

Los recursos tecnológicos, señaló Fernández, "proporcionan al individuo una alegría inicial", pero "poco después, regresa el vacío". Detrás de la idea de progreso se esconde lo que el cardenal denomina "un falso misticismo", que es precisamente lo opuesto a esa "nueva vida" que "se vive con fe, esperanza y caridad". En la "cosmovisión hipertecnológica", sin embargo, "la fe es sustituida por una confianza absoluta en las capacidades tecnológicas; la esperanza se transforma en una esperanza superficial de un nuevo producto que nos quite el aburrimiento; el amor se olvida porque se prefiere el apego a las cosas", mientras que otras "desaparecen del horizonte".

El "límite" que te hace fértil

Ante propuestas similares, la encíclica habla del «valor y la fecundidad» de la experiencia de la «limitación». Y la limitación, enfatizó el cardenal Fernández, «no siempre es un defecto que deba corregirse». Precisamente en nuestras limitaciones, «encontramos espacio para la compasión, para la sincera preocupación por las necesidades de los demás, para la generosidad que sorprende incluso en medio de la oscuridad o el fracaso». Las palabras del Papa Francisco vuelven a cobrar sentido en este contexto: «Nos convertimos en seres plenamente humanos cuando somos más que humanos, cuando permitimos que Dios nos guíe más allá de nosotros mismos para alcanzar nuestro ser más auténtico». Francisco de Asís es un ejemplo de ello, porque lo que logró en la vida fue «mucho más de lo que los algoritmos y la tecnología pueden producir en nosotros».

El cardenal Fernández, prefecto del Dicasterio para la Doctrina de la Fe, presenta la encíclica de León XIV (@Vatican Media)

Utiliza herramientas poderosas sin dejarte dominar por ellas

En conclusión, un nuevo comentario de Parolin: Magnifica humanitas nos invita a "mirar la tecnología con confianza y discernimiento", pero también con "vigilancia", para que la "grandeza del hombre" nunca disminuya y no se pierda la "libertad" de "utilizar herramientas poderosas sin ser dominados por ellas, de seguir siendo humanos en un entorno cada vez más moldeado por la lógica automatizada".

Lushombo: salvaguardando la verdad

Una de las primeras advertencias de la encíclica, según Lushombo, es la «salvaguarda de la verdad». Si bien las máquinas pueden, «en cierto sentido», proporcionarla al ofrecer información precisa, no se les debe delegar la «responsabilidad personal de emitir juicios». De hecho, una IA no tiene experiencias corporales ni sensoriales, no madura a través de las relaciones y no asimila conceptos como la distinción entre el bien y el mal. En Magnifica humanitas , afirma la profesora, el Papa León también se centra en la preservación de la libertad interior, reconociendo que las estructuras de las plataformas digitales están «diseñadas para captar el tiempo y la mirada de los usuarios, explotando su fragilidad».

Discurso de Leocadie Lushombo (@Vatican Media)

La relación en el conocimiento

La verdad, afirma el Papa en el documento, no es solo "racional" sino también "relacional" y, por lo tanto, está sujeta a revisiones e intercambios que surgen de realidades concretas, especialmente, de las más pobres, porque "nos dicen cómo es el mundo". Estos conceptos encuentran expresión en las diversas culturas del planeta: en Latinoamérica en la dinámica de " convivencia e conjunto, en lo quotidiano " (vivir juntos y juntos en lo cotidiano ); en África en la filosofía Ubuntu, según la cual "soy humano porque pertenezco. Participo, comparto"; en Asia en el ideograma coreano 정, que indica "el sentido de conexión emocional, por el cual las personas ven a los demás como fundamentalmente conectados a sí mismas".

Un nuevo “extractivismo colonial”

Magnifica humanitas , continúa Lushombo, insta al Sur global a no perder sus valores humanos a causa de la IA, que convierte el aprendizaje en transaccional y excesivamente autónomo, y hace que las culturas menos desarrolladas sean «aún más vulnerables al extractivismo colonial». El Papa escribe al respecto: «El colonialismo en nuestros días muestra una nueva cara. No solo domina los cuerpos, sino que también se apropia de los datos, transformando las vidas personales en información explotable».

La presentación en el Salón del Sínodo (@Vatican Media)

No delegues el poder en aquellos que pueden manipular

En cuanto a las implicaciones prácticas de la IA, Magnifica Humanitas destaca tres desafíos, según Lushombo: sociopolítico, pedagógico e intelectual. Utilizar las nuevas tecnologías para el bien significa «dar voz a las personas de maneras antes imposibles», posibilidades a las que la IA ofrece acceso. Esto debe hacerse teniendo en cuenta que todo lo que circula en línea «moldea la imaginación», especialmente, la de los jóvenes. Por lo tanto, el conocimiento no es «un monopolio del poder o la influencia, ni es colonial, como suele ser la inteligencia artificial tecnológica». Su desarrollo desenfrenado frena el deseo de cuestionar, el único camino verdadero hacia el conocimiento. Como escribe León: «Si no tenemos cuidado, puede configurarse un sistema educativo desprovisto de amor por la verdad, en el que el flujo incesante de información reemplace el ejercicio de la investigación, la reflexión y el discernimiento». Sería inaceptable sacrificar este «impulso trascendental» a la IA, delegando mayor poder «a quienes pueden manipular el sistema de información con mayor eficacia y usarlo en su propio beneficio».

“Mirando más allá del PIB”

En Magnifica Humanitas, el Pontífice también denuncia los avances tecnológicos que amplían la brecha entre ricos y pobres, «siguiendo los patrones de la globalización económica». En este sentido, la encíclica subraya la necesidad de proteger a los trabajadores, a menudo sustituidos por la IA, e insta a «mirar más allá del PIB». Especialmente en el Sur global, observa León, «adolescentes y niños trabajan en condiciones peligrosas triturando materiales de los que se extraen tierras raras» para que «el flujo de computación no se interrumpa». Muchos gobiernos, explica Lushombo, priorizan este tipo de adquisiciones, incluso cuando dichos materiales no son esenciales para el desarrollo humano integral. Además, estos mismos recursos se utilizan con frecuencia para fortalecer el potencial militar de los países más poderosos. Como afirma la encíclica, concluye la profesora, «las herramientas de las que disponemos hoy son insuficientes ante los cambios provocados por la inteligencia artificial, las nuevas estructuras de mercado y la creciente competencia, que a menudo descuida la sostenibilidad social». Por lo tanto, los líderes políticos, los sindicatos, las empresas y los científicos deben colaborar con rapidez para crear regulaciones eficaces y compartidas internacionalmente.

Rowlands: el individuo en el centro

La reflexión del Papa en Magnifica Humanitas no es neutral, pues las visiones que encarnan las tecnologías actuales no son equidistantes, según Rowlands. La profesora subraya la invitación a transformar los modos de poder dominantes en formas de poder compartido y a medir los avances tecnológicos por su contribución al auténtico progreso social y ético. Si la encíclica del Papa Francisco de hace once años, Laudato si' , advertía contra un paradigma tecnocrático que mide el valor humano en función de la utilidad, la primera encíclica de León XIV aclara que, para superar tales patrones, es necesario salvaguardar primero a la persona, centrada en Jesucristo. Esta idea no es un tópico, sino que ha alcanzado un punto crítico, generando dos reacciones diametralmente opuestas pero igualmente dañinas: por un lado, el dolor y la desesperación; por otro, el deseo de trascender nuestra humanidad buscando convertirnos en nuestras propias divinidades.

Por otro lado, Magnifica humanitas propone una vida libre de estas ataduras, haciendo resonar la voz de la Iglesia en un tema social que algunos podrían interpretar como una «intromisión indeseada». Sin embargo, la profesora observa que es precisamente la tarea de la comunidad eclesial «acompañar a la humanidad en su búsqueda del verdadero bien y promover la unidad». Esto es posible impulsando una visión que trascienda la mera concepción de los individuos como «engranajes del Estado, agentes del mercado o instrumentos de un orden algorítmico».

Discurso de Anna Rowlands (@Vatican Media)

El valor del límite

Desde la encíclica Rerum Novarum de León XIII en 1891 , la Iglesia lleva más de 135 años desenmascarando los «falsos ídolos presentes en las ideologías de cada época». Magnifica Humanitas advierte contra la visión generalizada actual que considera a la humanidad «salvada» por la IA o sus perspectivas poshumanistas y transhumanistas. Reafirma el valor de los límites frente a aquellas creencias que «presentan la autonomía total, la automatización radical, las ambiciones de una conciencia artificial y la trascendencia de las limitaciones humanas como objetivos salvíficos», pero que acaban generando «nuevas dependencias, exclusiones, manipulaciones y desigualdades».

El hombre contemporáneo y el poder

La tradición de las encíclicas, sin embargo, también narra una «historia positiva» de tecnologías que alivian el sufrimiento humano, amplían la libertad y satisfacen necesidades. Esto no siempre se aplica a las tecnologías actuales, que «portan culturas y sustentan arquitecturas morales». Donde el poder de la innovación ya no pertenece a los Estados, sino a unos pocos actores privados muy ricos, «cuyas culturas escapan al escrutinio del interés público y corren el riesgo de parecer un nuevo imperio».

En el documento, el Papa resume la situación actual con una observación del teólogo Romano Guardini: «El hombre moderno no ha sido educado en el uso correcto del poder». ¿Cómo, entonces, podemos volver a los orígenes? Esta es la pregunta que recorre la encíclica, un llamado a hacer nuestra parte, rompiendo el vínculo entre los «falsos realismos» que normalizan la guerra y la dominación social, automatizan la realidad y reducen a la persona a datos. «El poder crea la razón», pero «no es más que fuerza que, bajo la máscara, revela relaciones empobrecidas».

Rowlands concluye que Magnifica humanitas nos ayuda a comprender que el deseo de dominar, lo que San Agustín llama libido dominandi , "puede ser alabado por el mundo como una fortaleza, pero es desprecio por Dios y el prójimo y nunca es una virtud cristiana".