León XIV, el papa matemático, firmó su primera encíclica con orientaciones sobre el despliegue de la IA

(Joan Andreu Parra /Catalunya Cristiana).- Este viernes 15 de mayo, el papa León XIV firmó su primera encíclica con el nombre de Magnifica humanitas (“Magnífica humanidad”) haciéndola coincidir con la misma fecha en la que León XIII dio a conocer Rerum novarum (1891), según la Agencia Católica de Noticias (KNA) de Alemania.

Desde el inicio del pontificado, el Santo Padre ha ido apuntando el interés por el desarrollo y la extensión de la IA y también ha seguido de cerca seminarios como el que la Pontificia Academia de Ciencias Sociales organizó el pasado octubre, con cincuenta expertos mundiales que intercambiaron experiencias para promover un uso responsable, de ético y humanitario. Todo ello, junto con la nota Antiqua et nova (firmada en enero de 2025 por los prefectos y cardenales Víctor Manuel Fernández y José Tolentino de Mendonça), toma forma en la primera encíclica del papa León, que se licenció en Matemáticas en la Universidad de Villanova (1977) antes de ordenarse a raíces, incluyendo los aspectos más técnicos y científicos.

La inteligencia artificial no es sólo un 'software': transformará la manera de trabajar, de relacionarnos e incluso puede afectar al despliegue de las capacidades humanas

“Cuando eligió el nombre de León XIV, quiso recoger la maestría de León XIII, autor de la famosa Rerum novarum, que fue la gran respuesta de la Iglesia ante los cambios sociales provocados por la industrialización, la urbanización y el nacimiento de la sociedad capitalista moderna: transformará la manera de trabajar, de relacionarnos e incluso puede afectar al despliegue de las capacidades humanas. Por eso es tan importante volver a poner en el centro la dignidad de la persona. Carbonell .

Velar por que no se manejen las desigualdades

"La IA es más que un instrumento, porque aporta un nuevo entorno y nos lleva a una nueva manera de entender la cultura y el ser humano ", afirmó Joan Costa en la Jornada de Filosofía "IA y la redefinición de la persona", del Ateneo Universitario Sant Pacià. "Tenemos un sistema tecnocrático con una lógica propia, que ya se está independizando de los seres humanos", sostuvo Javier Romero , de la Universidad de Salamanca, en la misma jornada. El dr. Romero abundó en los riesgos tecnocráticos de la IA y en la necesidad del sentido del límite en ese ámbito. Sin olvidar que "la IA no tiene una agenda moral, pero detrás de las empresas que desarrollan los algoritmos sí que hay personas con unos valores determinados".

En efecto, uno de los valores que orienta el desarrollo de la IA es la rentabilidad económica y el lucro, ante “una visión de futuro que tenga en cuenta el bien común”, como pide el Papa. De esta cuestión habla sobradamente la periodista e ingeniera mecánica Karen Hao, en el libro El imperio de la IA , donde informa sobre Open AI (propietario de ChatGPT), la industria de la IA y su impacto global. Son muchos los expertos y también el Papa quienes alertan del riesgo de la acumulación de poder tecnológico en pocas manos, por la retención de riqueza y la imposición de estilos de vida. "Habíamos creído que la tecnología permitía el mito de la desintermediación y saltarnos los mediadores clásicos (partidos, sindicatos, periódicos…), pero la mediación no ha desaparecido, al contrario, está más privatizada y monopolizada que nunca a través de los grandes oligopolios de la tecnología . Y, precisamente, en un contexto de crisis de los mediadores clásicos, se controla ciudadanía”, indicó Marc Andreu , periodista e historiador, en la Jornada de formación de la Acción Católica Obrera (ACO) “La digitalización, ¿una oportunidad para hacer el bien?”, que tuvo lugar el pasado 14 de marzo.

La IA no tiene una agenda moral, pero detrás de las empresas que desarrollan los algoritmos sí que hay personas con unos valores determinados

Otro aspecto que intranquiliza es cómo la IA puede afectar y afecta a la nueva configuración del mapa laboral. Si bien existen precedentes en las revoluciones industriales que se han vivido, la particularidad ahora es la velocidad de los cambios. "Un 60% de los trabajadores europeos ya están afectados por la gestión algorítmica, a menudo con una pretensión de control como herramienta disciplinaria y para el incremento de la productividad. Los algoritmos, caracterizados por la opacidad, ya están condicionando despidos, la asignación de turnos o los criterios de selección de currículos. que abre una rendija a regularlo por la vía de garantizar el control humano de los procesos, las grandes tecnológicas estadounidenses son muy beligerantes y falta que la ciudadanía organizada lo entome, en particular, los sindicatos en la negociación colectiva”, alertó Andreu, actualmente en la ejecutiva de CCOO de Catalunya.

La IA también juega un papel en el fenómeno de la desinformación, como indica el papa León: "Los sistemas que hacen pasar una probabilidad estadística por conocimiento nos ofrecen, en realidad, a lo sumo, aproximaciones a la verdad, que a veces son auténticas 'alucinaciones'. La falta de verificación de las fuentes, junto con la crisis del periodismo de campo, puede a la crisis de periodismo de campo, puede a la crisis de periodismo de campo". Esta desinformación habitual en ámbitos políticos o conflictos bélicos, está tomando una nueva dimensión, por ejemplo, en el ámbito de los derechos sociales:  La desinformación es una estrategia discursiva con información falsa para atacar a alguien . Hay colectivos que son atacados a nivel estructural y que ya de por sí son discriminados en la sociedad: mujeres (machismo), homosexuales (hombre)". existido siempre, pero se ha ampliado el altavoz con internet y las redes sociales. Se ha hecho más viral, llega más rápido a todo el mundo y con tecnologías como la IA y los algoritmos se ha hecho más sofisticada, es más difícil saber si es verdad o mentira”, alerta Marta Meneu , periodista y formadora de Learn to Check.

Los algoritmos, caracterizados por la opacidad, ya están condicionando despidos, la asignación de turnos o los criterios de selección de currículos

Esta entidad ha publicado el dossier "Los derechos sociales en tiempos de desinformación" donde se analiza cómo las noticias falsas y las narrativas manipuladas no sólo conducen a malentendidos, sino que pueden generar estigmatización, exclusión y dificultades de acceso a servicios básicos como la salud, la educación, la vivienda y el trabajo. Un fenómeno que afecta sobre todo a personas y colectivos vulnerables, e interfiere en la labor de las entidades sociales, menguando su credibilidad y su impacto. Y también proponen el método PANTERA para verificar las informaciones y que puede encontrarse en YouTube.

Descolonizar la tecnología

El Mobile World Congress tiene un contracongreso, el Mobile Social Congress, que se celebra simultáneamente y donde se apela a otro tipo de tecnología que libera, que hace críticos y que otorga poder a la ciudadanía. El lema del congreso de este año ha sido “Descolonizamos la tecnología”: “Debemos entender todos los impactos negativos que existen en las cadenas de valor de la electrónica y que se externalizan a países sobre todo del Sur global que tienen un pasado colonial: la minería desde donde se extraen las materias primas para la fabricación de nuestras fases de fabricación. dinámicas neocoloniales impregnan estas relaciones Norte-Sur que son desiguales e injustas”, aclara Claudia Bosch, coordinadora de la campaña Electrónica Justa, de Setem Catalunya.

Una de las charlas que se hicieron en el congreso fue “¿Cómo hacemos una IA antirracista, descolonial y feminista?”, en la que participó Youssef M. Ouled, de la entidad AlgoRace que se dedica a investigar cómo algunas IA que ya están funcionando, por ejemplo a la hora de prestar servicios que reproducen sesgos de género algoritmos. Al respecto de la parcialidad, también habla el papa León: “La falta de transparencia en el diseño de los algoritmos, junto con la representación social inadecuada de los datos, tiende a mantenernos atrapados en redes que manipulan nuestros pensamientos y perpetúan y profundizan las desigualdades y las injusticias sociales existentes”.

La desinformación con tecnologías como la IA y los algoritmos se ha hecho más sofisticada, es más difícil saber si es verdad o mentira

La materia prima de la IA son los datos que le suministramos, dado que un porcentaje elevado de nuestra actividad está monitorizada digitalmente. Esta cuestión se abordó en el Congreso de Soberanía Tecnológica (Sobtec), con el título “¿Quién controla la tecnología que gobierna nuestras vidas? ”. "Hablamos de qué herramientas podemos utilizar las usuarias para que nuestros datos estén más seguros, ya que muchos somos activistas de derechos humanos y medio ambiente y cada vez hay más represión en toda Europa; de cómo se vinculan las grandes empresas del big-tech con el genocidio del pueblo palestino o cómo utilizar la tecnología de datos y el software libre para procesos políticos empoderadores".

Otra derivada es el impacto ecológico de la implantación de grandes centros de datos, con elevados consumos energéticos y de agua para su refrigeración. En particular, los gobiernos catalán y español quieren convencer a la Comisión Europea de instalar en Móra la Nova una de las cinco gigafactorías de datos que se harán: “Nos preocupa que se quiera hacer esta inversión pública inmensa para desplegar una infraestructura depredadora de recursos energéticos e hídricos, que no nos pueden permitir en un contexto de crisis climática, con el ínfimos y de muy baja calidad. Debemos cuestionarnos por qué se utilizan estos megacentros de datos y ser críticos”, remarca Bosch.

En la jornada de ACO también participó Xavi Casanovas , profesor en la Cátedra de Ética del Instituto Químico de Sarrià-URL, que aportó tres ejemplos positivos y negativos del uso de la IA. En el primer caso, recordó que el Premio Nobel de Química del año 2024 desarrolló a través de la IA el plegamiento de proteínas, muy útil para la investigación farmacéutica; que la IA permite diagnosticar muy cuidadosamente el cáncer de piel por su capacidad de análisis de imágenes y trazar patrones; o que la IA puede ayudar a mejorar la movilidad urbana gracias al análisis de los patrones de tráfico. En cambio, la IA ya está demostrando su letalidad en la guerra sin intervención humana, también se ha dado algún caso de suicidio incentivado por chatbots o, en la educación, donde se revela eficaz en la resolución de problemas, pero sin que el humano aprenda cómo se hace.

Debemos conocer las tecnologías que utilizamos, cómo se diseñan los algoritmos, cómo funcionan las redes sociales privativas y qué impactos tienen, y que hay alternativas

El matemático y filósofo apuntó tres transformaciones ontológicas al incorporar la IA: por un lado, se pasa de un modelo de comprensión a un modelo de predictibilidad, un contraste respecto a la Ilustración que pretendía conocer las leyes del mundo. Por otro, el paso de la importancia de la verdad a la verosimilitud, algo que contribuye a la confusión por la dificultad de discernir lo que es verdad de lo que no lo es. Y, por último, la antropomorfización de la tecnología, con robots que tienen apariencia humana y conversaciones con la IA con respuestas muy humanas, algo que profundiza la confusión.

Alfabetización digital

Si bajamos a la cotidianidad de las personas comunes que tratan de convivir con la tecnología, desde entidades como Setem proponen ser más conscientes y críticos en este uso. Uno de los medios sería la alfabetización digital , como se refiere el papa León XIV, “junto con una formación humanística y cultural”: “ La alfabetización digital es clave, debemos conocer las tecnologías que utilizamos, cómo se diseñan los algoritmos , cómo funcionan las redes sociales privativas y qué impactos tienen que esto están dispuestas por ello y no están diseñadas para ello. será más porque la tecnología atraviesa nuestra vida”, remarca Bosch.

En efecto, progresivamente las instituciones públicas se están involucrando financiando proyectos para formar a colectivos específicos más vulnerables a la desinformación como jóvenes y personas mayores y se están creando observatorios. Desde Learn to Check consideran que "la alfabetización mediática debería ser una competencia básica. Contra la desinformación hay diferentes estrategias. Por un lado, existe el movimiento de fact-checkers , es decir, periodistas que se dedican a verificar la información que publican otros profesionales; y, por otro, la alfabetización mediática internet”, subraya Meneu. De hecho, esta entidad ofrece talleres prácticos y recursos para distintos grupos en institutos, escuelas o centros cívicos.

Asimismo, en Cataluña ya existen modelos y proyectos alternativos basados en la soberanía tecnológica, la sostenibilidad y el respeto por los derechos humanos: "En cuanto al software, tenemos muchas cooperativas tecnológicas que ofrecen herramientas de software libre. Tenemos proveedores como Pangea o guifi.net que hacen infraestructuras de internet que recomiendan el máximo uso de energía renovable. comprar uno nuevo pensar si puedo repararlo, puedo reutilizarlo o puedo utilizar una de las quince bibliotecas de las cosas que hay en Catalunya”, detalla Bosch, entre otras propuestas que se pueden encontrar en la página web electronicajusta.cat.

Habría que recuperar la agencia humana e introducir debates democráticos como la regulación por edades o qué capacidades humanas delegamos en las máquinas

Por su parte, Xavi Casanovas apunta diferentes posibles actuaciones: "En primer lugar, hay que vigilar la fascinación y apostar por el principio de precaución. En un contexto capitalista, las aplicaciones salen al mercado sin ningún tipo de control previo , a diferencia de los productos alimenticios o farmacéuticos. También habría que no introducir tecnología acríticamente en la educación, cuando en las cosas básicas no es necesario hacer. por la regulación por edades, como ya nos ocurre con el consumo de alcohol o la conducción de vehículos. En tercer lugar, habría que recuperar la agencia humana e introducir debates democráticos como la regulación por edades o qué capacidades humanas delegamos en las máquinas. dependencia creada detrás del consumo de los teléfonos inteligentes con unos intereses capitalistas que buscan tenernos enganchados el máximo tiempo posible para mostrarnos anuncios y captar datos personales y preferencias.” Sin perder de vista el subrayado de Prevost: “ La cuestión que nos importa, sin embargo, no es lo que consigue o conseguirá hacer la máquina, sino qué podemos o podremos hacer nosotros, creciendo en humanidad y conocimiento, con un sabio uso de instrumentos tan poderosos a nuestro servicio.”