"Lo que no se usa, se atrofia" Dios y el algoritmo: Una teología de la liberación ante la IA sin frenos

Imaginemos por un momento que vivimos con un traje que nos envuelve por completo, similar al de los astronautas. Un atuendo que nos facilitaría una gran cantidad de movimientos fascinantes que, de otro modo, nos serían imposibles. Sin embargo, no responde únicamente a nuestras órdenes, sino también a las de quien lo programa. En ese contexto, ¿no nos interesaría saber con qué fines fue programado?, ¿fue diseñado para facilitar nuestra libertad de movimiento o solo para guiarnos a ejecutar las acciones que el creador del traje decida? Siguiendo los movimientos que nos induce, ¿somos más plenos como seres humanos o nos convertimos en autómatas? Estas preguntas se nos volverían inquietantemente dramáticas si descubriéramos que los “dueños” de esos trajes son gigantescas empresas de publicidad que saben todo de nosotros y cuyas inmensas ganancias dependen directamente de que adoptemos las conductas que sutilmente nos inducen.

Un nuevo paradigma en las relaciones humanas

La escena que acabamos de pintar no pertenece a una película distópica de la época de oro de Hollywood. El futuro llegó hace rato. En los últimos años, el impacto de la tecnología en nuestras vidas produjo una verdadera transformación de la humanidad. Desde hace apenas un par de décadas, el advenimiento de la internet y su portabilidad en los teléfonos celulares cambió el paradigma de las relaciones humanas. Antes, una persona común solo podía comunicarse con quien compartía la presencia física, o a lo sumo si tenía acceso a una línea telefónica, con quien estaba al otro lado del aparato.

Hoy podemos recorrer el mundo llevando en el bolsillo la posibilidad de relacionarnos con cualquiera, de múltiples modos y donde quiera que esté. El espacio ya no es necesariamente distancia. Somos seres relacionales, es lógico que semejante cambio en la relacionalidad haya producido una transformación del espíritu humano. Tanto que, como afirma eldocumento Hacia una plena presencia del Dicasterio para la Comunicación, hoy en día una visión integral de lo humano debe incluir la esfera digital. Son muchos los estudiosos que afirman que se está produciendo una hibridación en la que la tecnología se ha vuelto una especie de segunda naturaleza.

Nuestro espíritu se ha cubierto por una capa tecnológica que media gran parte de nuestras relaciones. Tal vez a alguno le cueste convencerse de esto y crea que su espíritu es independiente de la tecnología. La única forma de demostrarlo sería haciendo el ejercicio de desarrollar su vida –solo algunos días– absolutamente desconectado. Creo que entre los incluidos en las sociedades modernas raramente podríamos encontrar alguien capaz de hacerlo (tal vez ni entre los religiosos de clausura).

El último hito, la irrupción de la Inteligencia Artificial (IA), ha despertado un tsunami subterráneo en nuestras vidas al que asistimos cómodamente sentados scroleando reels en nuestras pantallas. Se trata de programas que resuelven todo tipo de problemas de un modo tal que parecen ser solucionados por una persona. Las respuestas que ofrecen son mucho más rápidas, detalladas y eficientes que las de cualquier ser humano. De todos modos, para que estos resultados sean verdaderamente útiles, todavía es necesario un espíritu humano que los interprete. Son herramientas maravillosas que dan testimonio de la enorme capacidad creadora que Dios puso en el ser humano (de hecho, la IA ha sido de enorme utilidad en la redacción de este artículo). Sin embargo, su brillo no puede encandilarnos en una ingenuidad tecnófila que nos lleve a creer que todo avance tecnológico es necesariamente un progreso de la humanidad. Tampoco podemos caer en el otro extremo. No parece prudente apostar a que se detenga ese proceso en aras de una humanidad convencida de cultivar más la inteligencia natural. El lema “lo viejo funciona” –hoy popularizado por la serie El Eternauta– puede inspirar una mística de resistencia necesaria pero no un programa de trabajo. La historia no retrocede. Lo que nos toca como seres humanos, dotados de un espíritu que trasciende la mera inteligencia práctica y capaz de una verdadera sabiduría, es discernir críticamente qué lugar les damos en nuestras vidas a estas herramientas tecnológicas.

Discernir la adopción de la tecnología

Esto requiere –con cierta urgencia– que pensemos en las consecuenciasque tendría una adopción acrítica de las tecnologías digitales. Por ejemplo, pensar los efectos que podría tener una delegación masiva de operaciones mentales a los sistemas informáticos. Así como hoy es inútil hacer una operación mental tan sencilla como retener el número telefónico de un amigo, la próxima generación verá inútil hacer procesos mentales más complejos ya delegados a algoritmos, que serán cada vez más capaces de hacer de forma rápida y eficiente operaciones mentales complejas. Un estudio de neurociencia, realizado en Londres y París, comparó el desarrollo cerebral de taxistas que usaban el GPS con el de taxistas que no lo usaban. Después de tres años, los taxistas que dependían de la tecnología mostraron un desarrollo deficiente en los núcleos subcorticales, las áreas del cerebro encargadas de mapear el tiempo y el espacio. Este hallazgo subraya un principio fundamental: los mecanismos de delegación del cerebro son análogos a los del sistema muscular. En ambos casos, lo que no se usa, se atrofia. Si nuestros hijos, nietos y bisnietos delegaran indiscriminadamente operaciones mentales a las máquinas, ¿cómo afectará esto al desarrollo de sus cerebros?

Otro de los riesgos de asumir acríticamente estas tecnologías sería caer en una algocracia: la delegación de decisiones de carácter social en algoritmos. Cada vez habrá más decisiones que no dependan de una persona concreta. Selección de personal, otorgamiento de créditos, sentencias judiciales, cuestiones de salud, y tantas otras situaciones que pueblan nuestra vida cotidiana podrán ser resueltas sin la intervención de un ser humano. Sin embargo, la vida humana no puede reducirse a datos, es infinitamente más rica que lo que puedan cuantificar los algoritmos. Estos nunca serán capaces de empatía, compasión, ternura. ¿Qué pasaría con esos sentimientos en una algocracia? ¿Quedarían fuera de lugar? Un sistema digital nunca va a poder ofrecer contención. ¿Vivir en un mundo así no nos haría menos humanos? ¿Acaso no es una degradación de lo humano que una persona se entere que tiene una enfermedad terminal por una notificación de una app? Eso ya sucede con frecuencia.

"La vida humana no puede reducirse a datos, es infinitamente más rica que lo que puedan cuantificar los algoritmos. Estos nunca serán capaces de empatía, compasión, ternura. ¿Qué pasaría con esos sentimientos en una algocracia?"

Una de las áreas que promete ser profundamente impactada por la IA es la educación. Con las nuevas herramientas se podrá garantizar –allí donde haya conectividad– el acceso a contenidos de calidad adaptados pedagógicamente al proceso personal de aprendizaje de cada estudiante. Sin embargo, esto entraña el riesgo de reducir la educación a la transmisión de contenidos, relegando el desarrollo emocional, social y moral de las personas. La educación es un proceso relacional, el aprendizaje verdadero necesita calor humano. Un maestro digital podrá transmitir contenidos, pero nunca sabiduría.

Otro desafío que nos presenta la capa tecnológica que recubre nuestras vidas es su opacidad. La IA se presenta como una “caja negra”. Nadie puede conocer el proceso por el cual toma una determinada decisión. Sin embargo, los algoritmos no dejan de ser sistemas programados por personas concretas que son entrenados con datos concretos. Nada nos garantiza que sus resultados no presenten sesgos que generan exclusión. De hecho, sucede con frecuencia. Por ejemplo, un sistema usado para predecir la reincidencia criminal en EE. UU. otorgaba puntuaciones más altas de riesgo a personas negras que a blancas, aunque las tasas reales de reincidencia eran similares. También en ese país, hubo casos en que los programas de reconocimiento facial mostraron un mayor índice de error con negros y asiáticos generando detenciones injustas y mayor vigilancia en esos grupos raciales. El Papa Francisco –en su discurso al G7 del que hablaremos más adelante– llamaba la atención sobre que la IA no es –como dicen– “generativa”, sino “reforzadora”. No desarrolla conceptos nuevos. Repite lo que encuentra en los macrodatos (big data)y lo presenta de forma atractiva, muchas veces sin controlar si tiene errores o prejuicios. 

"Un sistema usado para predecir la reincidencia criminal en EE. UU. otorgaba puntuaciones más altas de riesgo a personas negras que a blancas, aunque las tasas reales de reincidencia eran similares"

Ninguna tecnología es neutra

Es interminable el abanico de cuestiones con que desafía al pensamiento crítico esta nueva etapa de la fusión entre la tecnología y el espíritu humano. Mencionemos por último una muy importante, a la que aludíamos con la imagen del traje espacial. Ninguna tecnología es una herramienta “neutra”. Un cuchillo técnicamente podría usarse para cortar lo que decida quien lo maneje. Pero si su empuñadura se adapta solo a manos masculinas, ya no es “neutro”. Del mismo modo, las tecnologías digitales están diseñadas con “empuñaduras” invisibles. Quienes las desarrollan son enormes corporaciones que –como es lógico– persiguen fines comerciales. Las redes sociales no solo conectan personas, son empresas de publicidad. Sus algoritmos no están diseñados para relacionarnos mejor con los demás sino que priorizan el contenido emocionalmente motivador para tenernos más tiempo frente a la pantalla. En el contexto actual esto despierta inquietantes preguntas: ¿qué sucede si esos fines comerciales comprometen el desarrollo de lo humano? ¿hay posibilidad de que las corporaciones tecnológicas subordinen su rentabilidad al bien de la humanidad? ¿existe poder capaz de obligarlas a hacerlo?

El Papa Francisco en Laudato si´ señalaba proféticamente que es tremendamente riesgoso que el enorme poder que da el desarrollo tecnológico resida en una pequeña parte de la humanidad: “nunca la humanidad tuvo tanto poder sobre sí misma y nada garantiza que vaya a utilizarlo bien, sobre todo si se considera el modo como lo está haciendo” (LS 104). Es cada vez más patente que semejante poder ejercido sin límite ético pone en juego el futuro de la humanidad.

Por suerte no faltan en el mundo del desarrollo de la IA quienes son conscientes de sus implicancias éticas. Sin embargo, ¿qué pueden hacer frente a las presiones de un mercado frenéticamente acelerado? Por ejemplo, recientemente se publicó que Anthropic, un gigante de la IA valuado en 61.500 millones de dólares, que ha cultivado una reputación de tomarse en serio la seguridad y la responsabilidad, tuvo que demorar el lanzamiento de su nuevo modelo porque sus programadores descubrieron que podría facilitar significativamente la creación de armas biológicas a usuarios con conocimientos técnicos básicos. Al parecer, esta demora fue una decisión extremadamente dolorosa para la compañía debido al ritmo frenético del mercado y la presión de los inversores que se resistían a perder espacio frente a otras compañías que avanzan más velozmente por no interesarse tanto en la dimensión ética de sus desarrollos.

El aporte del cristianismo

En esta encrucijada histórica el cristianismo puede hacer un valioso aporte volviendo a presentar su cosmovisión, en la que la dignidad del ser humano arraiga en el haber sido creado a imagen y semejanza de Dios. De hecho, en una de sus primeras intervenciones públicas, el Papa León XIV señaló que esta será una de las principales preocupaciones de su pontificado. También el Papa Francisco nos dejó un incipiente magisterio sobre el tema con –al menos– nueve intervenciones que siguen la línea de su enseñanza en materia social. Por lo general, aborda el tema desde la perspectiva que planteó en Laudato si´ sobre que la raíz humana de la crisis socio ambiental es haber aplicado el paradigma tecnocrático a diversas realidades de la vida que requieren un modo relacional más acorde a la naturaleza y a lo humano.

El sistema económico y político mundial tiende a estar dominado por este paradigma eficientista de la tecnocracia y lo impone en todo el mundo sin medir sus riesgos. En uno de sus discursos sobre IA, en que Francisco advertía sobre el poder que tiene para fortalecer la tecnocracia y la cultura del descarte, repetía las palabras de Stephen Hawking sobre que el desarrollo de una IA absolutamente autónoma podría significar el fin de la raza humana. Al terminar, presentaba un desafío: “¿estamos seguros de que queremos seguir llamando 'inteligencia' a lo que no lo es? Es una provocación. Reflexionemos sobre ello, y preguntémonos si el mal uso de esta palabra tan importante, tan humana, no es ya una rendición al poder tecnocrático” (Discurso a la Fundación CentesimusAnnus, 22/6/2024).

"El sistema económico y político mundial tiende a estar dominado por este paradigma eficientista de la tecnocracia y lo impone en todo el mundo sin medir sus riesgos"

Una de sus intervenciones más resonantes fue la que ofreció en la reunión del G7 del 14 de junio de 2024 en Apulia. Por primera vez un Papa asistió a la cumbre de líderes de los países más industrializados del mundo y lo hizo para apoyar con su autoridad moral el llamado a un desarrollo ético de la IA, al que denominó: algorética. Con ese fin, aprovechó para difundir el Rome Call for AI Ethics, un llamamiento a promover el desarrollo ético y responsable de la IA firmado por algunas de las principales empresas tecnológicas bajo el ámbito de la Pontificia Academia para la Vida.

En su discurso –que merece ser estudiado detenidamente– describió el advenimiento de la IA como “una auténtica revolución cognitiva-industrial”, señaló sus riquezas y sus riesgos, y pidió encarecidamente que se ponga la dignidad humana en el centro del desarrollo tecnológico. Uno de los focos que señaló fue el riesgo de delegar decisiones en la IA, tremendamente dramático con la existencia de “armas autónomas letales”, que pueden decidir por sí misma terminar con la vida de un ser humano. Recuerda que un sistema informático puede hacer una elección técnica según los criterios con los que fue programado. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. Allí juega no solo la inteligencia práctica sino también la sabiduría. No debemos perder de vista que la máquina puede presentar una elección, pero la decisión siempre le corresponde a un ser humano. Francisco advierte lúcidamente que: “condenaríamos a la humanidad a un futuro sin esperanza si quitáramos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas”. En mantener el poder de decisión en manos humanas se juega la dignidad humana.

"Un sistema informático puede hacer una elección técnica según los criterios con los que fue programado. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. Allí juega no solo la inteligencia práctica sino también la sabiduría"

¿Por qué la Iglesia debe ocuparse de la IA?

Podemos responder con palabras del Concilio: “nada hay verdaderamente humano que no encuentre eco en el corazón de los discípulos de Cristo” (GS 1). La teología cristiana, en cada etapa de la historia, busca profundizar y presentar de modo significativo el mensaje de salvación que Dios comunicó a la humanidad en Jesucristo. También tiene un aporte que hacer ante este desafío.

El cristianismo puede ofrecer algo específico a este debate: una visión del ser humano que no se agota en datos procesables. Frente a la reducción algorítmica de la persona, debemos volver a elaborar una antropología que reconozca la dignidad irreductible de cada ser humano, creado a imagen de Dios.

El pensamiento cristiano puede desarrollar herramientas muy útiles en este contexto: criterios éticos claros para evaluar algoritmos (p.e. Rome Call), principios de discernimiento para el uso personal de IA, y marcos conceptuales que ayuden a distinguir entre tecnología que humaniza y tecnología que deshumaniza. El mensaje de Jesús, que invita a construir la fraternidad cuidando especialmente de los últimos, puede ayudarnos a poner sobre la mesa temas invisibilizados como las nuevas exclusiones y el impacto ambiental que generan las tecnologías digitales.

Es necesaria una nueva teología de la liberación que nos ofrezca elementos críticos para luchar contra los peligros de una algocracia librada a las fuerzas ciegas del mercado. Al igual que ante el desafío de la paz mundial, esto no solo compete al cristianismo. Debemos aprovechar el potencial de todas las tradiciones religiosas. En la medida en que estas tradiciones defienden y promueven la dignidad humana, son capaces de despertar las fuerzas éticas que la humanidad necesita para reorientar el desarrollo tecnológico hacia el servicio de una vida verdaderamente plena y humana.