El Papa y el capitalismo de última generación

Hace 135 años, León XIII publicó la encíclica Rerum novarum, con la cual la Iglesia salió al paso de los efectos perversos de la Revolución Industrial, en particular de la explotación de los trabajadores. El Papa atribuía al capitalismo la motivación de esa época y lo condenaba por igual que al comunismo.

Hoy, el papa León XIV firma Magnifica humanitas. No tiene ante sí el marxismo, sino la última generación del capitalismo de los big data, los algoritmos y la inteligencia artificial, factores de injusticias actuales y futuras impredecibles. Esta crítica no es el único asunto del documento, pero, desde la Doctrina Social de la Iglesia, debe vérsela como la principal.

El panorama es inquietante. Se eleva ante millones de seres humanos un poder tecnológico que se expande sin límites claros, en manos de privados multimillonarios difíciles de controlar por los Estados. La concentración de poder es espeluznante. La inteligencia artificial demanda una enorme cantidad de recursos, a la vez que su impacto en las sociedades y en las personas será incalculable.

Lo que más preocupa esta vez es la acumulación de poder sobre la verdad. Inquieta que grandes empresas incidan en la producción de información y conocimiento, engañando a sus usuarios por la mera ignorancia de estos. La IA se presenta como un instrumento neutral y objetivo. No lo es. No es que mienta, pero toda interpretación de la realidad lleva las huellas digitales de su autor y, en este caso, la autoría corresponde a los propietarios de las máquinas. "Venden verdad", como pueden hacerlo los libros en las librerías o las universidades, pero pueden ocultar cómo la producen, incluso sin mala intención, simplemente porque sus creadores son seres humanos.

Esta podría llamarse 'la encíclica de la sospecha'

Son máquinas inteligentes. No se diga que carecen de emociones y motivaciones. Son capaces de orientar interesadamente las decisiones de las personas e instituciones que las utilizan. Su servicio a la verdad merece, pues, interrogantes. Esta podría llamarse "la encíclica de la sospecha". Así como Freud desentierra las motivaciones inconscientes de la mente, Marx alerta contra los medios de producción y Nietzsche desenmascara las pretensiones de verdad que encubren una voluntad de poder, León XIV protege a las eventuales víctimas de "la verdad". Y, por el contrario, celebra cuando ese servicio contribuye al desarrollo del bien común.

Hoy, millones de personas ignoran los mecanismos mediante los cuales sus opiniones, preferencias y decisiones pueden ser condicionadas

La situación guarda una inquietante semejanza con la denunciada por León XIII. A fines del siglo XIX, los trabajadores ignoraban con frecuencia los mecanismos mediante los cuales eran explotados. Hoy, millones de personas ignoran los mecanismos mediante los cuales sus opiniones, preferencias y decisiones pueden ser condicionadas. Entonces se explotaba a los trabajadores; ahora se puede abusar de la capacidad humana de comprender y juzgar la realidad.

Magnifica humanitas hace un llamado ético no solo a los dueños de los instrumentos digitales y de la IA, sino también a la política y a los Estados. Estos deben controlar los posibles abusos y establecer reglas transnacionales de regulación. Se requiere una acción mancomunada internacional de protección de personas y pueblos.

Es sabido que la Doctrina Social de la Iglesia no propone un modelo económico en particular. Pero en todas las encíclicas se insiste en un principio fundamental: la propiedad universal de los bienes. Estos, señalan especialmente los últimos pontífices, no son solo las tierras y las aguas, sino también los bienes generados por la inteligencia humana. La ciencia y las mejores tecnologías han sido inventadas y construidas por seres humanos bajo el mandato del Creador de compartirlas. No debe olvidarse que la propiedad privada, según la enseñanza de la Iglesia, no es más que un instrumento, entre otros, para compartir la creación.

El Papa no condena la inteligencia artificial, pero advierte sobre la necesidad de interrogar al servicio de quién se la desarrolla

No es casual que León XIV se haya dejado acompañar por Christopher Olah, cofundador de Anthropic, al presentar la encíclica. El Papa no respalda empresas, pero distingue entre las que son movidas por un interés ético y las que no. No condena la inteligencia artificial, pero advierte sobre la necesidad de interrogar al servicio de quién se la desarrolla.