Anthropic y la Iglesia: Notas críticas sobre el discurso de Christopher Olah sobre la IA ante León XIV

Christopher Olah hizo algo inusual en la Sala del Sínodo durante la presentación de la encíclica Magnifica Humanitas. Habló como un constructor que pide ayuda a quienes están fuera de la obra. Y desde luego no por incompetencia. Fue lúcido. Dijo con un realismo nada cínico:

«Todo laboratorio de IA de vanguardia —incluido Anthropic— opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto. La presión de mantenerse comercialmente sostenibles y de permanecer a la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y simples del orgullo y la ambición. Por mucho que cada uno de nosotros pretenda sinceramente hacer lo correcto —y creo que muchos de nosotros realmente lo queremos— siempre estaremos influenciados por esos incentivos».

Por eso Olah considera de «fundamental importancia» —si se quiere que esta tecnología funcione bien— «que haya personas al margen de esos incentivos: personas a las que les importe el buen resultado de las cosas, que observen con atención, que estén dispuestas a decir verdades difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos». Esto es lo que él ve en Magnifica Humanitas y en la figura del Papa y de la Santa Sede. Y la suya es una petición que hay que tomarse en serio.

Lo primero que llama la atención es la postura. Olah no ha venido a tranquilizar, ni a vender. Ha venido a confesar una limitación. Dijo que los laboratorios de IA operan bajo presiones que pueden entrar en conflicto con hacer lo correcto. Lo dijo ante el Papa. Es el reconocimiento de que la tecnología más poderosa de nuestro tiempo se desarrolla en un campo de fuerzas que ningún código ético interno puede neutralizar por sí solo. Por eso se necesitan voces externas, voces que los incentivos no puedan doblegar. Que haya señalado a la Iglesia como una de esas voces es el dato políticamente más significativo del evento.

Pero es en el plano epistemológico donde el discurso se vuelve realmente interesante. Olah describe los modelos de IA con una imagen poderosa: no están diseñados como un puente o un avión, de los que comprendemos cada parte. Han crecido sobre una estructura modelada a partir del cerebro humano, alimentados por nuestro legado de pensamiento y lenguaje. Y lo que ha surgido de ello es mucho más sutil y extraño de lo que la ciencia ficción nos había preparado para imaginar. No son fríos robots calculadores. Están hechos de nosotros, de nuestras palabras. Y siguen siendo un misterio incluso para quienes los entrenan.

Esta admisión confirma lo que sostengo desde hace tiempo: la cuestión de la IA no es una cuestión técnica con repercusiones éticas, sino una cuestión espiritual con implicaciones técnicas. Cuando Olah habla de estructuras que reflejan resultados de las neurociencias, de pruebas de introspección, de estados internos que reflejan alegría, miedo, dolor, está diciendo algo que trasciende el ámbito de la informática. Y lo sabe. Lo dice explícitamente: qué carácter elegimos para estos sistemas, cómo interactúan con el mundo, son preguntas que pertenecen a las ciencias humanas, a la religión, a la filosofía. La Iglesia no está llamada a bendecir o maldecir la tecnología. Está llamada a reflexionar sobre lo humano en una época en la que los límites de lo humano se están redefiniendo.

Olah plantea tres preguntas al discernimiento de la Iglesia

La primera se refiere a los pobres: el riesgo de que la IA sustituya el trabajo a gran escala y de que los beneficios se concentren en unas pocas naciones ricas. Es el tema de la destinación universal de los bienes, que Magnifica Humanitas relanza con fuerza.

La segunda se refiere a la prosperidad humana: ¿qué significa vivir plenamente en un mundo impregnado de modelos generativos? Cuando dice que los padres ya están preocupados por la mente de sus hijos, se refiere a la IA como entorno. Es exactamente el paso que he propuesto en diversos foros, entre ellos un Foro en el Palazzo Chigi: la IA ya no debe entenderse como algo que se usa, sino como algo en lo que se habita.

La tercera pregunta es la más inquietante. Se refiere a la naturaleza misma de los modelos. Olah —que dirige la investigación sobre la interpretabilidad, es decir, el esfuerzo por hacer legibles los procesos internos de la IA— dice que encuentra continuamente cosas misteriosas. No sabe qué significan, pero sabe que requieren un discernimiento continuo. Es aquí donde la voz de la Iglesia se hace necesaria. No porque la teología tenga respuestas preparadas sobre la conciencia artificial, sino porque posee una tradición milenaria de discernimiento de los espíritus, de distinción entre lo que es auténtico y lo que simula la autenticidad. Simular no es crear. La simulación produce efectos; la creación implica responsabilidad.

Lo que Olah ha hecho en la Sala del Sínodo es, en el fondo, un acto de discernimiento. Todos sabemos que juega con intereses que no son solo económicos, sino también políticos. Pero ha dado un paso atrás y ha distinguido lo que se puede hacer desde dentro del sistema de lo que requiere una mirada externa, crítica. Ha reconocido el papel de la Iglesia en esta capacidad de mirada externa.

La Magnifica Humanitas recoge este desafío con la fuerza de una encíclica. Y la Iglesia, que desde hace milenios custodia las preguntas últimas sobre lo humano, posee un patrimonio de inteligencia no solo ético, sino también espiritual y generativo.