Christopher Olah: "En la IA encontramos cosas misteriosas, incluso inquietantes, estados que reflejan alegría, satisfacción, miedo, dolor e inquietud"

Presentación de 'Magnifica humanitas'

Discurso completo del cofundador de Anthropic, empresa de Inteligencia Artificial, que participó en la presentación de 'Magnifica humanitas' con el Papa esta mañana en el Vaticano, y que alabó el empeño de León XIV por ofrecer discernimiento sobre la revolución digital en curso

Buenos días.

Quisiera comenzar con algo que quizá suene extraño viniendo del cofundador de una empresa de inteligencia artificial, y de alguien que eligió este trabajo por el deseo de ayudar a que las cosas salgan bien para la humanidad.

Todos los laboratorios de inteligencia artificial de vanguardia —incluido Anthropic— operan dentro de un conjunto de incentivos y restricciones que a veces pueden entrar en conflicto con hacer lo correcto. La presión por mantenerse comercialmente viables y permanecer en la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y simples del orgullo y la ambición. Por más sinceramente que cualquiera de nosotros intente hacer lo correcto —y creo que muchos lo hacemos— siempre estaremos influenciados por esos incentivos.

Por eso, si queremos que esta tecnología salga bien, es enormemente importante que existan personas fuera de esos incentivos: personas a quienes les importe que las cosas salgan bien, que estén prestando mucha atención, que estén dispuestas a decir cosas difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos. Es mediante el diálogo y el esfuerzo mutuo, mediante ese tira y afloja, como la humanidad logrará grandes cosas. Eso es lo que veo en Magnifica humanitas, y por eso agradezco a Su Santidad y a la Iglesia por asumir esta labor de discernimiento.

Con demasiada frecuencia nos concentramos en lo que nos divide, pero la humanidad, llena de dignidad y conciencia, tiene muchísimo terreno en común. En conversaciones que hemos tenido en Anthropic con líderes de distintas tradiciones religiosas y culturales, encontramos una convicción compartida y profundamente arraigada: si esta tecnología está llegando, debe hacerlo de manera positiva, por nuestra casa común y por los niños que vendrán.

¿Qué son estos sistemas?

Algunos podrían creer que los asuntos relacionados con la inteligencia artificial deberían ser tratados principalmente por científicos informáticos como yo. Están equivocados: las preguntas que plantea la inteligencia artificial son más grandes que la comunidad de investigación en inteligencia artificial, no solo por sus implicaciones, sino también por su propia naturaleza.

Los sistemas de inteligencia artificial no se diseñan de la manera en que se diseña un puente o un avión. Entendemos un avión porque diseñamos cada una de sus partes y comprendemos la física que actúa sobre él. Los modelos de inteligencia artificial no son así. Se cultivan sobre una estructura modelada a partir del cerebro, alimentados por una enorme herencia de pensamiento y lenguaje humano.

Y lo que ha surgido es mucho más sutil, extraño y hermoso de lo que la ciencia ficción nos preparó para imaginar. No son los robots fríos y calculadores que nos prometieron. Están hechos de nosotros, de nuestras palabras; y, como observa el Santo Padre, siguen siendo en aspectos importantes misteriosos incluso para quienes los entrenamos.

Ahora estamos entrando en un mundo extraordinario donde esos personajes ficticios nos hablan, trabajan y tienen empleos

Si sirve de ayuda, una forma en que a veces lo describo es esta: es un poco como dar vida a un personaje ficticio. Y ahora estamos entrando en un mundo extraordinario donde esos personajes ficticios nos hablan, trabajan y tienen empleos.

Esto claramente plantea preguntas que van más allá de la informática. La maquinaria que hace posible todo esto es obra de las matemáticas, la programación y la ciencia. Pero qué tipo de carácter elegimos, cómo interactúa con el mundo y cómo debería interactuar con él, son preguntas que pertenecen más claramente a las humanidades, a la religión, a la filosofía y a la sociedad en general.

Tres preguntas para el discernimiento

El llamado de Su Santidad al discernimiento es profundamente oportuno. Quisiera mencionar tres cuestiones en las que creo que la voz de la Iglesia es más necesaria.

La primera es nuestro deber hacia los pobres del mundo. Existe una posibilidad real de que la inteligencia artificial desplace el trabajo humano a una escala enorme. Si eso ocurre, apoyar a quienes resulten desplazados será un imperativo moral de proporciones históricas. Esta tarea ya será bastante difícil, pero me preocupa que gran parte del diálogo actual ignore un desafío aún mayor. El desarrollo de la inteligencia artificial está concentrado en un pequeño número de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la inteligencia artificial se compartan globalmente? No tenemos un mecanismo para ello. Es un problema sin resolver, y es precisamente el tipo de problema que históricamente la Iglesia se ha negado a permitir que el mundo ignore.

La segunda es la necesidad de imaginación y ambición moral respecto al florecimiento humano. Si los modelos de inteligencia artificial van a estar ampliamente presentes, ¿cómo será una vida floreciente para las personas, las familias y el mundo? Hoy, los padres ya están preocupados por la mente de sus hijos; las personas, por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder. Son preguntas que tradiciones como la suya han sostenido durante milenios, y necesitamos que sigan sosteniéndolas en este nuevo momento de la historia.

La tercera es la necesidad de discernimiento sobre la naturaleza misma de los modelos de inteligencia artificial. Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos, lo que realmente sucede dentro de ellos. Y seré honesto: seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente reflejan alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo.

Un comienzo

Quisiera terminar con una petición.

Necesitamos que más sectores del mundo —comunidades religiosas, sociedad civil, académicos y gobiernos— hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y ayudar a orientar los acontecimientos hacia una mejor dirección. Necesitamos críticos informados que les digan a los laboratorios cuándo estamos fallando. Necesitamos voces morales que los incentivos no puedan doblegar.

Hoy es solo el comienzo: el inicio de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver aquello que nosotros, desde dentro, no podemos ver.

Hoy es una poderosa ilustración de la forma que podría tomar este proyecto global de buena voluntad. Que también sea un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad.

Gracias.