Sergi Rodríguez: "La IA no es Dios, no podemos idolatrarla ni darle el papel de superconciencia… Aún estamos a tiempo de poner límites"

(Macià Grau/Catalunya Cristiana).- La inteligencia artificial avanza a gran velocidad, e incluso sus propios creadores han avisado en las últimas semanas de que existe un peligro real de que la IA se nos escape de las manos y actúe de forma autónoma. Ante esta situación, que está generando mucha angustia entre la gente, la primera encíclica del papa León XIV, Magnifica humanitas , toma especial relevancia, ya que precisamente trata sobre la relación entre el progreso tecnológico y la dignidad de la persona.

Para reflexionar sobre la encíclica del Papa y el futuro de la IA, este miércoles 16 de septiembre el programa El Mañana en Ràdio Estel ha entrevistado a Sergi Rodríguez López-Ros , vaticanista, profesor de la Universidad CEU Abat Oliba y experto en IA.

Rodríguez López-Ros, que ya fue entrevistado en Catalunya Cristiana con motivo de la primera encíclica de León XIV , ha explicado que actualmente nos encontramos en una segunda fase de la inteligencia artificial: "Diría que estamos en la segunda fase de la IA, en la que ya podemos crear textos o crear imágenes, y es un paso muy grande", ha señalado. Si continúa su desarrollo, llegará una tercera etapa, la de la “superinteligencia artificial”, que, como dice el profesor de la Universidad CEU Abat Oliba, “teóricamente, debería darnos miedo, porque es una inteligencia consciente” .

Sin embargo, el vaticanista ha señalado que todavía estamos a tiempo de poner límites a esta tecnología y ha remarcado la necesidad de educar en su uso y de regular su desarrollo.

No podemos delegar las decisiones

Ante la posibilidad de que la IA pueda actuar de forma autónoma, Rodríguez López-Ros ha advertido que en ningún caso debería asumir decisiones sobre la vida de las personas. "No podemos delegar decisiones en una IA. Podemos consultar, podemos ayudarnos, pero no podemos delegar nuestra vida cotidiana, ni pensar que ella es una persona, no podemos dialogar, no puede aconsejarnos".

Durante la entrevista, donde también ha participado Tica Font y las periodistas Carme Munté y Mercè Raga , Sergi Rodríguez ha alertado también de que la cantidad de información que se le proporciona a la IA y el número de decisiones que se le pueden llegar a delegar pueden acabar convirtiéndose en un riesgo: “Es muy operativo, es tan práctico, pero tenemos el riesgo nosotros”.

Es necesaria una educación en el uso de la IA y poner un límite en el tema del desarrollo

En este sentido, el vaticanista ha recordado que actualmente ya hay personas, incluso niños, que llegan a establecer con la IA una relación similar a la que tendrían con otra persona, y ha advertido: "La IA Prácticamente no es nada, no es una persona, nunca será una persona. Parecerá que es una persona, pero no es realmente una persona", ha remarcado.

Por eso, ha defendido la necesidad de una educación en el uso de estas herramientas y de una regulación que establezca límites a su desarrollo. "Es necesaria una educación en el uso de la IA y poner un límite en el tema del desarrollo", ha afirmado. 

A la luz de Magnifica humanitas , Sergi Rodríguez ha explicado que el Vaticano ha puesto en marcha un mecanismo interdicasterial para concretar las propuestas de la encíclica, una iniciativa que, a su juicio, muestra la voluntad de llevar el documento al ámbito práctico. "Estamos todavía a tiempo de detenerlo, podemos poner límites: bien en el uso que nosotros hacemos, bien en la regulación, bien en la capacidad de investigación tecnológica".

En relación con las advertencias que han hecho algunos de los propios creadores de la IA sobre los riesgos de esta tecnología, Rodríguez López-Ros ha interpretado que son también “frutos” de la reflexión generada por la Magnifica humanitas, de la que ha subrayado dos ideas: “La IA no es Dios, no podemos sentirlo y no podemos idolatrarla y, por tanto, darla o tiene una capacidad de sentir”.

Límites también físicos y materiales

En su intervención, Tica Font ha coincidido con Sergi Rodríguez en la necesidad de poner límites al desarrollo de la IA. "No sólo es que estamos a tiempo, sino que debemos poner límites y es el momento", ha afirmado. Font ha señalado que los propios diseñadores de la inteligencia artificial han podido comprobar que, cuando se da un objetivo a una IA, ésta puede tomar un camino que sus creadores no habían previsto.

Debemos poner límites y es el momento

Font ha hecho hincapié en la necesidad de que el desarrollo de esta tecnología tenga también unos límites definidos desde su mismo diseño. "A cualquier ingeniero le dices: 'hazme un teléfono' y le pones límites. Y aquí hemos creado algo sin límites. Y esta es la primera cuestión que debemos hacer". Estos límites, como ha dicho, no deberían ser sólo técnicos, sino también físicos y materiales: " Necesitamos límites al consumo energético, límites en el consumo de agua, límites en la disponibilidad de que todo sea inmediato ", ha señalado.