Abeba Birhane, experta en IA: El Papa y África rechazan tecnologías neocolonialistas

(Edoardo Giribaldi/Vaticano).- La inteligencia artificial no es una "varita mágica". No se agita sola para resolver los problemas del mundo. Pero está movida, eso sí, por las industrias de alta tecnología occidentales cada vez más alineadas con "preocupantes ideologías políticas" y despegadas "desde abajo", dice la informática etíope Abeba Birhane, con la precisión de quien ha estudiado los cien artículos más citados en la IA y ha descubierto que la gran mayoría de ellos mencionaban solo la eficiencia y el rendimiento como objetivos. Occidente, entonces, no debería mirar a África con la mirada "colonial" que, como advierte el papa León XIV en su encíclica Magnifica humanitas, corre el riesgo de causar daños en la "era digital". Sino importando aquellas prácticas que en la jerga se definen como "high indigenous": la combinación de conocimientos locales con herramientas tecnológicas de vanguardia, elegidas en función del problema a resolver, no impuestas desde el exterior. "No son las tecnologías las que las hacen excepcionales. Es el hecho de que construyen desde abajo, partiendo de las necesidades reales. Este es el modelo que hay que apoyar."

Así, la profesora de la School of Computer Science and Statistics del Trinity College de Dublín —nominada entre los 32 expertos del Órgano Consultivo de IA de las Naciones Unidas, un órgano de asesoría que proporciona recomendaciones sobre la gobernanza global de las nuevas tecnologías, e incluida en la Time100 AI, la lista de las cien personas más influyentes en el campo de la IA de la revista estadounidense Time— comenta con los medios vaticanos la primera encíclica de León XIV, publicada el lunes 25 de mayo, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.

Mi mayor temor es que las grandes compañías estén usando su poder para dejar de lado derechos fundamentales: la libertad de expresión, la libertad de movimiento, incluso el derecho a vivir sin ser vigilados

El papel de los líderes religiosos en la IA

La inclusión de Birhane en la lista compilada por Time es un factor que la une al Obispo de Roma. "El hecho de que una figura religiosa como el Papa haya sido incluida en esa lista tiene implicaciones sociales importantes y positivas", observa. "La IA no es una cuestión académica. Es algo que tiene un impacto en cada uno de nosotros, que está alterando el tejido de la vida social. Y esta conciencia requiere la participación de cada miembro de la sociedad, incluidos los líderes religiosos, que tienen un papel significativo en formar la comprensión pública." De un líder religioso a otro, la profesora recuerda su encuentro con el Dalái Lama en 2022. Birhane le presentó sus trabajos sobre los riesgos de la inteligencia artificial, y él respondió con una frase que resuena hoy entre las páginas de Magnifica humanitas: los valores humanos son considerados de "secundaria importancia" en el campo de la IA.

Las distorsiones de las nuevas tecnologías

En el corazón del trabajo de Birhane se encuentra una constatación documentada por años de estudios empíricos: el campo de la inteligencia artificial está estructuralmente mal orientado. "Casi toda la investigación muestra que las prioridades del sector están profundamente desalineadas respecto a valores como el cuidado, la justicia, la compasión hacia los demás y la protección de la dignidad social." El problema, explica, está arraigado en la naturaleza misma del desarrollo: "Construir sistemas de IA requiere que comportamientos humanos complejos, ambiguos y dinámicos se reduzcan a simples correlaciones estadísticas. El campo no está equipado para capturar y preservar la complejidad de la naturaleza humana." A esto se suma una preocupación más reciente: "La industria tecnológica se ha alineado con ideologías políticas profundamente problemáticas. Mi mayor temor es que, mientras la vida cotidiana se traslada cada vez más al espacio virtual, las grandes compañías estén usando su poder para dejar de lado derechos fundamentales: la libertad de expresión, la libertad de movimiento, incluso el derecho a vivir sin ser vigilados."

Aprender de África

Es sobre la cuestión del Sur global donde Birhane aporta la voz más original, y más necesaria, en sintonía con la advertencia del Pontífice en Magnifica humanitas sobre cómo pesa sobre él el "costo real" del progreso tecnológico. "La IA se presenta como una varita mágica capaz de resolver mágicamente todos los problemas. Y esto simplemente no es verdad." La idea de que África se ha "quedado atrás" por carecer de las herramientas tecnológicas adecuadas se basa en un malentendido de fondo. "Los problemas que enfrenta el continente, desde el hambre hasta la violencia de género, desde la corrupción hasta los conflictos, requieren voluntad política y cambio estructural. No sistemas de IA."

No se parte de la tecnología disponible para buscar un problema que resolver, sino del problema real para elegir la herramienta más adecuada… Esto es lo que hay que poner en valor, no la importación de tecnologías desarrolladas en Occidente sin ninguna comprensión contextual de los problemas que enfrenta África. Tecnologías que, en cierto sentido, encarnan una forma de neocolonialismo

El continente, por lo demás, no es el espacio por llenar que cierta narrativa occidental tiende a describir. "África tiene una historia intelectual rica y extraordinaria, y existen iniciativas locales que construyen tecnologías a partir de los problemas reales de las comunidades, no de los imaginados por los directores ejecutivos de Silicon Valley." El ejemplo que cita a este respecto son las Kabakoo Academies de Bamako, en Mali, que dan la vuelta a los paradigmas: no se parte de la tecnología disponible para buscar un problema que resolver, sino del problema real para elegir la herramienta más adecuada. "Esto es lo que hay que poner en valor, no la importación de tecnologías desarrolladas en Occidente sin ninguna comprensión contextual de los problemas que enfrenta África. Tecnologías que, en cierto sentido, encarnan una forma de neocolonialismo."

Las narrativas sobre la IA

Hay una última cuestión que Birhane quiere aclarar. Se le pide que indique ejemplos positivos de la IA, aquellos casos en los que la tecnología realmente ha mejorado la vida de las personas. "Puede parecer lo contrario, pero la realidad es que estamos inundados de narrativas positivas sobre la IA. La mayoría de ellas no tienen evidencia empírica que las respalde: se basan en intuiciones y sensaciones, más que en evidencias concretas." Y entonces, concluye, es necesario que alguien continúe señalando los riesgos, documentando los daños y desafiando los lugares comunes. "Creo que es completamente lícito, para personas como yo, resaltar los límites y los peligros, para equilibrar esas narrativas injustificadas e infundadas."