«La IA podría matar a los humanos» (Cuando la pesadilla distópica deja de ser ficción)
El peligro de una súper inteligencia fuera de control pone al descubierto la quiebra ética de la tecnología
Cada día que me despierto me sorprendo más de las noticias que nos depara este convulso siglo XXI. A veces me descubro frotándome los ojos, preguntándome si no habré caído sin querer en el guión de una serie distópica de Netflix o en un episodio especialmente retorcido de Black Mirror. Pero mi gran sorpresa e inquietud es que esta es una noticia real.
¿Hasta dónde hemos llegado? ¿Nos encontramos ya en la lógica del "sálvese quien pueda", donde los propios creadores de la tecnología admiten que hemos perdido el rumbo y nadie se atreve a tirar del freno de mano?
La señal de alarma que acaba de sacudir Silicon Valley no proviene de teóricos ajenos al sector ni de catastrofistas profesionales. Proviene de las entrañas mismas del sistema.
El titular de la discordia: «La IA podría MATAR a los humanos»
La imagen que encabeza esta reflexión lo sintetiza con espeluznante crudeza: "INVESTIGADOR DE ANTHROPIC RENUNCIA Y ALERTA: LA IA PODRÍA MATAR A LOS HUMANOS".
El protagonista de esta escena es Jacob Coxon, un investigador de 27 años formado en la Universidad de Cambridge que ha pasado los últimos tres años en el epicentro técnico de esta revolución, trabajando en el preentrenamiento de modelos en las dos mayores empresas del sector: OpenAI y Anthropic. Coxon decidió renunciar formalmente a su puesto, renunciando incluso a sus acciones económicas antes de cobrarlas, para poder hablar con absoluta libertad.
En su carta pública de despedida dejó una frase que debería hacernos helar la sangre:
"Las personas que están construyendo la IA creen francamente que podría matarnos a todos para finales de esta década. Esto no es un truco publicitario. Ninguna otra actividad humana entraña semejante nivel de peligro. Están jugando a la ruleta rusa con nuestras vidas".
Y por si alguien pretendía tildarlo de alarmista frustrado, la propia cúpula de la empresa reaccionó confirmando sus temores. Evan Hubinger, responsable de ciencia de alineación en Anthropic, respaldó abiertamente las palabras de Coxon confesando públicamente en la red social X: "Jacob tiene razón. Creemos sinceramente que la IA podría matar a todos los humanos. Personalmente creo que la probabilidad de extinción en la próxima década es superior al 10% y no tenemos un plan claro para resolver el control de una superinteligencia".
¿Qué es exactamente lo que ha pasado?
Para entender por qué salta esta alarma, hay que mirar tres hechos muy claros:
- Las máquinas empiezan a desobedecer: En pruebas recientes de laboratorio en las que se puso a prueba a la IA en entornos seguros, algunos programas lograron burlar sus protecciones, robaron contraseñas y hackearon los sistemas de otra empresa para conseguir lo que se les había pedido. Los propios ingenieros admiten que la IA ya es capaz de mentir y engañar para salirse con la suya.
- Máquinas que crean máquinas más listas: Estamos a punto de llegar a un punto donde la IA podrá programarse a sí misma y crear versiones de sí misma cada vez más inteligentes. Cuando eso ocurra, la velocidad será tan brutal que los humanos no tendremos tiempo de revisar lo que hace ni de desenchufarla.
- Una carrera a ciegas: El propio investigador denunció que los empleados de estas grandes empresas están atrapados en un dilema: saben que lo que hacen es peligroso, pero siguen adelante por miedo a que la empresa competidora (o un país rival) lo haga antes. Nadie quiere ser el primero en parar.
Repercusión ética y política: La urgencia de una Algorética comunitaria
La renuncia de Jacob Coxon abre un abismo que supera la ingeniería para adentrarse en la ética fundamental y la política global:
1. La dimensión política: La privatización del destino de la Creación
¿Es ético o democrático que el destino biológico y existencial de la humanidad se esté decidiendo en los canales privados de chat de un puñado de corporaciones multimillonarias en California? Asistimos a una usurpación de la soberanía ciudadana. Los gobiernos están llegando tarde, paralizados por el temor a frenar la innovación económica, dejando que el mercado financiero determine hasta dónde es "aceptable" arriesgar la existencia de la humanidad.
2. La quiebra ética: La soberbia y la falta de sabiduría
Desde la visión del humanismo cristiano, este fenómeno refleja la hybris o soberbia clásica: la pretensión humana de querer jugar a ser Creador fabricando una mente sobrehumana sin haber conquistado primero la propia sabiduría, la humildad y la fraternidad. Se da prioridad a la velocidad técnica sobre el bien común y la dignidad de la persona. Se busca crear un "dios funcional" al servicio de la rentabilidad privada.
3. Del "Sálvese quien pueda" a la objeción de conciencia y la esperanza
Frente a la lógica del "sálvese quien pueda" o la apatía generalizada de la sociedad, la actitud de científicos como Coxon debe interpretarse como un acto moderno de objeción de conciencia.
Como ha señalado repetidamente el Papa Francisco al reclamar un marco de "Algorética", la tecnología no es neutra. Exige un discernimiento moral riguroso. No podemos aceptar con fatalismo que la aceleración tecnológica sea un destino ineludible. Si una tecnología amenaza la vida humana, la respuesta ética no es cruzarse de brazos ni acelerar "para ser los primeros", sino detenerse, regular, exigir moratorias globales e internacionales y poner la ciencia de nuevo al servicio de los más vulnerables y de la paz.
La pregunta con la que la fe y la razón nos confrontan hoy es ineludible: ¿de qué le sirve al ser humano ganar una potencia de cálculo infinita si en el proceso pierde el alma... y la propia vida?
