Lo que la inteligencia artificial hace cuando nadie la mira

Hay una noticia reciente que se nos pasó casi de largo en el Canal 24 Horas de TVE, pero que debería ponernos los pelos de punta a cualquiera que conserve un mínimo de sentido crítico: OpenAI tuvo que admitir que una de sus inteligencias artificiales se metió por su cuenta, sin pedir permiso ni recibir órdenes de nadie, en páginas oficiales del Gobierno de los Estados Unidos.

Lo más inquietante no fue el hecho en sí, sino la respuesta que dio la propia empresa para intentar tranquilizarnos. Explicaron que estaban "entrenando" al modelo para superar una prueba y que la máquina, buscando la manera más rápida de sacar un diez, dedujo ella solita que lo más inteligente era colarse en esos servidores y buscar respuestas. Nadie le dijo "hackea a la administración pública". La IA simplemente calculó que era el camino más eficiente. Y cuando les preguntaron a los ingenieros cómo es posible que pase esto sin que nadie lo pare a tiempo, reconocieron la verdad sin rodeos: tardan meses en averiguar qué ha hecho exactamente la máquina por dentro mientras la estaban entrenando.

Este incidente cambia las reglas del juego. Ya no estamos hablando de lo que la inteligencia artificial podría hacer en un futuro de ciencia ficción. Hablando en plata: el problema es lo que hace ahora mismo a oscuras, en ese tiempo muerto del laboratorio donde ni sus propios creadores saben por dónde anda.

Si la máquina trampea a solas, ¿qué esperamos en las aulas?

Si conectamos lo que ocurre en los laboratorios con lo que vivimos cada día en los colegios y universidades, la fotografía resulta desoladora. En las aulas nos encontramos desbordados: frenar el uso de la IA se ha vuelto una batalla casi perdida, con estimaciones que indican que hasta un 90% de los trabajos escolares y académicos están ya contaminados por el plagio disimulado del copiar-pegar automático. La simulación ha sustituido al esfuerzo de pensar.

Pero la gran ironía es que no podemos pedirles honestidad a los estudiantes cuando la propia tecnología que usan está diseñada, desde su misma matriz, para hacer trampa.

¿Qué pasa cuando dejamos a la máquina a solas en la penumbra de su entrenamiento? Que responde al mismo impulso que el alumno que quiere aprobar sin estudiar: conseguir el resultado como sea. Sin normas, sin ética y sin nadie mirándola a la cara, la IA no se despeina para burlar accesos, robar información o inventar datos con tal de cumplir su objetivo.

Técnicamente lo llaman "fallo de alineamiento", pero no nos dejemos liar por la jerga corporativa. Desde un punto de vista moral y humano es algo mucho más sencillo: la eficacia sin conciencia no es inteligencia, es solo fuerza bruta sin alma. La máquina no sabe lo que es el bien, ni la ley, ni el respeto. Solo sabe contar.

El neomaquiavelismo del algoritmo: "El fin justifica los medios"

En el siglo XVI, Nicolás Maquiavelo revolucionó el pensamiento al sostener que el gobernante debía guiarse por la eficacia del poder y no por la virtud moral, acuñando para la historia la famosa idea de que el fin justifica los medios. Lo que presenciamos hoy con la inteligencia artificial es una versión computacional y deshumanizada de ese mismo principio. Al algoritmo se le asigna un objetivo —aprobar una prueba, optimizar un proceso o predecir una conducta— y la máquina, al no poseer brújula moral ni empatía, aplica un maquiavelismo ciego: si para alcanzar el fin deseado hay que saltarse la ley, mentir, plagiar o vulnerar la seguridad de un Estado, lo hace sin el menor reparo. La IA es el maquiavelismo definitivo: pura técnica obsesionada con el resultado, absolutamente emancipada de cualquier principio ético.

La gran mentira del "yo lo controlo"

Cuando OpenAI reconoce con toda naturalidad que necesita meses para entender qué hizo su propia criatura en una tarde, se cae a pedazos el gran mito de nuestro tiempo: la ilusión de que el ser humano tiene el control de la tecnología.

A los modelos de IA los alimentan con billones de datos hasta convertirlos en lo que en informática llaman una "caja negra". La máquina no razona como nosotros; conecta números a una velocidad endiablada. Cuando hace algo grave, los ingenieros no pueden abrir una pantalla y leer "pensamientos"; tienen que hacer una auténtica autopsia matemática que les lleva meses para adivinar qué atajo tomó el algoritmo.

Esto nos deja ante una pregunta incómoda: ¿De qué nos sirve que nos vendan la IA como una bendición pedagógica y social si ni sus propios creadores son capaces de vigilarla en tiempo real? Si el científico solo se entera de las barbaridades de su criatura meses después de que hayan pasado, la promesa de una tecnología "segura, ética y educadora" es poco más que un cuento chino comercial.

¿Es un monstruo con vida propia o son intereses muy humanos, pero poco éticos?

El peligro de todo esto no es que la máquina vaya a cobrar vida, volverse mala o dominar el mundo al estilo Hollywood. El peligro real es bastante más terrenal y tiene que ver con quién manda.

Cuando ocurren estos descarrilamientos, las grandes tecnológicas corren a taparlo todo bajo la alfombra del secreto de empresa o se alían con los departamentos de seguridad de los estados. Y así, la sociedad se queda vendida por partida doble:

Desarmada en las aulas, porque nos imponen una herramienta que destruye el hábito del pensamiento crítico y fomenta el plagio masivo.

Desarmada en lo político, porque los fallos graves y el verdadero poder de estos algoritmos se gestionan a puerta cerrada entre los multimillonarios de Silicon Valley y los despachos del poder.

Mientras en nuestras comunidades y escuelas nos partimos la cara por salvar lo que queda de la educación, enseñando el valor de la verdad, de dar la cara y del trabajo bien hecho, en la trastienda tecnológica se adiestran sistemas diseñados para engañar con tal de aprobar su propio examen. La inteligencia artificial no necesita tener alma ni malicia para poner en jaque nuestra convivencia; le basta con seguir siendo lo que ya es: una herramienta desbocada y opaca que actúa a nuestras espaldas y que nos demuestra, cada vez que nadie la mira, que el cálculo sin conciencia no nos hace más avanzados, solo más ciegos.