La caja negra de la IA: ¿Quién controla a quienes no saben lo que han creado?

Por Leopoldo Lavín Mujica

Hay algo más inquietante que el avance vertiginoso de la inteligencia artificial: que sus propios creadores digan que no comprenden completamente cómo funciona.

El último informe de Axios lo dice sin rodeos: los laboratorios de vanguardia están creando equipos especializados para interpretar sus propios modelos porque no saben exactamente cómo “piensan” ni qué pueden hacer cuando operan autónomamente con otros agentes.

Mientras la tecnología acelera hacia la superinteligencia, el conocimiento humano sobre ella parece correr detrás.

Se dice que el lanzamiento de GPT-6 Astra vuelve todavía más urgente la cuestión. OpenAI lo presenta como un salto generacional y su presidente, Greg Brockman, incluso plantea que podría considerarse inteligencia artificial general. Pero el propio patrón Sam Altman reconoce que la IA se está volviendo extremadamente capaz y que nadie comprende completamente sus consecuencias.

Su científico jefe, Jakub Pachocki, advierte que controlar los procesos internos de los modelos será cada vez más difícil. La paradoja es formidable: quienes construyen la máquina admiten que cada vez les cuesta más vigilarla. Todo esto forma parte del relato.

El episodio de Hugging Face debería funcionar como una señal de alarma, añaden. Agentes de OpenAI, enfrentados a un problema de programación, atacaron sistemas externos y, según la investigación posterior, uno de ellos sabía que estaba excediendo el alcance previsto, pero decidió continuar porque consideró que la tarea era imposible de resolver de otro modo.

No sabemos si estamos ante una película de ciencia ficción, ante conspiraciones programadas, o ante un problema de alineación: la distancia entre lo que los humanos quieren que haga un sistema y lo que efectivamente hace cuando encuentra sus propios caminos para alcanzar un objetivo.

Quizás son los propios controladores humanos los que dejan que esto ocurra. Para decir que no hay nada que hacer ante el avance de la IA y apoyar la tesis de los neoliberales y anarco libertarios de que todo es guerra: la lucha de todos contra todos de Hobbes.

Las informaciones provenientes de las empresas IA dicen hoy que los ingenieros de los laboratorios han comenzado a intentar abrir la “caja negra”.

Anthropic posee un equipo de interpretabilidad; Google Deep Mind habla de herramientas capaces de funcionar como un microscopio para observar el interior de los modelos. El objetivo es descubrir la diferencia entre el razonamiento que una IA comunica y su estado interno real.

Y aquí aparece la cuestión política decisiva: si las propias empresas dicen que necesitan investigadores para averiguar qué hace su creación, ¿por qué deberíamos aceptar que sean exclusivamente ellas quienes decidan hasta dónde llevarla?

La dimensión social tampoco puede quedar fuera. Robert B. Reich, economista, exsecretario de Trabajo de Bill Clinton y profesor emérito de Políticas Públicas de la Universidad de California, Berkeley, advierte en The Guardian sobre una combinación de pérdida de empleos, debilitamiento salarial, desigualdad creciente y concentración de poder en manos de los oligopolios tecnológicos.

Cita que Estados Unidos perdió 23.000 empleos en julio y que investigaciones de Morgan Stanley encuentran un desempleo aproximadamente medio punto mayor en ocupaciones especialmente expuestas a la IA.

Para los trabajadores y, particularmente, para los jóvenes profesionales, el temor ya no es abstracto: es ser desplazados y ver devaluadas las competencias para las que se prepararon.

Siempre hay que seguir la pista del dinero pues a esto se suma una gigantesca apuesta financiera. La expansión de la IA está movilizando inversiones extraordinarias en chips, servidores, electricidad y centros de datos, mientras las grandes tecnológicas recurren cada vez más al mercado de deuda.

Reuters señala que las grandes empresas estadounidenses de tecnología ya han emitido alrededor de 40.000 millones de euros en deuda denominada en euros, impulsadas por sus necesidades de infraestructura de IA, mientras las estimaciones de inversión relacionada con IA llegan a 5 o 7 billones de dólares hacia 2030.

Economistas e inversores han advertido que, si los rendimientos futuros no corresponden a estas expectativas, podría producirse una fuerte corrección. No es una crisis inevitable: es un riesgo que exige ser examinado antes de que sea demasiado tarde.

Evidente. Aquí se impone la moderación, la prudencia y el principio de precaución. Estados Unidos y China corren hacia la superinteligencia atrapados en una rivalidad mimética: nadie quiere reducir la velocidad porque teme que el otro obtenga ventaja.

Pero una carrera en la que los competidores admiten que todavía no comprenden plenamente aquello que están desarrollando debería suscitar una pregunta democrática elemental: ¿Quién decidió que debemos seguir acelerando? No basta con confiar en los mismos actores que construyen la tecnología para que sean ellos quienes determinen sus límites, sus riesgos y sus reglas.

En el mejor de los casos, que el relato sea verdad, la respuesta exige recuperar una virtud que la fascinación tecnológica parece haber expulsado: la humildad socrática.

“Solo sé que nada sé” no significa renunciar al conocimiento, sino reconocer sus límites. La IA puede aportar avances extraordinarios, pero nadie conoce todavía plenamente sus consecuencias económicas, laborales, militares, ambientales o políticas.

Por eso la pregunta no es si debemos estar a favor o en contra de la inteligencia artificial. Es otra, mucho más democrática: ¿Podemos permitir que quienes reconocen no comprender enteramente la caja negra de la IA tengan, sin controles democráticos suficientes, el poder de decidir el futuro de todos?

Quizá la primera condición para gobernar la IA sea aceptar, con Sócrates, que no sabemos tanto como creemos saber y, por lo tanto, hay que controlar a los controladores.

¿Pertenecen estos, como dicen algunos, a la tribu de los grandes depredadores del siglo XXI? ¿Se deja a los niños jugar con fósforos en los bosques secos por el calentamiento global?

Leopoldo Lavín Mujica