Xi Jinping da la receta a Estados Unidos para una IA del futuro: abierta pero con control humano

El presidente Xi Jinping da la receta a Estados Unidos para una IA del futuro: abierta pero con control humano es el tema que abordamos en este artículo.

Por Bruno Sommer

La inteligencia artificial se está convirtiendo en uno de los nuevos campos de disputa tecnológica entre China y Estados Unidos. Pero mientras ambas potencias compiten por desarrollar modelos cada vez más poderosos, Beijing está intentando proyectar una idea diferente sobre cómo debería construirse la IA del futuro: más abierta y compartida, pero sometida a límites que garanticen que permanezca bajo control humano.

El mensaje adquirió una dimensión internacional este domingo, cuando el presidente chino, Xi Jinping, propuso durante la XVIII Cumbre de los BRICS, celebrada en Nueva Delhi, crear una comunidad de inteligencia artificial de código abierto para los países del bloque.

Xi planteó que China sea pionera en la creación de esta comunidad, con cooperación en el desarrollo y aplicación de grandes modelos de lenguaje, programas especializados de formación y la construcción de un ecosistema abierto de inteligencia artificial.

La propuesta forma parte de un plan de cinco iniciativas presentado por Xi para profundizar la cooperación entre los BRICS y fortalecer el papel del llamado Sur Global en sectores tecnológicos estratégicos.

El mandatario chino sostuvo además que los países BRICS deben “mantener la iniciativa firmemente en nuestras manos” en materia de inteligencia artificial, impulsar el código abierto, la cooperación y el intercambio tecnológico.

La iniciativa tiene una evidente dimensión geopolítica. Los BRICS ampliados —que incluyen a China, Brasil, Rusia, India, Sudáfrica, Irán, Indonesia, Egipto, Etiopía y Emiratos Árabes Unidos— reúnen a una parte importante de las economías emergentes. Para Beijing, impulsar un ecosistema de IA abierto entre estos países puede contribuir a reducir la dependencia de tecnologías y modelos desarrollados principalmente por compañías estadounidenses.

De acuerdo con la información difundida sobre la propuesta, China también pretende impulsar una plataforma digital en la nube de los BRICS, intercambio tecnológico y formación en competencias digitales.

La otra cara: una IA que no escape al control humano

La propuesta de Xi adquiere especial relevancia porque llega prácticamente al mismo tiempo que crecen en Estados Unidos las advertencias sobre un problema mucho más profundo: qué ocurriría si los sistemas de IA más avanzados comenzaran a actuar de manera que sus propios creadores ya no pudieran controlar eficazmente.

Un reportaje publicado este lunes por Reuters revela que China lleva al menos dos años preparando marcos regulatorios para ese escenario. La agencia señala que las autoridades chinas consideran suficientemente serio el riesgo de que una inteligencia artificial avanzada pueda escapar de la supervisión humana como para haber comenzado a desarrollar mecanismos específicos de prevención.

El asunto cobró especial importancia después de las advertencias procedentes de Anthropic, cuyos investigadores han señalado que modelos cada vez más capaces podrían eventualmente escapar de los mecanismos de control e incluso plantear riesgos para la supervivencia humana.

Reuters destaca que Beijing ya había incorporado en 2024 el escenario de una “pérdida de control” de la IA dentro de sus marcos de seguridad.

Los documentos chinos contemplan escenarios en los que una inteligencia artificial pueda obtener recursos externos, replicarse, desarrollar capacidades inesperadas o intentar adquirir poder y competir con los seres humanos por el control.

Una actualización posterior, publicada en 2025, fue todavía más lejos al contemplar la posibilidad de que un sistema experimentara un salto inesperado en sus capacidades de inteligencia, seguido de comportamientos como la adquisición de recursos, la autorreplicación o la búsqueda de poder.

La paradoja del código abierto

Aquí aparece una de las grandes contradicciones de la nueva carrera tecnológica.

Los modelos de código abierto o de pesos abiertos permiten que investigadores y desarrolladores puedan examinar, modificar y utilizar los sistemas con mucha mayor libertad. Sus defensores consideran que esta transparencia puede contribuir a detectar vulnerabilidades y mejorar la seguridad.

Pero existe una segunda cara.

Precisamente porque pueden modificarse y redistribuirse, estos modelos también pueden ser utilizados con menos restricciones que los sistemas propietarios.

Reuters señala esta tensión al comparar el enfoque chino de modelos abiertos con los grandes modelos estadounidenses de código cerrado. Beijing ha advertido, de hecho, que algunos modelos estadounidenses avanzados podrían representar riesgos para infraestructuras críticas de información.

La pregunta, por tanto, ya no es simplemente quién tendrá la IA más poderosa, sino quién será capaz de construir una inteligencia artificial suficientemente potente para competir globalmente sin perder la capacidad de controlarla.

Xi ya había fijado esa línea roja

La posición de Xi no comenzó en la cumbre de los BRICS.

China ha defendido durante años una visión de la gobernanza de la IA que combina apertura tecnológica y supervisión humana. En su propuesta de gobernanza global de inteligencia artificial, Beijing ha defendido el acceso de la población a tecnologías de IA bajo condiciones de código abierto y, al mismo tiempo, ha planteado sistemas de evaluación de riesgos y mecanismos para garantizar que la IA permanezca bajo control humano.

Y en el marco de los BRICS, Xi volvió a insistir ahora en esa filosofía: cooperación, código abierto y acceso compartido, pero dentro de un sistema de gobernanza que evite que la tecnología termine escapando de las manos de quienes la desarrollan.

La idea también conecta con las declaraciones realizadas por Xi durante la Conferencia Mundial de Inteligencia Artificial celebrada en Shanghái, donde defendió la cooperación internacional y el código abierto, al tiempo que reclamó mecanismos capaces de garantizar que la IA permanezca bajo control humano.

Estados Unidos enfrenta ahora su propio debate

La propuesta china llega en un momento particularmente delicado en Washington.

El CEO de Anthropic, Dario Amodei, ha pedido ralentizar el desarrollo de los modelos de frontera ante el aumento de los riesgos asociados a sistemas cada vez más autónomos. Sus advertencias fueron respaldadas públicamente por figuras como el CEO de OpenAI, Sam Altman, y Elon Musk.

Al mismo tiempo, el presidente estadounidense Donald Trump ha rechazado las advertencias de quienes piden frenar el desarrollo de la IA y ha defendido que Estados Unidos ya dispone de mecanismos regulatorios suficientes. Trump llegó a afirmar que la principal salvaguarda necesaria para la IA es contar con un presidente fuerte e inteligente.

El contraste no podría ser mayor.

Mientras parte del sector tecnológico estadounidense debate si hay que ralentizar el desarrollo de la IA, China está intentando presentarse como promotora de una alternativa: acelerar la cooperación tecnológica, abrir los modelos al Sur Global y, simultáneamente, construir mecanismos de control para limitar los riesgos de los sistemas más avanzados.

Una nueva batalla por el futuro de la inteligencia artificial

La disputa entre Washington y Beijing podría terminar siendo mucho más profunda que una carrera por conseguir el modelo más potente.

Estados Unidos ha construido buena parte de su liderazgo alrededor de gigantes privados como OpenAI y Anthropic y de enormes inversiones en infraestructura, chips y centros de datos.

China, en cambio, está intentando añadir otra dimensión a su estrategia: convertir la IA abierta en una herramienta de cooperación tecnológica para los países del Sur Global.

La propuesta realizada por Xi en los BRICS puede ser el primer paso hacia la construcción de un ecosistema alternativo al dominado actualmente por las grandes compañías estadounidenses.

Y al mismo tiempo, China está preparando regulaciones para un escenario que hasta hace poco parecía propio de la ciencia ficción: una inteligencia artificial que pueda actuar de forma autónoma y eventualmente escapar de los mecanismos de control humanos.

La paradoja resume uno de los grandes dilemas de la revolución tecnológica:

¿Debe la inteligencia artificial del futuro ser abierta para que pueda ser examinada y compartida por todos, o debe permanecer restringida para evitar que sus capacidades más peligrosas puedan ser utilizadas sin control?

Xi Jinping parece apostar por una respuesta intermedia: abrir la tecnología, pero no renunciar al control humano.

Y esa puede terminar siendo una de las principales batallas geopolíticas de la próxima década: no solo quién controla la inteligencia artificial, sino quién consigue imponer las reglas bajo las cuales funcionará.

Fuentes: Reuters, Ministerio de Relaciones Exteriores de China y documentación de la XVIII Cumbre de los BRICS. Reportaje original de Reuters · Discurso de Xi Jinping en los BRICS

Por Bruno Sommer