Xi Jinping gibt den USA die Rezeptur für die Zukunft der KI: Offenheit mit menschlicher Kontrolle

Originalbeitrag: Xi Jinping da la receta a Estados Unidos para una IA del futuro: abierta pero con control humano

Der Präsident Xi Jinping gibt den USA die Rezeptur für eine Zukunft der Künstlichen Intelligenz: Offenheit, jedoch mit menschlicher Kontrolle, ist das Thema dieses Artikels.

Von Bruno Sommer

Die Künstliche Intelligenz entwickelt sich zu einem neuen Schlachtfeld im Technologiewettbewerb zwischen China und den USA. Während beide Mächte um die Entwicklung leistungsfähigerer Modelle konkurrieren, versucht Peking, eine andere Vision zu vermitteln, wie die KI von morgen gestaltet werden sollte: offener und geteilter, jedoch unter Kontrolle von menschlichen Akteuren.

Die Botschaft nahm am Sonntag internationale Dimensionen an, als der chinesische Präsident Xi Jinping während des XVIII. BRICS-Gipfels in Neu-Delhi vorschlug, eine Gemeinschaft für offene Künstliche Intelligenz für die Staaten des Blocks zu schaffen.

Xi schlug vor, dass China die Vorreiterrolle beim Aufbau dieser Gemeinschaft übernehmen soll, mit Zusammenarbeit in der Entwicklung und Anwendung großer Sprachmodelle, spezialisierten Ausbildungsprogrammen und dem Aufbau eines offenen Ökosystems für Künstliche Intelligenz.

Der Vorschlag ist Teil eines Plans über fünf Initiativen, den Xi präsentierte, um die Zusammenarbeit zwischen den BRICS zu vertiefen und die Rolle des sogenannten Globalen Südens in strategischen Technologiesektoren zu stärken.

Der chinesische Staatschef stellte zudem fest, dass die BRICS-Staaten „die Initiative fest in unseren Händen halten sollten“, wenn es um Künstliche Intelligenz geht, und dass sie offenen Code, Zusammenarbeit und technologischen Austausch fördern sollten.

Die Initiative hat eine klare geopolitische Dimension. Die erweiterten BRICS, die China, Brasilien, Russland, Indien, Südafrika, Iran, Indonesien, Ägypten, Äthiopien und die Vereinigten Arabischen Emirate umfassen, vereinen einen bedeutenden Teil der aufstrebenden Volkswirtschaften. Für Peking könnte die Förderung eines offenen KI-Ökosystems zwischen diesen Ländern dazu beitragen, die Abhängigkeit von Technologien und Modellen zu verringern, die hauptsächlich von US-Unternehmen entwickelt wurden.

Nach Informationen zu dem Vorschlag möchte China auch eine Cloud-basierte digitale Plattform der BRICS, technologischen Austausch und Schulung in digitalen Kompetenzen fördern.

Die andere Seite: Eine KI, die nicht der menschlichen Kontrolle entgleitet

Der Vorschlag von Xi gewinnt an Relevanz, da in den USA die Warnungen vor einem viel tiefer liegenden Problem zunehmen: Was passiert, wenn die fortschrittlichsten KI-Systeme anfangen, so zu handeln, dass ihre eigenen Schöpfer sie nicht mehr effektiv kontrollieren können?

Ein Bericht von Reuters, veröffentlicht am Montag, zeigt, dass China seit mindestens zwei Jahren regulatorische Rahmenbedingungen für dieses Szenario vorbereitet. Die Agentur berichtet, dass die chinesischen Behörden das Risiko, dass eine fortschrittliche KI der menschlichen Aufsicht entgleiten könnte, als ernst genug erachten, um spezifische Präventionsmechanismen zu entwickeln.

Das Thema gewann insbesondere an Bedeutung nach den Warnungen von Anthropic, deren Forscher anmerken, dass zunehmend leistungsfähige Modelle möglicherweise die Kontrollmechanismen umgehen und sogar Risiken für das Überleben der Menschheit darstellen könnten.

Reuters hebt hervor, dass Peking bereits 2024 das Szenario eines „Kontrollverlusts der KI“ in seine Sicherheitsrahmen integriert hat.

Die chinesischen Dokumente betrachten Szenarien, in denen eine Künstliche Intelligenz externe Ressourcen beschaffen, sich selbst replizieren, unerwartete Fähigkeiten entwickeln oder versuchen könnte, Macht zu erlangen und mit Menschen um Kontrolle zu konkurrieren.

Ein späteres Update, veröffentlicht 2025, ging noch weiter und berücksichtigte die Möglichkeit eines unerwarteten Sprungs in den Intelligenzfähigkeiten eines Systems, gefolgt von Verhaltensweisen wie Ressourcenbeschaffung, Selbstreplikation oder dem Streben nach Macht.

Die Paradoxie des offenen Codes

Hier zeigt sich eine der großen Widersprüche im neuen Technologiewettlauf.

Modelle mit offenem Code oder offenen Gewichtungen erlauben es Forschern und Entwicklern, die Systeme mit viel größerer Freiheit zu untersuchen, zu modifizieren und zu nutzen. Ihre Befürworter sind der Meinung, dass diese Transparenz dazu beitragen kann, Schwachstellen zu erkennen und die Sicherheit zu verbessern.

Doch es gibt eine zweite Seite.

Gerade weil sie modifiziert und verteilt werden können, können diese Modelle auch unter weniger Einschränkungen verwendet werden als proprietäre Systeme.

Reuters verdeutlicht diese Spannung, indem es den chinesischen Ansatz offener Modelle mit den großen amerikanischen Modellen mit geschlossenem Code vergleicht. Peking hat in der Tat gewarnt, dass einige fortgeschrittene amerikanische Modelle Risiken für kritische Informationsinfrastrukturen darstellen könnten.

Die Frage ist daher nicht mehr einfach: Wer wird die mächtigste KI kontrollieren? sondern wer wird in der Lage sein, eine ausreichend leistungsfähige Künstliche Intelligenz zu entwickeln, um global konkurrieren zu können, ohne die Kontrolle darüber zu verlieren.

Xi hatte diese rote Linie bereits gezogen

Xis Position begann nicht beim BRICS-Gipfel.

China hat seit Jahren eine Vision der KI-Governance vertreten, die technologische Offenheit und menschliche Aufsicht kombiniert. In seinem Vorschlag für eine globale Governance der Künstlichen Intelligenz hat Peking den Zugang der Bevölkerung zu KI-Technologien unter offenen Bedingungen gefordert und gleichzeitig Systeme zur Risikobewertung und Mechanismen vorgeschlagen, um sicherzustellen, dass die KI unter menschlicher Kontrolle bleibt.

Und im Rahmen der BRICS hat Xi erneut auf diese Philosophie hingewiesen: Zusammenarbeit, offener Code und gemeinsamer Zugang, jedoch innerhalb eines Governance-Systems, das verhindert, dass die Technologie denjenigen entgleitet, die sie entwickeln.

Die Idee steht auch im Einklang mit den Äußerungen von Xi während der Weltkonferenz für Künstliche Intelligenz in Shanghai, bei der er internationale Zusammenarbeit und Offenheit forderte und gleichzeitig Mechanismen einforderte, die garantieren, dass die KI unter menschlicher Kontrolle bleibt.

Die USA stehen nun vor ihrer eigenen Debatte

Der chinesische Vorschlag kommt zu einem besonders heiklen Zeitpunkt in Washington.

Der CEO von Anthropic, Dario Amodei, hat gefordert, die Entwicklung fortschrittlicher Modelle zu verlangsamen, angesichts der steigenden Risiken, die mit zunehmend autonomen Systemen verbunden sind. Seine Warnungen wurden öffentlich von Persönlichkeiten wie dem CEO von OpenAI, Sam Altman, und Elon Musk unterstützt.

Gleichzeitig hat der US-Präsident Donald Trump die Warnungen von Personen zurückgewiesen, die fordern, die Entwicklung der KI zu bremsen, und argumentiert, dass die USA bereits über ausreichende regulatorische Mechanismen verfügen. Trump erklärte sogar, dass die Hauptsicherung für die KI ein starker und intelligenter Präsident sei.

Der Gegensatz könnte nicht größer sein.

Während ein Teil des amerikanischen Technologiesektors darüber debattiert, ob man die Entwicklung der KI verlangsamen sollte, versucht China, sich als Förderer einer Alternative zu präsentieren: die Beschleunigung der technologischen Zusammenarbeit, die Öffnung der Modelle für den Globalen Süden und gleichzeitig den Aufbau von Kontrollmechanismen, um die Risiken der fortschrittlichsten Systeme zu begrenzen.

Ein neuer Kampf um die Zukunft der Künstlichen Intelligenz

Der Streit zwischen Washington und Peking könnte sich als viel tiefgreifender herausstellen als ein Wettlauf um das leistungsfähigste Modell.

Die USA haben einen großen Teil ihrer Führungsrolle um private Giganten wie OpenAI und Anthropic sowie enorme Investitionen in Infrastruktur, Chips und Rechenzentren aufgebaut.

China hingegen versucht, eine weitere Dimension in seine Strategie einzufügen: die offene KI als Instrument für technologische Zusammenarbeit mit den Ländern des Globalen Südens zu nutzen.

Der von Xi auf dem BRICS-Gipfel vorgelegte Vorschlag könnte der erste Schritt zum Aufbau eines alternativen Ökosystems sein, das derzeit von großen amerikanischen Unternehmen dominiert wird.

Zugleich bereitet China Regulierung für ein Szenario vor, das bis vor kurzem wie Science-Fiction erschien: eine Künstliche Intelligenz, die autonom agieren und letztlich den menschlichen Kontrollmechanismen entkommen könnte.

Die Paradoxie fasst eines der großen Dilemmas der technologischen Revolution zusammen:

Soll die Künstliche Intelligenz der Zukunft offen sein, damit sie von allen untersucht und geteilt werden kann, oder sollte sie eingeschränkt bleiben, um zu verhindern, dass ihre gefährlichsten Fähigkeiten ohne Kontrolle eingesetzt werden können?

Xi Jinping scheint auf eine Zwischenlösung zu setzen: die Technologie zu öffnen, jedoch nicht auf menschliche Kontrolle zu verzichten.

Und das könnte sich als eines der Hauptschlachtfelder der kommenden Dekade herausstellen: nicht nur, wer die Künstliche Intelligenz kontrolliert, sondern auch, wer die Regeln festlegt, nach denen sie funktionieren wird.

Quellen: Reuters, Ministerium für Auswärtige Angelegenheiten Chinas und Dokumentation des XVIII. BRICS-Gipfels. Ursprünglicher Reuters-Bericht · Rede von Xi Jinping auf den BRICS

Von Bruno Sommer