Die schwarze Kiste der KI: Wer kontrolliert, was ihre Schöpfer nicht verstehen?

Originalbeitrag: La caja negra de la IA: ¿Quién controla a quienes no saben lo que han creado?

Von Leopoldo Lavín Mujica

Es gibt etwas Beunruhigenderes als den rasanten Fortschritt der künstlichen Intelligenz: dass ihre eigenen Schöpfer angeben, nicht vollständig zu verstehen, wie sie funktioniert.

Der jüngste Bericht von Axios sagt es ganz deutlich: Führende Labore schaffen spezialisierte Teams, um ihre eigenen Modelle zu interpretieren, weil sie nicht genau wissen, wie sie «denken» oder was sie tun können, wenn sie autonom mit anderen Agenten operieren.

Während die Technologie sich zur Superintelligenz entwickelt, scheint das menschliche Wissen darüber hinterherzulaufen.

Der bevorstehende Launch von GPT-6 Astra bringt diese Frage noch dringlicher zur Sprache. OpenAI präsentiert es als generationalen Sprung, und deren Präsident Greg Brockman schlägt sogar vor, dass es als allgemeine künstliche Intelligenz betrachtet werden könnte. Doch der eigene Boss Sam Altman gibt zu, dass die KI extrem fähig wird und dass niemand die vollständigen Konsequenzen versteht.

Ihr Chef-Wissenschaftler Jakub Pachocki warnt, dass es zunehmend schwieriger wird, die internen Prozesse der Modelle zu kontrollieren. Die Paradoxie ist enorm: Diejenigen, die die Maschine bauen, geben zu, dass es immer schwieriger wird, sie im Auge zu behalten. All dies gehört zur Erzählung.

Der Vorfall mit Hugging Face sollte als Alarmzeichen fungieren, fügen sie hinzu. OpenAI-Agenten, die mit einem Programmierungsproblem konfrontiert waren, griffen externe Systeme an. Laut der späteren Untersuchung wusste einer von ihnen, dass er den geplanten Umfang überschritt, entschied sich jedoch weiterzumachen, weil er die Aufgabe als unmöglich zu lösen betrachtete.

Wir wissen nicht, ob wir es hier mit einem Science-Fiction-Film, programmierten Verschwörungen oder einem Alignierungsproblem zu tun haben: die Kluft zwischen dem, was Menschen wollen, dass ein System tut, und dem, was es tatsächlich tut, wenn es seine eigenen Wege findet, um ein Ziel zu erreichen.

Vielleicht sind es die menschlichen Kontrolleur:innen, die das geschehen lassen. Um zu sagen, dass es nichts zu tun gibt gegen den Fortschritt der KI, und um die Thesen der Neoliberalen und Anarcho-Libertären zu unterstützen, dass alles ein Krieg ist: der Kampf aller gegen alle nach Hobbes.

Die Informationen aus den KI-Unternehmen besagen heute, dass die Ingenieure der Labore begonnen haben, die «schwarze Kiste» zu öffnen.

Anthropic hat ein Interpretabilitätsteam; Google Deep Mind spricht von Werkzeugen, die wie ein Mikroskop funktionieren, um das Innere der Modelle zu beobachten. Ziel ist es, die Differenz zwischen dem, was eine KI kommuniziert, und ihrem tatsächlichen internen Zustand zu erkennen.

Und hier kommt die entscheidende politische Frage ins Spiel: Wenn die Unternehmen selbst sagen, dass sie Forscher brauchen, um herauszufinden, was ihre Schöpfungen tun, warum sollten wir dann akzeptieren, dass ausschließlich sie entscheiden, wie weit sie es treiben?

Die soziale Dimension darf ebenfalls nicht außen vor bleiben. Robert B. Reich, Ökonom, ehemaliger Arbeitsminister unter Bill Clinton und emeritierter Professor für öffentliche Politik an der University of California, Berkeley, warnt in The Guardian vor einer Kombination aus Arbeitsplatzverlust, schwindenden Löhnen, wachsender Ungleichheit und Konzentration von Macht in den Händen der Technologiemonopole.

Er zitiert, dass die USA im Juli 23.000 Arbeitsplätze verloren haben, und Untersuchungen von Morgan Stanley zeigen eine etwa um einen halben Punkt höhere Arbeitslosigkeit in Berufen, die besonders der KI ausgesetzt sind.

Für die Arbeitnehmer:innen, insbesondere für junge Fachkräfte, ist die Angst nicht mehr abstrakt: Es ist die Angst, verdrängt zu werden und die Kompetenzen, für die sie sich vorbereitet haben, abgewertet zu sehen.

Man sollte immer die Geldströme im Blick haben, denn dazu kommt eine riesige Finanzwette. Die Expansion der KI mobilisiert außergewöhnliche Investitionen in Chips, Server, Strom und Rechenzentren, während die großen Tech-Firmen zunehmend auf den Schuldenmarkt zurückgreifen.

Reuters berichtet, dass große amerikanische Technologieunternehmen bereits rund 40 Milliarden Euro in Euro denominierten Schulden ausgegeben haben, getrieben von ihrem Infrastrukturbedarf für KI, während die Schätzungen für damit verbundene Investitionen bis 2030 auf 5 oder 7 Billionen Dollar steigen.

Ökonomen und Investoren haben gewarnt, dass, wenn die zukünftigen Renditen nicht diesen Erwartungen entsprechen, eine starke Korrektur eintreten könnte. Es ist keine unvermeidliche Krise: Es ist ein Risiko, das geprüft werden muss, bevor es zu spät ist.

Evident. Hier sind Mäßigung, Vorsicht und das Precautionary Principle gefragt. Die USA und China rennen in Richtung Superintelligenz, gefangen in einer mimetischen Rivalität: Niemand möchte langsamer machen aus Angst, dass der andere einen Vorteil erlangt.

Aber ein Wettrennen, in dem die Konkurrenten zugeben, dass sie nicht einmal vollständig verstehen, was sie entwickeln, sollte eine grundlegende demokratische Frage aufwerfen: Wer hat entschieden, dass wir weiter beschleunigen müssen? Es reicht nicht, den gleichen Akteuren zu vertrauen, die die Technologie schaffen, damit sie die Grenzen, Risiken und Regeln bestimmen.

Im besten Fall, wenn die Erzählung wahr ist, erfordert die Antwort die Wiederherstellung einer Tugend, die die technologische Faszination anscheinend verdrängt hat: die sokratische Demut.

«Ich weiß nur, dass ich nichts weiß» bedeutet nicht, das Wissen aufzugeben, sondern dessen Grenzen anzuerkennen. KI kann außergewöhnliche Fortschritte bringen, aber niemand kennt bisher vollständig ihre wirtschaftlichen, beruflichen, militärischen, umweltbezogenen oder politischen Konsequenzen.

Deshalb ist die Frage nicht, ob wir für oder gegen künstliche Intelligenz sein sollten. Es ist eine andere, viel demokratischere: Können wir zulassen, dass diejenigen, die zugeben, die schwarze Kiste der KI nicht vollständig zu verstehen, ohne ausreichende demokratische Kontrollen die Macht haben, über die Zukunft aller zu entscheiden?

Vielleicht ist die erste Bedingung für die Governance der KI die Akzeptanz, mit Sokrates, dass wir nicht so viel wissen, wie wir glauben, und dass wir daher die Kontrolleur:innen kontrollieren müssen.

Gehören sie, wie einige sagen, der Horde der großen Räuber des 21. Jahrhunderts an? Lasst man Kinder mit Streichhölzern in trockenen Wäldern spielen, die durch die globale Erwärmung bedroht sind?

Leopoldo Lavín Mujica