Originalbeitrag: El mayor riesgo de la IA: generar una sociedad más estúpida

Die größte Gefahr der KI: Eine dümmer werdende Gesellschaft

Generative künstliche Intelligenz hat in unser Leben Einzug gehalten und verspricht, uns produktiver, kreativer und effizienter zu machen. In nur wenigen Monaten sind Werkzeuge wie ChatGPT zu untrennbaren Begleitern für Studenten, Fachleute und Durchschnittsbürger geworden. Doch hinter dieser Fassade des Fortschritts verbirgt sich eine beunruhigende Paradoxie, die die Wissenschaftsgemeinde zunehmend sorgfältig dokumentiert: Die KI, die uns verspricht, unsere kognitiven Fähigkeiten zu erweitern, könnte sie tatsächlich verkümmern lassen.

Von Bruno Sommer

Ich möchte nicht in technophoben Pessimismus verfallen. Die Daten sind eindeutig. Eine Studie des Massachusetts Institute of Technology (MIT) mit dem Titel „Ihr Gehirn auf ChatGPT: Akkumulation von kognitiver Verschuldung bei der Nutzung eines KI-Assistenzsystems für das Schreiben von Aufsätzen“ ließ 54 Universitätsstudenten Aufsätze schreiben, verteilt auf drei Gruppen: eine nutzte ChatGPT, eine andere eine Suchmaschine und die letzte nur ihr eigenes Gehirn. Die Ergebnisse, gemessen mittels Elektroenzephalographie, zeigten, dass diejenigen, die KI verwendeten, systematisch eine geringere neuronale Konnektivität in allen Frequenzbändern aufwiesen, mit weniger Aktivierung in parietalen, temporalen und frontalen Netzwerken, die für Aufmerksamkeit, Gedächtnis und semantische Verarbeitung entscheidend sind. Paradoxerweise erhielten die mit KI generierten Aufsätze bessere Noten. Aber deren Autoren konnten sich an das, was sie Minuten zuvor geschrieben hatten, schlechter erinnern und hatten ein geringeres Gefühl der Urheberschaft über ihre Texte. Wie ein im Studien zitierten Professor von Dartmouth feststellte, laufen wir Gefahr, „eine Generation zu schaffen, die mit KI-Abkürzungen ausgebildet wird“, die nicht über Fähigkeiten für unabhängiges Denken verfügt.

Dieses Phänomen hat einen technischen Namen: kognitive Verschuldung. Der Akademiker Sebastián Corral von der Universidad de La Serena erklärt es präzise: Es gibt kognitive Funktionen, die aktiviert werden sollten, um Informationen zu verarbeiten und Konzepte zu abstrahieren, aber wenn diese an die KI delegiert werden, werden sie einfach nicht angewandt. Die Gruppe, die ohne Technologie schrieb, aktivierte weitaus mehr Hirnareale und erzielte bessere Ergebnisse in der Gedächtnisretention. KI schreibt zwar besser, denkt aber schlechter.

Die internationale Wissenschaftsgemeinschaft hat begonnen, sich um diese Warnung zu versammeln. Eine Studie von Microsoft Research in Zusammenarbeit mit der Carnegie Mellon Universität, die 319 Wissensarbeiter befragte, offenbarte, dass das Vertrauen in generative KI-Tools den Aufwand für kritisches Denken reduziert und zu einer übermäßigen Abhängigkeit auf lange Sicht führt, wodurch die Fähigkeit zur eigenständigen Problemlösung verringert wird. Die Untersuchung fand heraus, dass ein höheres Vertrauen in das Werkzeug mit „geringerem Aufwand für kritisches Denken“ verbunden war. Pilar Durán Hernández, Neurowissenschaftlerin an der UNAM, hat klargemacht: Übermäßige Nutzung von KI „führt dazu, dass das Gehirn hypoaktiv wird, ein delegiertes Denken, das faul macht zu denken“, und warnt, dass dies „eine Involution der Intelligenz verursachen könnte; das ist ein echtes Risiko“. Die Forscherin fügt hinzu, dass „die Leute, die ChatGPT benutzen, weniger kognitives und logisches Denken haben, es ihnen schwerer fällt zu argumentieren, Entscheidungen zu treffen und kritisches Denken zu entwickeln“.

Die Daten über akademische Leistungen sind ebenso alarmierend. Der PISA 2025 Bericht der OECD stellte fest, dass 15-Jährige, die fast täglich KI-Tools für schulische Aufgaben verwenden, im Durchschnitt schlechtere Ergebnisse in den Naturwissenschaften erzielen als ihre Altersgenossen, die sie seltener oder gar nicht nutzen. Der Unterschied zwischen intensiven Nutzern und Nichtnutzern entspricht ungefähr einem Jahr Schulbildung. Die OECD führt den Begriff der „Atrophie von Fähigkeiten“ ein: Wenn eine Person eine Fähigkeit nicht regelmäßig ausübt, weil ein Werkzeug sie für sie übernimmt, verliert sie schrittweise diese Kompetenz. Eine Studie mit über 26.000 chinesischen Schülern, veröffentlicht von Forschern der Universität Stockholm und der Universität Hongkong, ergab, dass jene, die KI für Hausaufgaben verwendeten, ihre Noten zu Hause um 18 % verbesserten und die Arbeitszeit von 64 auf 45 Minuten reduzierten. Sechs Monate später sanken ihre Noten in Prüfungssituationen ohne Hilfe jedoch um 20%. Bei Prüfungen zum Zugang zu höheren Bildungsstufen betrug der Rückgang sogar 24 %.

Das Problem verstärkt sich, wenn die Delegation über das Akademische hinausgeht und den ethischen Bereich erreicht. Eine philosophische Analyse, veröffentlicht in der Zeitschrift EthAIca, untersucht das Phänomen des „moralischen Outsourcing“: die Praxis, ethische Entscheidungen an KI-Systeme zu delegieren. Die Studie identifiziert drei zentrale Argumente gegen diese Praxis: Erstens fehlt KI-Systemen das Bewusstsein und die subjektive Erfahrung, die für eine echte moralische Handlungsfähigkeit erforderlich sind; zweitens kann die kontextuelle und reichhaltige Natur der menschlichen Ethik nicht auf formale Logik reduziert werden, ohne historische Vorurteile zu mechanisieren und wesentliche Bedeutung zu verlieren; drittens führt moralisches Outsourcing zu einer Atrophie der menschlichen Fähigkeiten des moralischen Denkens und zu einer Erosion der Verantwortung. Das Fazit der Forscher ist klar: KI sollte als Werkzeug zur Erweiterung und nicht als Ersatz für menschliches Urteil entwickelt werden, und die endgültige Verantwortung für ethische Entscheidungen muss grundlegend menschlich bleiben.

Die wissenschaftlichen Beweise, nicht nur für die Nutzung von KI, sondern auch für die Verwendung von Mobilgeräten, die unendlich durch eine Zeitleiste mit Videos scrollen, haben unser Menschsein beeinträchtigt.

Die MIT-Studie zeigte sogar, dass Studenten, die ohne KI lernten und dann zum ersten Mal KI nutzten, ihr neuronales Engagement beibehielten und sogar bessere Gedächtnisleistungen sowie eine Reaktivierung großer Hirnareale zeigten. Der entscheidende Unterschied, so die Forscher, ist, dass „man lernen muss, zu denken, bevor man mit Maschinen denken kann“.

Der PISA-Bericht bestätigt dies: Schüler, die KI in gemäßigtem Umfang nutzen, um „ihrem Lernen zu helfen“, können ähnliche oder sogar leicht bessere Ergebnisse erzielen als diejenigen, die sie nicht nutzen. Der Unterschied wird signifikant, wenn der Zweck analysiert wird; Schüler, die darauf trainiert werden, Informationen aus KI kritisch zu bewerten, zeigen bessere Ergebnisse. Es ist nicht das Werkzeug, sondern die Absicht und der Kontext seiner Nutzung, die das Ergebnis bestimmen.

Die Lösung liegt daher nicht darin, die KI zu verteufeln oder sie unkritisch zu umarmen. Es geht darum, eine kritische digitale Alphabetisierung zu fördern, die lehrt, diese Werkzeuge als Verstärker des Intellekts zu verwenden und nicht als deren Ersatz. Es erfordert ein Redesign der schulischen Aufgaben, so dass sie tiefere kognitive Prozesse erfordern, die die KI nicht einfach lösen kann. Es erfordert, die moralische Verantwortung in menschlichen Händen zu belassen und die KI als Berater, niemals als Richter einzusetzen. Letztendlich geht es darum, sich daran zu erinnern, dass das größte Risiko der KI nicht darin besteht, dass Maschinen wie Menschen denken, sondern dass Menschen aufhören, wie Menschen zu denken.

Europa wird kürzlich seine Gesetzgebung ändern, um die Nutzung von sozialen Netzwerken durch Minderjährige unter 13 Jahren zu verbieten, möglicherweise etwas spät, und dies sollte auch auf KI ausgeweitet werden.

Technologie war schon immer ein Spiegel unserer Entscheidungen. Generative KI ist vielleicht der klarste Spiegel, den wir geschaffen haben. Was sie reflektiert, hängt letztendlich davon ab, was wir entscheiden, mit ihr zu tun.

Von Bruno Sommer

*Bruno Sommer ist Journalist und Gründer von El Ciudadano