Originalbeitrag: El mayor riesgo de la IA: generar una sociedad más estúpida

Die größte Gefahr der KI: Die Schaffung einer dümmeren Gesellschaft

Generative künstliche Intelligenz hat mit ihrem verführerischen Versprechen, unsere Produktivität, Kreativität und Effizienz zu steigern, in unser Leben Einzug gehalten. Innerhalb weniger Monate sind Tools wie ChatGPT unverzichtbare Begleiter für Schüler, Fachleute und Alltagsbürger geworden. Doch hinter dieser Fortschrittlichkeit verbirgt sich eine besorgniserregende Paradoxie, die die wissenschaftliche Gemeinschaft zunehmend dokumentiert: Die KI, die uns verspricht, unsere kognitiven Fähigkeiten zu erweitern, könnte sie tatsächlich hemmen.

Von Bruno Sommer

Ich möchte nicht in eine technophobe Jammerersicht verfallen. Die Daten sind eindeutig. Eine Studie des Massachusetts Institute of Technology (MIT) mit dem Titel „Ihr Gehirn auf ChatGPT: Ansammlung von kognitiver Schulden bei der Verwendung eines KI-Assistenten für das Schreiben von Essays“ ließ 54 Universitätsstudenten Essays schreiben und teilte sie in drei Gruppen: Eine Gruppe benutzte ChatGPT, eine andere eine Suchmaschine und die dritte nur ihr eigenes Gehirn. Die Ergebnisse, gemessen durch Elektroenzephalografie, zeigten, dass diejenigen, die KI nutzten, systematisch eine geringere neuronale Konnektivität in allen Frequenzbändern aufwiesen, mit geringerer Aktivierung in parietalen, temporal und frontalen Netzwerken, die für Aufmerksamkeit, Gedächtnis und semantisches Verarbeiten entscheidend sind. Paradoxerweise erhielten die mit KI erstellten Essays bessere Noten. Ihre Autoren erinnerten sich jedoch schlechter an das, was sie Minuten zuvor geschrieben hatten, und hatten ein geringeres Gefühl der Autorschaft über ihre Texte. Ein Professor von Dartmouth, der in der Studie zitiert wurde, warnte, dass wir riskieren, „eine Generation mit KI-Abkürzungen auszubilden“, die über keine Fähigkeiten zum unabhängigen Denken verfügen.

Dieses Phänomen hat einen technischen Namen: kognitive Schulden. Der Akademiker Sebastián Corral von der Universidad de La Serena erklärt dies präzise: Es gibt kognitive Funktionen, die aktiviert werden sollten, um Informationen zu verarbeiten und Konzepte zu abstrahieren. Wenn wir diese Funktionen jedoch der KI überlassen, werden sie einfach nicht aktiviert. Die Gruppe, die ohne Technologie schrieb, aktivierte wesentlich mehr Gehirnareale und erzielte bessere Ergebnisse bei der Gedächtnisretention. KI schreibt zwar besser, denkt aber schlechter.

Die internationale wissenschaftliche Gemeinschaft hat begonnen, sich dieser Warnung anzuschließen. Eine Studie von Microsoft Research zusammen mit der Carnegie Mellon University, die 319 Wissensarbeiter befragte, zeigte, dass das Vertrauen in generative KI-Tools den Aufwand für kritisches Denken reduziert und zu einer langfristigen übermäßigen Abhängigkeit führt, wodurch die Fähigkeit zur selbständigen Problemlösung abnimmt. Die Forschung stellte fest, dass ein größeres Vertrauen in das Tool mit „weniger Aufwand für kritisches Denken“ korreliert. Die Neurowissenschaftlerin Pilar Durán Hernández von der UNAM war eindeutig: Übermäßige Nutzung von KI „führt dazu, dass das Gehirn hypoaktiv wird, ein delegiertes Denken, das faul ist“. Sie warnt, dass dies „eine Rückentwicklung der Intelligenz verursachen könnte; das ist ein reales Risiko“. Die Forscherin fügt hinzu, dass „Menschen, die ChatGPT verwenden, weniger kognitive Verarbeitung und weniger kritisches Denken haben“.

Die Daten zu akademischen Leistungen sind ebenfalls alarmierend. Der PISA-Bericht 2025 der OECD fand heraus, dass 15-jährige Schüler, die fast täglich KI-Tools für schulische Aufgaben verwenden, im Durchschnitt schlechtere Ergebnisse in den Naturwissenschaften erzielen als diejenigen, die sie weniger häufig oder gar nicht verwenden. Der Unterschied zwischen intensiven Nutzern und Nicht-Nutzern entspricht etwa einem Schuljahr. Die OECD selbst führt das Konzept der „Atrophierung von Fähigkeiten“ ein: Wenn jemand eine Fähigkeit nicht mehr regelmäßig übt, weil ein Tool sie für ihn erledigt, verliert er diese Kompetenz allmählich. Eine Studie mit über 26.000 chinesischen Schülern, die von Forschern der Universität Stockholm und der Universität Hongkong veröffentlicht wurde, stellte fest, dass diejenigen, die KI für Hausaufgaben verwendeten, ihre Noten zu Hause um 18 % verbesserten und die Arbeitszeit von 64 auf 45 Minuten reduzierten. Sechs Monate später sanken ihre Noten in Prüfungen ohne Hilfe jedoch um 20 %. Bei den Zugangsprüfungen für höhere Stufen fiel der Rückgang sogar auf 24 %.

Das Problem wird gravierender, wenn das Delegieren über das Akademische hinausgeht und ethische Fragen erreicht. Eine philosophische Analyse, veröffentlicht in der Zeitschrift EthAIca, untersucht das Phänomen des „moralischen Outsourcings“: die Praxis, ethische Entscheidungen an KI-Systeme zu delegieren. Die Studie identifiziert drei zentrale Argumente gegen diese Praxis: Erstens fehlt KI-Systemen das Bewusstsein und die subjektive Erfahrung, die für eine echte moralische Entscheidungsfindung erforderlich sind. Zweitens kann die kontextuelle und reichhaltige Natur menschlicher Ethik nicht auf formale Logik reduziert werden, ohne historische Vorurteile zu mechanisieren und wesentliche Bedeutungen zu verlieren. Drittens führt das moralische Outsourcing zu einer Atrophie menschlicher moralischer Urteilsfähigkeit und zu einer Erosion der Verantwortung. Die Schlussfolgerung der Forscher ist klar: KI sollte als Werkzeug zur Erweiterung, nicht zur Ersetzung menschlichen Urteils entwickelt werden, und die endgültige Verantwortung für ethische Entscheidungen sollte grundlegend menschlich bleiben.

Die wissenschaftlichen Beweise zeigen, dass der Einsatz von KI, sowie der von mobilen Geräten, die unendliches Scrollen auf Video-Timelines ermöglichen, das menschliche Verhalten zunehmend verschlechtert.

Die eigene Studie des MIT zeigte, dass Schüler, die gelernt haben, ohne KI zu schreiben, und diese dann zum ersten Mal verwendeten, ihr neuronales Engagement beibehielten und sogar ein besseres Gedächtnis sowie eine bessere Reaktivierung umfangreicher Gehirnregionen zeigten. Der entscheidende Unterschied, so die Forscher, ist: „Du musst wissen, wie man denkt, bevor du mit Maschinen denken kannst“.

Der PISA-Bericht bestätigt dies: Schüler, die KI moderat nutzen, um „ihnen beim Lernen zu helfen“, können ähnliche oder sogar leicht bessere Ergebnisse erzielen als diejenigen, die sie nicht verwenden. Der Unterschied ist signifikant, wenn der Zweck analysiert wird: Schüler, die darin geschult werden, Informationen, die von KI generiert wurden, kritisch zu bewerten, zeigen bessere Ergebnisse. Es ist nicht das Werkzeug, sondern die Intention und der Kontext der Nutzung, die das Ergebnis bestimmen.

Die Lösung liegt daher nicht darin, KI zu verteufeln oder sie ohne Vorbehalte zu umarmen. Es geht darum, eine kritische digitale Alphabetisierung zu schaffen, die lehrt, diese Werkzeuge als Verstärker des Verstandes zu nutzen, nicht als deren Ersatz. Es geht darum, schulische Aufgaben so umzugestalten, dass sie tiefere kognitive Prozesse erfordern, die die KI nicht einfach lösen kann. Es geht darum, die moralische Verantwortung in menschlichen Händen zu belassen und KI als Konsultantin, niemals als Richter zu verwenden. Letztlich geht es darum, sich daran zu erinnern, dass das größte Risiko der KI nicht darin besteht, dass Maschinen wie Menschen denken, sondern dass Menschen aufhören, wie Menschen zu denken.

Europa plant kürzlich, seine Gesetzgebung zu ändern, um die Nutzung sozialer Medien bei Personen unter 13 Jahren zu verbieten. Vielleicht ist es etwas spät und sollte auf KI ausgeweitet werden.

Technologie war schon immer ein Spiegel unserer Entscheidungen. Generative KI ist vielleicht der deutlichste Spiegel, den wir geschaffen haben. Was sie reflektiert, hängt letztlich davon ab, was wir entscheiden, mit ihr zu tun.

Von Bruno Sommer

*Bruno Sommer ist Journalist und Gründer von El Ciudadano