Cognitive Offloading: Wie Ihr Gehirn mit KI denkt

Als Evan Risko und Sam Gilbert 2016 ihre Arbeit zum Cognitive Offloading veröffentlichten, beschrieben sie einen Prozess, den Menschen seit Jahrtausenden praktizieren: die Auslagerung kognitiver Arbeit an externe Hilfsmittel. Notizzettel, Kalender, Taschenrechner. Jedes dieser Werkzeuge entlastet das Arbeitsgedächtnis und setzt neuronale Ressourcen für komplexeres Denken frei. KI-Systeme sind die radikalste Form dieser Auslagerung, denn sie übernehmen nicht nur Speicher, sondern auch Verarbeitung, Analyse und Entscheidungsvorbereitung.

Die entscheidende Frage lautet nicht, ob wir auslagern sollten. Die Frage lautet: Was passiert mit den kognitiven Fähigkeiten, die wir auslagern? Die Forschung gibt eine differenzierte Antwort. Gezielte Auslagerung verstärkt die verbleibenden Denkprozesse. Unkritische Auslagerung schwächt sie. Führungskräfte, die diese Unterscheidung nicht verstehen, riskieren einen schleichenden Kompetenzverlust, der ihnen erst auffällt, wenn die KI einmal nicht verfügbar ist.

Wegners Theorie des transaktiven Gedächtnisses (1987) zeigte, dass Menschen in Beziehungen und Teams ein verteiltes Wissenssystem aufbauen. Nicht jeder merkt sich alles. Stattdessen entwickelt sich eine implizite Arbeitsteilung: Person A merkt sich Finanzdaten, Person B kennt die Kundenkontakte, Person C weiß, wo die technischen Dokumentationen liegen. Das Gruppenwissen übersteigt das Einzelwissen, weil jeder weiß, wen er fragen muss.

Wenn wir KI-Systeme nutzen, entsteht ein ähnliches transaktives System. Doch es gibt einen kritischen Unterschied: Bei menschlichen Partnern entwickelt sich das Meta-Wissen (wer weiß was, wie zuverlässig ist die Quelle) organisch durch gemeinsame Erfahrung. Bei KI-Systemen fehlt dieses kalibrierte Vertrauen. Wir neigen dazu, der KI entweder zu viel oder zu wenig zu vertrauen, weil uns die Erfahrungsbasis für eine akkurate Einschätzung fehlt.

Parasuraman und Manzey (2010) definierten Automatisierungsbias als die Tendenz, Empfehlungen automatisierter Systeme unkritisch zu übernehmen, selbst wenn widersprüchliche Informationen vorliegen. In der Luftfahrt, Medizin und Industrie ist dieser Bias gut dokumentiert. Piloten ignorieren eigene Wahrnehmungen zugunsten von Cockpit-Anzeigen. Ärzte übernehmen KI-Diagnosen, ohne sie gegen klinische Befunde zu prüfen.

Bei generativer KI ist der Automatisierungsbias besonders heimtückisch, weil die Ausgabe in natürlicher Sprache formuliert ist. Ein fehlerhafter Zahlenwert in einer Tabelle fällt auf. Ein sachlich falscher, aber flüssig formulierter Absatz in einem Strategiepapier wird seltener hinterfragt. Das Gehirn nutzt sprachliche Flüssigkeit als Proxy für Korrektheit, ein Heuristik-Fehler, den Kahneman als Attributionssubstitution beschrieb.

Wie stark dieser Bias wirkt, hat die Arbeitsgruppe um Zana Buçinca 2021 an 199 Personen geprüft. Die Teilnehmenden schätzten Nährwerte mit Unterstützung einer simulierten KI, die absichtlich auch falsch lag. Erklärungen der KI reichten nicht aus: Die Menschen folgten dem falschen Vorschlag trotzdem. Erst Denkanstöße, die zum eigenen Urteil zwangen, senkten diesen Überverlass deutlich. Ausgerechnet diese wirksamen Verfahren bewerteten die Teilnehmenden am schlechtesten. Geholfen haben sie vor allem Menschen mit hohem Denkbedürfnis.

Eine Quote, wie viele Menschen KI-Vorschläge allgemein ungeprüft übernehmen, liefert diese Arbeit nicht. Sie beschreibt eine Laboraufgabe, keinen Anteil an allen Nutzenden. Auch Parasuraman und Manzey ordnen 2010 nur den Forschungsstand. Ihr Befund ist qualitativ und deshalb umso unangenehmer: Verfügbare Automatisierung erzeugt beides, übersehene Fehler und übernommene Fehler. Das trifft Anfänger wie Fachleute und verschwindet weder durch Übung noch durch eine Warnung vorab. Eine Gesamtzahl, um wie viel die Fehlerquote steigt, gibt es nicht. Wer Ihnen eine nennt, hat sie geschätzt.

• Risko, E.F. & Gilbert, S.J. (2016). Cognitive Offloading. Trends in Cognitive Sciences, 20(9), 676-688.
• Wegner, D.M. (1987). Transactive Memory: A Contemporary Analysis of the Group Mind. In B. Mullen & G.R. Goethals (Eds.), Theories of Group Behavior (pp. 185-208). Springer.
• Parasuraman, R. & Manzey, D.H. (2010). Complacency and Bias in Human Use of Automation. Human Factors, 52(3), 381-410.
• Buçinca, Z. et al. (2021). To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), 1-21.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.