INTERVIEW - «Wer KI falsch nutzt, ersetzt sich selbst»

Dieses Studienergebnis ging um die Welt: Häufige KI-Nutzung geht mit weniger Fähigkeiten zum kritischen Denken einher. KI-Skeptiker fühlten sich sofort bestätigt. Der Autor der Studie, Michael Gerlich, aber wollte es genauer wissen. Und tatsächlich legen seine neuen Ergebnisse nahe, dass KI auch zu mehr statt weniger Reflexion führen kann – wenn man sie richtig nutzt.

Warum wir uns damit allerdings sehr schwertun, beschreibt Gerlich in seinem Buch «The Convenience Trap», übersetzt: die Bequemlichkeitsfalle. Gerlich ist Leiter des Center for Strategic Corporate Foresight and Sustainability an der SBS Swiss Business School. Als Dozent an dieser und anderen Universitäten erlebt er, wie KI seine Studenten verändert hat. Doch vor allem Unternehmen sieht er vor einer grossen Herausforderung, was KI angeht. Einfach jedem Mitarbeiter einen Chatbot-Zugang zu geben, sei jedenfalls ein Rezept fürs Scheitern.

Frage: Sie unterrichten angehende Manager. Wie hat Chat-GPT Ihre Studenten verändert?

Antwort: Statt an mich stellten die Studenten ihre Nachfragen über den Laptop an KI. Durch Fragen sind bisher aber Diskussionen und neue Erkenntnisse für alle Beteiligten entstanden. Die Interaktionen haben nachgelassen.

Frage: Warum ziehen Studenten vor, die KI zu fragen? Sind sie zu schüchtern, um vor dem gesamten Raum zu fragen?

Antwort: Nein, sie sind einfach bequem. Wir Menschen streben nach Komfort. Innovationen haben unser Leben immer einfacher gemacht. Wir nehmen es dankend an. Mit KI gibt es nun aber erstmals etwas, was für uns denken kann.

Frage: Die Folgen machen Sorgen: Eine Ihrer Studien zeigt einen Zusammenhang zwischen häufiger KI-Nutzung und geringerer kritischer Reflexion.

Antwort: Daraus folgt aber nicht, dass KI Menschen automatisch unkritisch macht. Meine Folgestudien zeigen, dass KI kritisches Denken auch unterstützen kann. Die Art der Nutzung ist entscheidend.

Frage: Bleiben wir zuerst bei der «falschen» Nutzung. Was macht die aus?

Antwort: Viele Menschen nutzen KI als Antwortmaschine. KI liefert niederschwellig eine Antwort, die flüssig, strukturiert und kompetent klingt. Das verschiebt die Rolle des Menschen: Er wird vom Denkenden zum Prüfenden. Das klingt harmlos, ist aber eine grosse Veränderung. Wer immer nur prüft, was bereits vorformuliert wurde, trainiert andere Fähigkeiten als jemand, der selbst beginnt, ein Problem zu durchdenken. Dadurch entwickelt sich eine neue Arbeitsgewohnheit: Menschen starten nicht mehr mit einer eigenen Frage, sondern mit einer maschinell erzeugten Antwort.

Frage: Wie sähe die «richtige» Nutzung aus?

Antwort: KI kann nicht nur Antworten liefern, sondern Denkprozesse herausfordern. Ein gutes KI-System würde Rückfragen stellen, Annahmen sichtbar machen, Unsicherheiten markieren, Gegenargumente anbieten. Gute KI-Nutzung bedeutet produktive Reibung. So kann KI schlauer machen. Aber das ist nicht der normale Weg, wie wir heute KI nutzen.

Frage: Reibung verlangsamt, schnelle Antworten erhöhen dagegen den Output. Ist Leistungsdruck der Grund für Skandale wie KI-Halluzinationen in den Dokumenten von Beratungsfirmen?

Antwort: Seit Henry Ford die Fliessbandfertigung eingeführt hat, leben wir in einer Gesellschaft, die Arbeit in kleinste Schritte teilt und vor allem Effizienz belohnt. Dadurch, dass KI so schnell ist, entsteht ein wahnsinniger Druck. Wer Vorschläge der KI prüfen und genehmigen muss, hat immer weniger Zeit für Reflexion. Irgendwann ist er nicht mehr in the loop, sondern out of the loop.

Frage: Wie können sich Angestellte wehren und ihren kritischen Geist bewahren?

Antwort: Durch KI können neue Aspekte der Arbeit automatisiert werden. Jetzt müssen wir herausfinden, wo wir die menschlichen Qualitäten brauchen. Klar ist, wenn der Mensch nichts beiträgt und sein Denken an die KI auslagert, dann macht er sich überflüssig. Es heisst oft, nicht KI wird dich am Arbeitsplatz ersetzen, sondern jemand, der KI nutzt. Ich sage: Wer KI falsch nutzt, ersetzt sich selbst. Denn warum sollte einen der Arbeitgeber dafür entlohnen, Dinge in die KI einzugeben? KI ist zwar sehr schnell, erzeugt aber Mittelmass.

Frage: Erwarten Sie, dass KI bald mehr als nur mittelmässig wird?

Antwort: Experten streiten darüber, ob aus Sprachmodellen etwas wie Superintelligenz kommen kann oder nicht. Heute ist es so: Wenn Sie eine KI bitten, die Kerze weiterzuentwickeln, dann kann KI wahrscheinlich eine Kerze entwickeln, die länger brennt und heller scheint, die günstiger ist. Aber den Sprung zur Glühbirne wird sie nicht schaffen. Denn für solche neuen Erfindungen braucht es Menschen, die nicht nur der Wissenschaft folgen, sondern das Gegenteil tun. Wie die Brüder Wright, die trotz verbreiteter wissenschaftlicher Skepsis weiterexperimentierten und schliesslich möglich machten, was viele ihrer Zeitgenossen noch für unerreichbar hielten. Vielleicht entsteht irgendwann Superintelligenz. Dann ist die Frage, wie sich die Menschheit neu organisieren soll. Aber das ist dann keine wirtschaftliche Frage mehr, sondern eine gesellschaftliche.

Frage: In Ihrem Buch sagen Sie voraus, dass die KI-Flut dazu führen wird, dass Unternehmen Eigensinn bei Mitarbeitern belohnen. Woher kommt dieser Optimismus? Oft scheint doch eher Konformität gefragt zu sein.

Antwort: Kurzfristig gebe ich Ihnen vollkommen recht: KI macht die Dinge besser oder akzeptabel, dazu auch noch günstiger und schneller. Warum sollte man sie nicht nutzen? Allerdings enden Unternehmen mit dieser Strategie in der Mittelmässigkeit. Mein kurzfristiger Effizienzvorsprung ist spätestens dann weg, wenn mein Mitbewerber genau dasselbe macht. Das beobachten wir gerade: Firmen rollen aus Angst vor Wettbewerbsnachteilen KI aus. Aber wer KI auf alles anwendet, nur um Personalkosten zu sparen, der wird sich nicht weiterentwickeln. Unternehmen verstehen, dass das langfristig keine Strategie ist. Sie haben ein Eigeninteresse, KI für besseren, nicht schnelleren Output zu nutzen – und das bedeutet, Eigensinn zu fördern.

Frage: Was müsste man ändern, damit KI kritischer genutzt wird?

Antwort: Unternehmen stehen vor einer riesigen Aufgabe. Sie müssen alle Prozesse analysieren und festlegen, was der Mensch beitragen soll und was KI leisten soll. Prozesse müssen so verändert werden, dass Reibung entsteht, Unterbrechungen. KI kann das Tempo so erhöhen, dass der Mensch nicht mehr mitkommt. Wenn der Mensch etwas beitragen soll, braucht es Räume für Reflexion.

Frage: Wie kann man künstlich Reibung erzeugen?

Antwort: Ich habe letztes Jahr auf einer Konferenz den Leiter des Personalwesens von Lego getroffen. Die haben so etwas, das heisst Campfire: Spontane, nicht vereinbarte Meetings, wo jemand sagt, Mensch, kommt mal alle her, ich hab eine Idee, lasst sie uns besprechen. So etwas müssten wir formal einbauen in Prozesse, wo KI drinsteckt. Pause, Reflexion, erst dann geht es weiter. Im Moment arbeiten in den meisten Unternehmen alle wie bisher, nur jeder mit KI. Dann ist die Tendenz zur kognitiven Auslagerung sehr gross.

Frage: Sie sprechen über die Systeme um KI herum. Aber könnte man nicht auch das Design der KI so ändern, dass wir sie kritischer nutzen?

Antwort: Freunde von mir haben Edu-GPT entwickelt: Der Chatbot gibt nicht einfach nur Antworten, sondern baut Dinge mit dem Nutzer zusammen auf. Für den Bildungsbereich gibt es solche Angebote. In Unternehmen und öffentlichen Organisationen wird es vielleicht auch einmal so weit sein. Im Moment dominiert dort nach wie vor die Effizienz. Und KI, die direkt Antworten gibt, ist natürlich effizienter als eine, die Rückfragen stellt. Die besseren Ergebnisse entstehen aber durch die Reibung.

Frage: Sie sagen, Sie nutzten KI als Sparringpartner. Wie sieht das konkret aus?

Antwort: Wenn ich vor einem Problem stehe, arbeite ich oft Wochen daran, erst dann gehe ich zur KI und frage sie nach anderen Meinungen. Es ist ganz wichtig, dass man nicht einfach zur KI sagt: Das habe ich gemacht, was hältst du davon? Weil dann sagt die: «Mensch, du bist der Beste, du machst das ganz klasse.» Man muss fragen, was sind gegensätzliche Meinungen, was habe ich vergessen? Wie würde eine ganz andere Disziplin auf dieses Problem schauen? Und ich sage der KI unendlich oft, dass sie mir bitte nicht nach dem Mund reden soll. Dann entstehen interessante Unterhaltungen.

Frage: In Ihrem Buch beschreiben Sie das Phänomen des «ausgeliehenen Verstehens»: Leute präsentieren Dinge, die KI erarbeitet hat, ohne sie wirklich durchdrungen zu haben.

Antwort: Wie sehr man das tut, liegt offenbar daran, wie kritisch man ist. Eine Studie von Microsoft und der Carnegie Mellon Universität hat gezeigt, dass Menschen mit einem relativ geringen Selbstbewusstsein eher kognitiv ausgelagert haben, sich dann aber selbst überschätzten. Weil man dann plötzlich der Meinung war, ich habe jetzt was, was gut klingt und gut ist. Jetzt bin ich plötzlich sehr viel schlauer. In einer unserer Studien haben wir untersucht, wie sich das Nutzen von KI auf Diskussionen auswirkt. Der Effekt von KI war eindeutig. Sogar bei jenen, die später meinten, sie hätten die KI kritisch hinterfragt. In der Psychologie spricht man vom Anker-Effekt: Die erste Information, die wir zu einer Frage bekommen, macht einen grossen Eindruck auf uns. Sie lenkt unser Denken in eine Richtung. Es ist schwierig, sich wirklich kritisch damit auseinanderzusetzen.

Frage: Erwarten Sie in Zukunft mehr Skepsis gegenüber perfekt glatten Texten und Referaten, weil man darin KI vermutet?

Antwort: Da werden sich die Geister scheiden. Die Mehrheit wird KI-Inhalte einfach akzeptieren. Schon jetzt läuft ja überall KI im Hintergrund, sie wird noch mehr in den Vordergrund rücken. Aber ich glaube, es wird auch eine Gruppe geben, die mehr bezahlen wird, damit etwas vom Menschen kommt. Ein neues Luxusgut entsteht.