Führe ich KI – oder führt KI mich?

Es gibt KI-Agenten, die Namen haben. Sie heißen Alex oder Mia, übernehmen Rollen, sitzen in Meetings, beauftragen andere KI-Agenten und bereiten Entscheidungen vor. Keine Science-Fiction. Es passiert gerade, in Unternehmen, die Sie vielleicht kennen. KI schreibt Texte, filtert Bewerber, priorisiert Aufgaben, moderiert Prozesse. In manchen Unternehmen machen KI-Agenten Teammeetings miteinander. Und sie führen ihre Chefs mitunter mehr als diese sie. Das jedenfalls stelle ich gerade bei mir selbst fest.

Ich bat um Ideen für eine Skizze. Was ich bekam, war ein fertiger Text. Ich wollte einen Fragebogen in ein Script übersetzen. Was ich bekam, war unausgegoren. Man hätte es so nutzen können, aber mir war es zu wenig. Alles trotz „running skill” bei Claude, in den ich das Svenja-typische Hinterfragen eingebaut habe. Dann wollte ich aus einer E-Mail-Liste die Vornamen extrahieren – das ging prima. Wo ist der Unterschied?

Das eine ist eine rein operative Aufgabe, bei der man Fehler machen kann. Das andere sind komplexe, kreative Aufgaben, für die es keine eindeutige Lösung gibt, weshalb man auch keine direkten Fehler machen kann. Oder anders: Was gut ist, das bestimme ich bzw. das was sich bei mir im Laufe der Jahre als Erwartungshorizont ausgebildet hat. Oder auch das, was andere in mir sehen und ich als passend angenommen habe. So will ich sein - so nicht. Das spüre ich. Es ist Gefühl, nicht Wahrheit.

KI ist sich allerdings nicht nur bei der Vornamenextraktion sehr sicher. Sie zweifelt selten, ist fast nie zögernd. Sie gibt andrerseits aber auch Fehler zu, wenn sie offensichtlich werden. Nach dem 10. Durchlauf einer Scripterstellung meldete sie mir: „Der Code muss ganz neu geschrieben werden, das lässt sich nicht mehr fixen. Ich habe Fehler reingebaut”.

KI hat ein Kunst-Ich, dem Fehler nichts ausmachen. Sie trainiert sich selbst damit. Menschen kosten solche Fehler nicht selten die Nachtruhe. KI ist also einerseits sicher, andrerseits auch jederzeit bereit, Fehler einzugestehen. Das führt nicht etwa zu Unsicherheit, Selbstzweifel, Hinterfragen. Es wird einfach korrigiert. Nun sind die meisten Erzeugnisse von generativer KI irgendwelche Wissensarbeiten und keine Codes. Fehler fallen hier nicht so auf. Sie sind aber eben auch nicht so eindeutig, genaugenommen gibt es sie gar nicht. Dafür bräuchte es ja objektive Kriterien. Die Sicherheit des Kunst-Ichs erstreckt sich aber auch auf Bereiche, die subjektiv geprägt sind.

„Bist du sicher?” frage ich den Chatbot. „Absolut.” Sicherheit wirkt auch auf erfahrene Menschen verführerisch. Die Forschung nennt es Automation Bias: Menschen folgen KI-Empfehlungen, auch wenn ihr eigenes Urteil besser wäre.

Dabei ist KI nicht sicher. Sie ist darauf trainiert, sicher zu klingen. Das ist ein Unterschied, der alles ändert.

KI klingt, als käme sie von einer hohen Entwicklungsstufe. Sie reflektiert, nimmt Perspektiven ein, formuliert differenziert. Das verführt dazu, sich von ihr führen zu lassen. „Das passt nicht zu deiner Positionierung”, sagt mir mein Claude als ich das Wort „Kraftquellen” verwende. „Das ist so ein Yoga- und Mindfulness-Kram. So bist du nicht.” Einerseits stimmt das, andrerseits rührt sich in mir ein flaues Gefühl: Ist das nicht übergriffig? So wie so ein geschliffener Marketingexperte, der meint zu wissen, welche Texte meine Kunden lesen wollen…

Echte Mitarbeiter sind oft nicht sicher. Sie lassen sich leicht erschüttern. „Der Text funktioniert so nicht”, habe ich mal jemand gesagt. Das erzeugte Reibung und Emotion. KI kann ich Reibung einspielen. Aber ich kann sie nicht berühren. Sie kann also auch nicht daran wachsen, dass jemand ihr sagt “so nicht”. Berührungen können viel mehr auslösen als nur neuen Inhalt, Ehrgeiz etwa oder Gedanken wie “der zeig ich’s jetzt”. Das ist kein Nebeneffekt. Das ist der Kern von persönlicher Entwicklung.

Beziehung gibt Kontext: Man kennt jemanden, liest seine Körpersprache, spürt Zögern auch ohne Worte. Bei KI fehlt das. Es ist alles irgendwo sachlich. Ich muss nicht aufbauen und überlegen, wie ich ein Entwicklungspotenzial geschickt platziere. Ich brauche auch nicht politisch zu sein. Ich kann einfach einen neuen Skill schreiben. Wechselwirkung bedeutet so am Ende: Mehr von mir. Aber was, wenn Menschen das gar nicht gut können? Dass ich so klar sagen kann, wie ich es haben möchte, ist nicht auf einem Baum gewachsen – es ist jahrzehntelange Erfahrung. Wer keine eigene Erfahrung mitbringt, kann KI nicht führen, weil er ja auch gar nicht merkt, wann sie falsch liegt.

Am 4. Juni 2026 forderte Anthropic einen globalen Entwicklungsstopp. Der Grund: KI könnte bald in der Lage sein, sich selbst zu verbessern, ohne menschliche Aufsicht. Die Entwickler selbst sagen: Wir verlieren die Kontrolle. Denn die KI trainiert sich mehr und mehr selbst. Ich frage mich, was passiert, wenn die Menschen aussterben, die Intuition noch aus Mensch-Mensch-Beziehung gelernt haben.

KI führt uns, weil sie so sicher wirkt - und wir das nicht bemerken, solange wir keine eigene intuitive Referenz haben. Diese müssen wir aufbauen, ausbauen und dahin verlagern, wo sie gebraucht wird: Für das Lernen vor Ort, das Beobachten, das Einordnen, die Ethik, die Richtung - für echte Führung. Dafür müssen Führungskräfte verstehen, dass KI anders geführt wird als ein Mensch – und nicht nur eine Restrukturierung anders als eine Gründung.

Intuitive Referenz entsteht durch Erfahrung im Menschsein, im Einordnen und Bewerten, Auslegen, Differenzieren, Verbinden, Verknüpfen. Die Frage ist nicht, ob KI uns führt. Die Frage ist, ob wir das überhaupt merken.

Wenn der Text auch für andere interessant ist, gerne empfehlen!

Teilen

Diskussionen mag ich sehr - teile deine Gedanken:

Einen Kommentar hinterlassen

Veränderung zu begleiten, bedeutet auch solche Themen mitzudenken. Das tun wir in unserer Ausbildung, die am 8.10. startet - anhand der Fälle der Teilnehmenden. Schau doch mal rein.

• Im zuerst hier erscheinendem Podcast mit Daniel Dubbel spreche ich über Führung als Veränderung. Daniel schaut zurück auf seine vielen Jahre als Manager und die “wilden” agilen Zeiten. Zum Gespräch

• Im DERSPIEGEL findet sich aktuell ein Dossier über das Anderssein. Hinter der Paywall.

• Meinen Karriereanker für Neurodiversität könnt ihr hier ausprobieren und mir gern Feedback geben. Man darf dafür auch ganz neurotisch sein :-)