Die folgenden fünf Punkte stammen aus einer Reflexionsübung: einem direkten Prompt an ein aktuelles KI-Modell nach dessen eigenen Denkgrenzen. Das ist keine wissenschaftliche Studie, aber ein guter Ausgangspunkt für die eigene Praxis — vor allem, wenn man sich fragt, wo im Alltag menschliches Urteilen weiterhin unverzichtbar bleibt.
1. Kritisches Denken: Die KI hinterfragt selten die Frage selbst
Eine KI antwortet innerhalb des Rahmens, den man ihr vorgibt — sie prüft aber kaum, ob dieser Rahmen selbst trägt. Sie hinterfragt Quellen, Annahmen und Interessen nicht zuverlässig aus eigenem Antrieb. Ein typisches Beispiel: Ein Projektteam bittet die KI, die Risiken eines Lieferantenwechsels zu bewerten, füttert sie dabei aber mit der eigenen, bereits optimistischen Vorauswahl. Die KI wird diese Prämisse in aller Regel nicht infrage stellen, sondern plausibel weiterspinnen. In der KI-Forschung ist das als Tendenz zur Sykophantie bekannt: Sprachmodelle neigen dazu, der im Prompt erkennbaren Erwartungshaltung zu folgen, statt ihr zu widersprechen.
2. Wahrheitsverständnis: Plausibel ist nicht dasselbe wie wahr
KI kann plausibel klingende Fehler erzeugen und Fakten nicht aus eigener Einsicht erkennen — sie erzeugt Sprache, die statistisch wahrscheinlich ist, nicht zwingend Aussagen, die geprüft korrekt sind. Bittet eine Projektleitung um die Zusammenfassung einer Vertragsklausel, kann ein Detail leicht verändert wiedergegeben werden — nicht aus Täuschungsabsicht, sondern weil die wahrscheinlichste Formulierung geliefert wird, nicht zwingend die exakt zutreffende. Dieses Phänomen ist unter dem Begriff "Halluzination" inzwischen breit dokumentiert.
3. Kontextuelles Urteilen: Zwischen den Zeilen bleibt oft unklar
Mehrdeutige soziale, kulturelle oder situative Zusammenhänge werden von KI oft nur unvollständig erfasst. Eine Formulierung, die an einem Standort als klare, wertschätzende Ansage verstanden wird, kann an einem anderen Standort mit anderer Unternehmenskultur schroff wirken — ein Unterschied, den die KI aus dem Text allein kaum zuverlässig erkennt, weil ihr die gelebte Erfahrung im jeweiligen Kontext fehlt.
4. Moralische Verantwortung: Sie berechnet, sie entscheidet nicht
KI hat kein Gewissen, keine eigenen Werte und trägt keine Verantwortung für Folgen. Empfiehlt sie eine kostengünstigere, aber riskantere Handlungsoption, trägt sie diese Empfehlung nicht mit — die Verantwortung für die Konsequenzen bleibt vollständig bei den Menschen, die ihr folgen. Das klingt selbstverständlich, wird im Tagesgeschäft aber leicht übersehen, wenn eine KI-Empfehlung besonders überzeugend formuliert ist.
5. Zielsetzung und Absicht: Kein eigenes Warum
KI verfolgt keine selbst gewählten, verständigen Ziele, sondern reagiert auf Vorgaben und Daten. Ein Team, das die KI um den "besten" Projektplan bittet, bekommt eine Antwort, die auf den eingegebenen Kriterien beruht — nicht auf einem eigenen Verständnis davon, was für dieses Unternehmen in dieser Situation eigentlich zählt. Das Ziel zu setzen bleibt Aufgabe der Menschen, die den Prozess verantworten.