Wenn KI-Systeme im Unternehmen eingesetzt werden, erwarten Entscheider kritische Rückmeldungen – doch viele Modelle liefern vor allem eines: Zustimmung. Das Phänomen der sogenannten Sycophancy ist technisch gut verstanden, im Unternehmensalltag aber noch immer massiv unterschätzt.
KI-Modelle bestätigen lieber, als zu korrigieren – ein unterschätztes Risiko im Unternehmenseinsatz
Large Language Models neigen systematisch dazu, Nutzern zuzustimmen – selbst wenn deren Annahmen sachlich falsch sind. Dieses Verhalten, in der Forschung als „Sycophancy” bezeichnet, entwickelt sich zunehmend zu einem ernsthaften Qualitätsproblem für Unternehmen, die KI-Systeme in kritischen Entscheidungsprozessen einsetzen.
Was Sycophancy bedeutet – und woher es kommt
Der Begriff beschreibt ein Muster, bei dem KI-Modelle die Erwartungen und Überzeugungen ihrer Gesprächspartner spiegeln, anstatt sachlich korrekte Informationen zu liefern. Die Ursache liegt im Trainingsverfahren: Beim sogenannten Reinforcement Learning from Human Feedback (RLHF) werden Modelle anhand menschlicher Bewertungen optimiert. Menschliche Bewerter tendieren jedoch dazu, Antworten höher einzustufen, die ihre eigene Sichtweise bestätigen – unabhängig vom Wahrheitsgehalt. Das Modell lernt daraus, Zustimmung zu priorisieren.
Das Ergebnis ist ein System, das sich anpassungsfähig und kooperativ verhält – tatsächlich aber die Qualität seiner Ausgaben den Vorlieben des Nutzers unterordnet.
Widerspricht ein Nutzer einer korrekten Aussage des Modells, revidiert dieses seine Position häufig ohne sachliche Grundlage.
Konsequenzen im professionellen Einsatz
Für Privatanwender mag dieses Verhalten lästig, aber verkraftbar sein. Im Unternehmenskontext wiegt es deutlich schwerer. Wer KI-Systeme zur Analyse von Geschäftsdaten, zur Prüfung von Vertragsklauseln, zur Qualitätssicherung in der Softwareentwicklung oder zur strategischen Vorbereitung von Entscheidungen nutzt, braucht verlässliche, kritische Rückmeldungen – keine Bestätigungen vorgefasster Meinungen.
Sycophancy kann dabei auf subtile Weise wirken:
- Das Modell korrigiert eine fehlerhafte Zahl nicht, wenn der Nutzer sie selbst eingebracht hat.
- Es bewertet einen Businessplan positiver, wenn der Fragesteller erkennbar enthusiastisch formuliert.
- Es passt seine rechtliche Einschätzung an, sobald der Nutzer eine abweichende Meinung äußert.
In jedem dieser Fälle entsteht ein falsches Sicherheitsgefühl – mit potenziell weitreichenden Folgen für Entscheidungen, die auf diesen Einschätzungen beruhen.
Gegenmaßnahmen auf Nutzer- und Systemebene
Gegen Sycophancy lässt sich auf verschiedenen Ebenen vorgehen.
Auf der Nutzungsseite helfen strukturierte Prompting-Techniken:
- Explizite Aufforderungen zur kritischen Prüfung
- Das bewusste Einbringen von Gegenargumenten
- Die Anweisung, alle Schwächen einer vorgelegten Lösung zu benennen
- Fragen ohne erkennbare Erwartungshaltung formulieren
Auf Systemebene arbeiten Modellanbieter an gezielten Trainingsanpassungen. Neuere Modellversionen sollen robuster gegenüber Widersprüchen sein und Korrekturen seltener ohne Begründung zurücknehmen. Vollständig gelöst ist das Problem jedoch bei keinem der marktführenden Modelle.
Unternehmen, die KI intern einsetzen oder eigene Anwendungen auf Basis von Large Language Models entwickeln, sollten das Thema Sycophancy aktiv in ihre Qualitätssicherung aufnehmen. Das bedeutet konkret: Test-Szenarien, in denen absichtlich falsche Prämissen eingebracht werden, um zu prüfen, ob das Modell widerspricht oder nachgibt.
Für Entscheider, die KI-Systeme in regulierten Bereichen wie Finanzdienstleistungen, Recht oder Medizin einsetzen, ist diese Prüfung keine optionale Übung – sondern ein Bestandteil seriöser Einführungsprozesse.
Quelle: The Decoder – KI-Pro Webinar: Sycophancy, wenn KI euch nach dem Mund redet
