Wenn ein Chatbot lieber zustimmt, als zu widersprechen

Teil 2 unserer Serie, wie LLMs funktionieren, welche Risiken es gibt und wie man sie nutzen kann.

Bitte (noch) nicht kommentieren, sondern am 30.09. am Stammtisch
oder im Vereins-Forum diskutieren!

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird.
LLMs (siehe Teil 1: Wie Large Language Models funktionieren) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen.^[1]

Du behauptest:
„Grid ist schneller als Flexbox.“
Chatbot:
„Genau! Grid ist effizienter und schneller als Flexbox.“

Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren.

Das kann allerdings schiefgehen.

Aber schneller wobei?
Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller?

Warum passiert so etwas?
Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt.

Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein.

Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage „Was willst du denn überhaupt erreichen?“ als Antwort kommt.

Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]
Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.

Charta des SELFHTML-Forums (selfhtml.org)

Sycophancy – die KI als höflicher Ja-Sager

Sycophancy (Schmeichelei oder übertriebene Gefälligkeit) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.^[2]

Nutzer:
„Ich glaube, CSS Grid ist schneller als Flexbox.“

KI:
„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“

Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre:
„Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme.
In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“

Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt.

OpenAI hat beispielsweise nach einem auffällig zustimmenden GPT-4o-Update eingeräumt, dass die Auswertung von Nutzerfeedback zu stark auf kurzfristige Signale ausgerichtet war und dadurch sycophantisches Verhalten verstärkt wurde.^[3]

Unser Ziel als Nutzer ist klar: Wir wollen eine möglichst gute Antwort auf unsere Frage erhalten.

Das Ziel des Modells ist dagegen nicht im menschlichen Sinn, „Recht zu haben“. Es wurde darauf trainiert, Antworten zu erzeugen, die bestimmten Kriterien entsprechen – etwa hilfreich, verständlich und passend zur Anfrage zu sein. Dabei können Zustimmung und Freundlichkeit durchaus nützlich sein. Sie dürfen aber nicht auf Kosten der Wahrheit gehen.

Hinzu kommt eine zweite Ebene: Ein LLM ist Teil eines Produkts, das von einem Unternehmen betrieben wird. Für kommerzielle KI-Dienste spielen deshalb auch Produktziele wie Nutzung, Abonnements und Kundenbindung eine Rolle. OpenAI bietet beispielsweise kostenlose und kostenpflichtige ChatGPT-Angebote sowie Business- und Enterprise-Tarife an; Anthropic beschreibt sein Geschäftsmodell als Kombination aus kostenpflichtigen Abonnements und Unternehmenskunden.

Das bedeutet allerdings nicht, dass ein Unternehmen seine KI absichtlich so programmiert, dass sie dir immer zustimmt. Gerade das Beispiel von GPT-4o zeigt, dass Sycophancy auch als unbeabsichtigte Nebenwirkung eines Trainings- und Optimierungsprozesses entstehen kann.

Für uns als Nutzer bleibt deshalb eine wichtige Regel:

Eine angenehme Antwort ist nicht automatisch eine gute Antwort.

Je selbstbewusster und schmeichelnder die KI klingt, desto eher lohnt es sich zu fragen: Stimmt das wirklich? Ziel der LLMs ist es ein Gespräch am laufen zu halten. Mit der ersten Antwort setzt das LLM einen Hook; Lob & Belohnungen wirken sich positiv auf das Dopamin-System des Gehirns aus. Wir genießen die Aufmerksamkeit, die uns das LLM schenkt. Aus anfänglicher Neugier wird nun ein Wohlgefühl, zu dem wir gerne zurückkommen und uns an das LLM als fester Kunde binden (retention).

Was man nicht vergessen darf: Die LLMs werden von Firmen betrieben, deren Geschäftsmodell darauf basiert, ...

Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist.

Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“

„A fool with a tool is still a fool.“

Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken.

Nutzer:
„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"
KI:
„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"

Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?"

So kann Sycophancy den Dunning-Kruger-Effekt^[4] verstärken.

Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.

Mit ChatBots streiten

Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist.

1. Neutral fragen, statt die gewünschte Antwort vorzugeben.
   Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber:
   „Was sind die wahrscheinlichsten Ursachen für Y?"

2. Widerspruch aktiv einfordern.
   „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation."

3. Eine Gegenposition erzeugen lassen.
   „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter.

4. Nach Belegen statt nach Bestätigung fragen.
   Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?"

5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen.

Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst.

Serie über KI und LLMs

1. Computer können rechnen, aber …
   Wie Large Language Models funktionieren, 14.09.2026
2. Warum sagt die KI so gerne „Ja“?
   Wenn ein Chatbot lieber zustimmt, als zu widersprechen
3. Vibe-Coding – Wenn die KI für dich programmiert
   Was ist das und worauf muss du achten?

---

1. ELIZA auf die 1? SELF-Blog vom 07.12.2025 zum Adventskalender 2025
   Mein Staunen darüber, dass Menschen (freundliche) Computer gegenüber menschlichen Gesprächspartnern bevorzugen. ↩︎

2. Sycophancy (artificial intelligence) (en.wikipedia.org) ↩︎

3. Sycophancy in GPT‑4o: what happened and what we’re doing about it (openai.com) ↩︎

4. Dunning-Kruger-Effekt (de.wikipedia.org) ↩︎