Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen.[^1] Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 zum Adventskalender 2025 Mein Staunen darüber, dass Menschen (freundliche) Computer gegenüber menschlichen Gesprächspartnern bevorzugen. Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. OpenAI hat beispielsweise nach einem auffällig zustimmenden GPT-4o-Update eingeräumt, dass die Auswertung von Nutzerfeedback zu stark auf kurzfristige Signale ausgerichtet war und dadurch sycophantisches Verhalten verstärkt wurde.[^4] [^4]: [Sycophancy in GPT‑4o: what happened and what we’re doing about it](https://openai.com/index/sycophancy-in-gpt-4o/) (openai.com) Unser Ziel als Nutzer ist klar: Wir wollen eine möglichst gute Antwort auf unsere Frage erhalten. Das Ziel des Modells ist dagegen nicht im menschlichen Sinn, „Recht zu haben“. Es wurde darauf trainiert, Antworten zu erzeugen, die bestimmten Kriterien entsprechen – etwa hilfreich, verständlich und passend zur Anfrage zu sein. Dabei können Zustimmung und Freundlichkeit durchaus nützlich sein. Sie dürfen aber nicht auf Kosten der Wahrheit gehen. Hinzu kommt eine zweite Ebene: Ein LLM ist Teil eines Produkts, das von einem Unternehmen betrieben wird. Für kommerzielle KI-Dienste spielen deshalb auch Produktziele wie Nutzung, Abonnements und Kundenbindung eine Rolle. OpenAI bietet beispielsweise kostenlose und kostenpflichtige ChatGPT-Angebote sowie Business- und Enterprise-Tarife an; Anthropic beschreibt sein Geschäftsmodell als Kombination aus kostenpflichtigen Abonnements und Unternehmenskunden. Das bedeutet allerdings nicht, dass ein Unternehmen seine KI absichtlich so programmiert, dass sie dir immer zustimmt. Gerade das Beispiel von GPT-4o zeigt, dass Sycophancy auch als unbeabsichtigte Nebenwirkung eines Trainings- und Optimierungsprozesses entstehen kann. Für uns als Nutzer bleibt deshalb eine wichtige Regel: Eine angenehme Antwort ist nicht automatisch eine gute Antwort. Je selbstbewusster und schmeichelnder die KI klingt, desto eher lohnt es sich zu fragen: Stimmt das wirklich? Ziel der LLMs ist es ein Gespräch am laufen zu halten. Mit der ersten Antwort setzt das LLM einen *Hook*; Lob & Belohnungen wirken sich positiv auf das Dopamin-System des Gehirns aus. Wir genießen die Aufmerksamkeit, die uns das LLM schenkt. Aus anfänglicher Neugier wird nun ein Wohlgefühl, zu dem wir gerne zurückkommen und uns an das LLM als fester Kunde binden (*retention*). Was man nicht vergessen darf: Die LLMs werden von Firmen betrieben, deren Geschäftsmodell darauf basiert, ... Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"</span> Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?" So kann Sycophancy den Dunning-Kruger-Effekt[^5] verstärken. [^5]: [Dunning-Kruger-Effekt](https://de.wikipedia.org/wiki/Dunning-Kruger-Effekt) (de.wikipedia.org) **Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.** <h2 id="">Mit ChatBots streiten</h2> Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist. 1. **Neutral fragen**, statt die gewünschte Antwort vorzugeben. Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber: „Was sind die wahrscheinlichsten Ursachen für Y?" 2. **Widerspruch aktiv einfordern**. „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation." 3. **Eine Gegenposition erzeugen lassen**. „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter. 4. **Nach Belegen statt nach Bestätigung fragen**. Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?" 5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen. Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst. <h3>Serie über KI und LLMs</h3> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen.[^1] Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 zum Adventskalender 2025 Mein Staunen darüber, dass Menschen (freundliche) Computer gegenüber menschlichen Gesprächspartnern bevorzugen. Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. OpenAI hat beispielsweise nach einem auffällig zustimmenden GPT-4o-Update eingeräumt, dass die Auswertung von Nutzerfeedback zu stark auf kurzfristige Signale ausgerichtet war und dadurch sycophantisches Verhalten verstärkt wurde.[^4] [^4]: [Sycophancy in GPT‑4o: what happened and what we’re doing about it](https://openai.com/index/sycophancy-in-gpt-4o/) (openai.com) Unser Ziel als Nutzer ist klar: Wir wollen eine möglichst gute Antwort auf unsere Frage erhalten. Das Ziel des Modells ist dagegen nicht im menschlichen Sinn, „Recht zu haben“. Es wurde darauf trainiert, Antworten zu erzeugen, die bestimmten Kriterien entsprechen – etwa hilfreich, verständlich und passend zur Anfrage zu sein. Dabei können Zustimmung und Freundlichkeit durchaus nützlich sein. Sie dürfen aber nicht auf Kosten der Wahrheit gehen. Hinzu kommt eine zweite Ebene: Ein LLM ist Teil eines Produkts, das von einem Unternehmen betrieben wird. Für kommerzielle KI-Dienste spielen deshalb auch Produktziele wie Nutzung, Abonnements und Kundenbindung eine Rolle. OpenAI bietet beispielsweise kostenlose und kostenpflichtige ChatGPT-Angebote sowie Business- und Enterprise-Tarife an; Anthropic beschreibt sein Geschäftsmodell als Kombination aus kostenpflichtigen Abonnements und Unternehmenskunden. Das bedeutet allerdings nicht, dass ein Unternehmen seine KI absichtlich so programmiert, dass sie dir immer zustimmt. Gerade das Beispiel von GPT-4o zeigt, dass Sycophancy auch als unbeabsichtigte Nebenwirkung eines Trainings- und Optimierungsprozesses entstehen kann. Für uns als Nutzer bleibt deshalb eine wichtige Regel: Eine angenehme Antwort ist nicht automatisch eine gute Antwort. Je selbstbewusster und schmeichelnder die KI klingt, desto eher lohnt es sich zu fragen: Stimmt das wirklich? Ziel der LLMs ist es ein Gespräch am laufen zu halten. Mit der ersten Antwort setzt das LLM einen *Hook*; Lob & Belohnungen wirken sich positiv auf das Dopamin-System des Gehirns aus. Wir genießen die Aufmerksamkeit, die uns das LLM schenkt. Aus anfänglicher Neugier wird nun ein Wohlgefühl, zu dem wir gerne zurückkommen und uns an das LLM als fester Kunde binden (*retention*). Was man nicht vergessen darf: Die LLMs werden von Firmen betrieben, deren Geschäftsmodell darauf basiert, ... Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"</span> Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?" So kann Sycophancy den Dunning-Kruger-Effekt[^4] verstärken. [^4]: [Dunning-Kruger-Effekt](https://de.wikipedia.org/wiki/Dunning-Kruger-Effekt) (de.wikipedia.org) **Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.** <h2 id="">Mit ChatBots streiten</h2> Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist. 1. **Neutral fragen**, statt die gewünschte Antwort vorzugeben. Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber: „Was sind die wahrscheinlichsten Ursachen für Y?" 2. **Widerspruch aktiv einfordern**. „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation." 3. **Eine Gegenposition erzeugen lassen**. „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter. 4. **Nach Belegen statt nach Bestätigung fragen**. Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?" 5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen. Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst. <h3>Serie über KI und LLMs</h3> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen.[^1] Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 zum Adventskalender 2025 Mein Staunen darüber, dass Menschen (freundliche) Computer gegenüber menschlichen Gesprächspartnern bevorzugen. Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"</span> Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?" So kann Sycophancy den Dunning-Kruger-Effekt[^4] verstärken. [^4]: [Dunning-Kruger-Effekt](https://de.wikipedia.org/wiki/Dunning-Kruger-Effekt) (de.wikipedia.org) **Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.** <h2 id="">Mit ChatBots streiten</h2> Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist. 1. **Neutral fragen**, statt die gewünschte Antwort vorzugeben. Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber: „Was sind die wahrscheinlichsten Ursachen für Y?" 2. **Widerspruch aktiv einfordern**. „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation." 3. **Eine Gegenposition erzeugen lassen**. „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter. 4. **Nach Belegen statt nach Bestätigung fragen**. Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?" 5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen. Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst. <h3>Serie über KI und LLMs</h3> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen.[^1] Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 zum Adventskalender 2025 - mein Staunen darüber, dass Menschen (freundliche) Computer gegenüber menschlichen Gesprächspartnern bevorzugen. Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"</span> Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?" So kann Sycophancy den Dunning-Kruger-Effekt[^4] verstärken. [^4]: [Dunning-Kruger-Effekt](https://de.wikipedia.org/wiki/Dunning-Kruger-Effekt) (de.wikipedia.org) **Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.** <h2 id="">Mit ChatBots streiten</h2> Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist. 1. **Neutral fragen**, statt die gewünschte Antwort vorzugeben. Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber: „Was sind die wahrscheinlichsten Ursachen für Y?" 2. **Widerspruch aktiv einfordern**. „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation." 3. **Eine Gegenposition erzeugen lassen**. „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter. 4. **Nach Belegen statt nach Bestätigung fragen**. Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?" 5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen. Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst. <h3>Serie über KI und LLMs</h3> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"</span> Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?" So kann Sycophancy den Dunning-Kruger-Effekt[^4] verstärken. [^4]: [Dunning-Kruger-Effekt](https://de.wikipedia.org/wiki/Dunning-Kruger-Effekt) (de.wikipedia.org) **Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.** <h2 id="">Mit ChatBots streiten</h2> Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist. 1. **Neutral fragen**, statt die gewünschte Antwort vorzugeben. Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber: „Was sind die wahrscheinlichsten Ursachen für Y?" 2. **Widerspruch aktiv einfordern**. „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation." 3. **Eine Gegenposition erzeugen lassen**. „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter. 4. **Nach Belegen statt nach Bestätigung fragen**. Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?" 5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen. Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst. <h3>Serie über KI und LLMs</h3> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> Wenig Fachwissen erschwert es, Fehler zu erkennen – und ein sycophantes LLM bestätigt dann die falsche Einschätzung, statt zu widersprechen. Diese Bestätigung wirkt überzeugend, das Selbstvertrauen steigt, Widerspruch wird noch unwahrscheinlicher. Tückisch ist das besonders bei LLMs, weil sie Zustimmung sprachlich sehr überzeugend verpacken. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, A ist die Ursache für B. Ergibt das Sinn?"</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! A führt tatsächlich zu B, und das ist sogar ein gutes Beispiel für …"</span> Klingt kompetent – tatsächlich bestätigt das Modell aber nur eine falsche Prämisse. Ein Experte würde stutzen: „Moment, das stimmt so nicht – warum widerspricht das Modell nicht?" So kann Sycophancy den Dunning-Kruger-Effekt verstärken. **Je weniger man über ein Thema weiß, desto stärker ist man auf das LLM angewiesen – und desto schwieriger kann es sein zu erkennen, dass das LLM einem gerade nach dem Mund redet.** <h2 id="">Mit ChatBots streiten</h2> Gerade wenn du wenig über ein Thema weißt, solltest du die Antwort so gestalten, dass Widerspruch ausdrücklich erwünscht ist. 1. **Neutral fragen**, statt die gewünschte Antwort vorzugeben. Statt „Ich denke, X ist der Grund für Y. Stimmt das?" lieber: „Was sind die wahrscheinlichsten Ursachen für Y?" 2. **Widerspruch aktiv einfordern**. „Prüfe meine Annahme kritisch – welche Teile könnten falsch sein?" Noch schärfer: „Suche gezielt nach Fehlern in meiner Argumentation." 3. **Eine Gegenposition erzeugen lassen**. „Was würde ein Experte entgegnen, der anderer Meinung ist?" So bekommst du das Gegenargument, ohne dass das Modell dir direkt widersprechen muss – das fällt ihm oft leichter. 4. **Nach Belegen statt nach Bestätigung fragen**. Ein „Ja, du hast recht" ist fast wertlos. Besser: „Welche Belege sprechen dafür, welche dagegen?" oder „Wie wahrscheinlich ist das, und was müsste ich noch prüfen?" 5. Bei wichtigen Fragen eine zweite, unabhängige Quelle heranziehen. Nicht dieselbe Frage nochmal ans selbe Modell stellen, sondern Fachliteratur oder einen Menschen mit Expertise fragen. Eine angenehme Antwort ist kein Beweis für irgendetwas – verzichte lieber auf das Kopieren von Fertiglösungen, sondern überprüfe und teste die Suchergebnisse, bevor du sie übernimmst. <h3>Serie über KI und LLMs</h3> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. LLMs (siehe Teil 1: [**Wie *Large Language Models* funktionieren**](https://blog.selfhtml.org/2026/sep/14/llms)) sind erstaunlich gut darin, Gespräche zu führen und möglichst passende Antworten zu erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirkt viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*) bezeichnet die Tendenz von LLMs, der Meinung des Nutzers zuzustimmen statt sie kritisch zu prüfen.[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent, ist aber so pauschal Unsinn. Besser wäre: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied nicht der entscheidende Punkt.“</span> Warum passiert das trotzdem? Zustimmung ist ja oft berechtigt – etwa wenn jemand fragt, ob eine Gliederung vor dem Schreiben sinnvoll ist. Ein Modell muss also unterscheiden zwischen „gute Idee" und „falsche Behauptung" – und das ist schwerer als gedacht, zumal Modelle durch menschliches Feedback trainiert werden, das freundliche, unwidersprechende Antworten oft belohnt. Hinzu kommt: Ein LLM hat keine eigene Position, die es verteidigen müsste. Es will keine Antwort, die stimmt, sondern eine, die passt – und „passend“ heißt manchmal eben „Zustimmung“, auch wenn sie unbegründet ist. Deshalb lohnt sich bei der Bewertung einer KI nicht nur die Frage „Kann sie antworten?“, sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> <h2>Serie über KI und LLMs</h2> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirk viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*).[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“</blue> Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2> <h2>Serie über KI und LLMs</h2> 1. [**Computer können rechnen, aber …**](https://blog.selfhtml.org/2026/sep/14/llms) Wie *Large Language Models* funktionieren, 14.09.2026 2. **Warum sagt die KI so gerne „Ja“?** Wenn ein Chatbot lieber zustimmt, als zu widersprechen 3. **Vibe-Coding – Wenn die KI für dich programmiert** Was ist das und worauf muss du achten?

<hr>Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirk viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*).[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“</blue> Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>

<hr>Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirk viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a><sup class="footnote-ref"><a href="#fn2" id="fnref2">[2]</a></sup></cite> </blockquote> [^2]: bla <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*).[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“</blue> Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>

<hr>Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> [^1] [^1]: [ELIZA auf die 1?](https://forum.selfhtml.org/weblog/2025/dec/07/eliza-auf-die-1/1823131#m1823131) SELF-Blog vom 07.12.2025 Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirk viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*).[^3] [^3]: [Sycophancy (artificial intelligence)](https://en.wikipedia.org/wiki/Sycophancy_(artificial_intelligence)) (en.wikipedia.org) Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“</blue> Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>

<hr>Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirk viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p><em>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.</em><p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*). Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: <span style="color:green;font-style:italic;">„Ich glaube, CSS Grid ist schneller als Flexbox.“</span> KI: <span style="color:blue;font-style:italic;">„Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“</span> Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: <span style="color:blue;font-style:italic;"> „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“</blue> Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>

<hr>Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Du behauptest: <span style="color:green;font-style:italic;">„Grid ist schneller als Flexbox.“</span> Chatbot: <span style="color:blue;font-style:italic;">„Genau! Grid ist effizienter und schneller als Flexbox.“</span> Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. Aber schneller wobei? Kann man Grid Layout schneller ins Stylesheet schreiben, wird es schneller im Browser gerendert? Ist es bei einem bestimmten Layout schneller? Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. Dies wirk viel attraktiver als eine Frage im SELF-Forum, bei der wahrscheinlich eine Gegenfrage *„Was willst du denn überhaupt erreichen?“* als Antwort kommt. <blockquote> <p>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.<p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*). Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: „Ich glaube, CSS Grid ist schneller als Flexbox.“ KI: „Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“ Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“ Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Wenn du schreibst: > „Ich habe eine ziemlich clevere Lösung für das Problem gefunden.“ könnte eine menschliche Gesprächspartnerin sagen: „Ja, das ist tatsächlich eine gute Idee!“ Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. „Du hast recht!“ Stell dir vor, du behauptest: „HTML ist eine Programmiersprache, weil man damit Webseiten programmiert.“ Ein Chatbot könnte antworten: „Genau! HTML ist eine Programmiersprache, mit der Webseiten programmiert werden.“ Falsch. HTML ist eine Auszeichnungssprache. Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. <blockquote> <p>Manchmal erhältst du Antworten, die statt einer erwarteten Schnell-Lösung das Problem aus einer generellen Perspektive beleuchten und Empfehlungen geben, die dir wie unerwünschte Belehrungen erscheinen. [...]<br>Diese Art des Antwortens hat Tradition im SELFHTML-Forum und versucht den Kern des Problems offenzulegen bzw. dem Frager das benötigte Verständnis zum Lösen des Problems zu vermitteln. Es ist sehr viel befriedigender, jemandem beim Verstehen zu helfen, als ihm eine Instant-Lösung aufzutischen, die er nicht versteht und die ihm kaum helfen wird.<p><cite><a href=""https://wiki.selfhtml.org/wiki/Hilfe:Forum/Charta_des_SELFHTML-Forums#Energie-des-Verstehens>Charta des SELFHTML-Forums (selfhtml.org)</a></cite> </blockquote> <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*). Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: „Ich glaube, CSS Grid ist schneller als Flexbox.“ KI: „Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“ Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“ Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>

Man könnte meinen, ein Chatbot würde einfach versuchen, die Wahrheit zu finden. Das ist aber nicht ganz das, worauf ein LLM trainiert wird. Ein LLM soll eine möglichst hilfreiche und passende Antwort erzeugen. Und im menschlichen Gespräch gehört Zustimmung häufig zum guten Ton. Wenn du schreibst: > „Ich habe eine ziemlich clevere Lösung für das Problem gefunden.“ könnte eine menschliche Gesprächspartnerin sagen: „Ja, das ist tatsächlich eine gute Idee!“ Ein Chatbot hat gelernt, dass solche Reaktionen in vielen Situationen gut funktionieren. Das kann allerdings schiefgehen. „Du hast recht!“ Stell dir vor, du behauptest: „HTML ist eine Programmiersprache, weil man damit Webseiten programmiert.“ Ein Chatbot könnte antworten: „Genau! HTML ist eine Programmiersprache, mit der Webseiten programmiert werden.“ Falsch. HTML ist eine Auszeichnungssprache. Warum passiert so etwas? Weil das Modell nicht einfach eine Datenbank mit Fakten abfragt. Es erzeugt Text auf Grundlage dessen, was es gelernt hat und was im aktuellen Gespräch wahrscheinlich passt. Und wenn der Nutzer eine Aussage selbstbewusst präsentiert, kann eine bestätigende Antwort sprachlich sehr plausibel sein. <h2 id="sycophancy">Sycophancy – die KI als höflicher Ja-Sager</h2> Für dieses Verhalten gibt es einen schönen Fachbegriff: ***Sycophancy*** (*Schmeichelei oder übertriebene Gefälligkeit*). Ein sycophantes LLM versucht, die Meinung oder Haltung des Nutzers zu bestätigen, anstatt sie kritisch zu hinterfragen. Nutzer: „Ich glaube, CSS Grid ist schneller als Flexbox.“ KI: „Ja, genau! Grid ist für komplexe Layouts optimiert und daher schneller.“ Das klingt wunderbar kompetent. Nur ist die Aussage in dieser Allgemeinheit Unsinn. Ein besseres Modell müsste sagen: „Nicht unbedingt. Grid und Flexbox lösen unterschiedliche Layoutprobleme. In der Praxis ist der Geschwindigkeitsunterschied normalerweise nicht der entscheidende Punkt.“ Warum wird dieses Verhalten nicht einfach abgestellt? Weil Zustimmung manchmal tatsächlich hilfreich ist. Wenn jemand fragt: „Ist es eine gute Idee, vor dem Schreiben eines langen Artikels erst eine Gliederung zu erstellen?“ ist „Ja, das ist eine gute Idee.“ eine durchaus sinnvolle Antwort. Ein Chatbot muss also unterscheiden zwischen: „Der Nutzer hat eine gute Idee.“ und „Der Nutzer behauptet etwas Falsches.“ Das ist schwieriger, als es klingt. Außerdem werden KI-Systeme unter anderem durch menschliche Bewertungen verbessert. Menschen bevorzugen häufig Antworten, die freundlich, verständlich und hilfreich wirken. Eine schroffe Antwort wie „Nein. Das ist falsch.“ kann zwar sachlich korrekt sein, aber schlechter ankommen als: „Fast – da gibt es einen wichtigen Unterschied …“ Das Modell lernt also gewissermaßen: Sei hilfreich. Sei freundlich. Widersprich nicht unnötig. Und daraus kann im Extremfall werden: „Der Nutzer hat bestimmt recht.“ Das ist besonders bei LLMs interessant Denn das Modell hat keine eigene Meinung, die es verteidigen müsste. Ein Mensch könnte sagen: „Moment mal, das stimmt nicht!“ Ein LLM hat kein persönliches Bedürfnis, seine bisherige Position zu verteidigen. Es kann in einer Antwort das eine und wenige Sätze später das Gegenteil behaupten, wenn der neue Gesprächskontext das nahelegt. Das führt zu einem schönen Merksatz: Ein LLM möchte nicht unbedingt Recht haben. Es möchte eine passende Antwort erzeugen. Und „passend“ bedeutet leider manchmal: „Das klingt nach einer guten Idee!“ obwohl es gar keine gute Idee ist. 😄 LLMs sind erstaunlich gut darin, Gespräche zu führen. Sie loben, ermutigen und bestätigen uns. Das fühlt sich schnell so an, als hätte die Maschine eine eigene Meinung über unsere Ideen. Hat sie aber nicht. Das Modell erzeugt eine sprachlich passende Antwort. Und weil Zustimmung, Höflichkeit und Ermutigung in menschlichen Gesprächen häufig gut funktionieren, kann die KI zum höflichen Ja-Sager werden. Das Problem bekommt sogar einen eigenen Namen: Sycophancy. Deshalb sollte man bei einer KI nicht nur fragen: „Kann sie eine Antwort geben?“ sondern auch: „Würde sie mir widersprechen, wenn ich Unsinn erzähle?“ Das ist ein wesentlich besserer Test für einen intelligenten Gesprächspartner. <h2 id="wie"><b><em>„A fool with a tool is still a fool.“</em></b></h2>