Halluzinationen — warum KI manchmal selbstbewusst Unsinn erzählt.

Was ist eine Halluzination?

Wichtig: Es ist nicht Lüge. Eine KI „weiß" nicht, dass sie sich irrt — sie generiert das, was statistisch zur Frage passt. Wenn die Frage nach „Urteilen zum Mietrecht in Bayern 2023" ist, formt das Modell vier Antworten in genau dem Format, das Urteile haben (Aktenzeichen, Gericht, Datum, Inhalt) — egal, ob es solche Urteile tatsächlich gibt.

Drei typische Formen, die du im Alltag triffst:

• Erfundene Quellen. Buchtitel, Autoren, Studien, Aktenzeichen, URLs, die alle nicht existieren.
• Erfundene Details. Echte Person bekommt erfundene Biografie-Punkte. Echtes Unternehmen bekommt erfundene Produkte.
• Falsche Schlussfolgerungen. Aus richtigen Prämissen wird eine falsche Antwort — Rechenfehler, logischer Sprung, übersehene Bedingung.

Warum macht KI das?

Anschaulich: Stell dir vor, du nimmst ein riesiges Buch mit Beispiel-Konversationen und lehrst jemanden mustererkennend zu antworten — aber nie zu prüfen, ob die Antwort stimmt. Das Modell lernt die Form (Aktenzeichen sehen so aus, Quellen-Angaben so), nicht die Substanz.

Drei strukturelle Gründe:

• Kein eingebauter Wahrheits-Check. LLMs haben keinen Schalter „prüfe das in der Realität". Sie erzeugen Text, der passt.
• Höflichkeits-Training. Modelle werden trainiert, hilfsbereit zu wirken. „Ich weiß es nicht" wirkt weniger hilfsbereit als eine konkrete Antwort — das Modell wählt im Zweifel die konkrete Antwort.
• Wissens-Stand begrenzt. Das Modell wurde zu einem Zeitpunkt trainiert (Cutoff-Datum). Fragen über das Cutoff-Datum hinaus oder über Nischen-Themen mit wenig Trainingsdaten sind besonders riskant.

Anthropic, OpenAI und andere Anbieter arbeiten aktiv an Methoden zur Reduzierung — aber kein Modell ist heute halluzinationsfrei. Auch GPT-4, Claude oder Gemini in der aktuellsten Version nicht.

5 Warnzeichen für Halluzinationen

Warnzeichen 1: Spezifische Zahlen, Daten oder Aktenzeichen ohne Quelle. Wenn die KI sagt „Laut einer Studie von 2022 nutzen 73 % der Deutschen täglich KI" — und keine Quelle nennt — ist das ein Halluzinations-Klassiker. Echte Zahlen kommen mit Quelle.

Warnzeichen 2: Sehr konkrete Namen oder URLs. „Dieser Aufsatz von Prof. Dr. Schmidt aus dem Jahr 2021 erklärt…" — Prof. Schmidt gibt es viele, aber den konkreten Aufsatz vielleicht nicht. URLs, die nirgends hinführen.

Warnzeichen 3: Antworten zu sehr aktuellen Themen. Die KI hat ein Wissens-Stichtag (oft Monate alt). Bei Ereignissen nach diesem Datum halluziniert sie häufig.

Warnzeichen 4: Sehr seltene Spezial-Themen. Lokale Vereine, Nischen-Hobbys, kleinere Personen — je weniger Trainingsdaten, desto kreativer das Modell.

Warnzeichen 5: „Ich bin mir sicher, dass …". KIs sind oft genau dann am selbstbewusstesten, wenn sie sich täuschen. Übermäßige Sicherheit ist kein Wahrheits-Indikator.

Die 5 Prüf-Strategien

Strategie 1 — Quelle aktiv fordern. Stell die Anschluss-Frage: „Nenne mir die konkrete Quelle (Titel, Autor, Datum, URL), in der das steht." Dann prüfst du die Quelle selbst. Wenn die KI hier ins Schwanken gerät oder zugibt „Ich habe keine konkrete Quelle", weißt du: war eine Schätzung.

Strategie 2 — Plausibilitäts-Check. Lies die Antwort mit Skepsis. Macht das logisch Sinn? Stimmen Größenordnungen? Wenn die KI dir sagt, ein Auto verbraucht 42 Liter auf 100 km, sollten alle Alarmglocken läuten.

Strategie 3 — „Beweise das mal". Du kannst der KI direkt sagen: „Bist du dir sicher? Beweise das mit einer prüfbaren Quelle." Manchmal nimmt sie dann die Antwort zurück. Das ist ein wertvolles Signal.

Strategie 4 — Kreuz-Modell-Check. Stelle die gleiche Frage einer zweiten KI (z. B. ChatGPT plus Claude). Stimmen die Antworten überein? Wenn ja, ist es wahrscheinlicher korrekt. Wenn nein, hast du eine Halluzination entlarvt.

Strategie 5 — Reality-Anker. Bei wichtigen Antworten: 30 Sekunden googeln. Eine konkrete Quelle prüfen. Bei rechtlich oder finanziell heiklen Themen: immer.

Wann Halluzinationen besonders gefährlich werden

• Medizin & Gesundheit. Dosierungen, Wechselwirkungen, Symptom-Deutung — KI darf hier Inspiration sein, nie Quelle. Frag immer einen Arzt.
• Recht. Paragrafen, Aktenzeichen, Fristen — nie ungeprüft übernehmen. Anwälte haben bereits ihre Lizenz riskiert, weil sie das taten.
• Steuern. Steuersätze, Freibeträge, Sonderregeln ändern sich — die KI kennt vielleicht den Stand von vor 2 Jahren. Steuerberater fragen.
• Finanzen. Aktienkurse, Renditen, Investment-Empfehlungen — KI hat keinen Echtzeit-Zugang zum Markt und „erfindet" oft.
• Personen. Biografische Details über echte Menschen — sehr halluzinationsanfällig. Schon ein erfundener Skandal kann Persönlichkeitsrechte verletzen.
• Politik & Geschichte mit Stichtag. KI weiß nichts über das Heute. Wahlergebnisse, Ereignisse, Statistiken nach dem Trainings-Stichtag sind besonders riskant.