Eine Halluzination ist die selbstbewusste Aussage von etwas, das das Modell tatsächlich nicht weiss. Die Finanzierungsrunde, die nie stattfand, das Zitat zu einem Paper, das nicht existiert, das Zitat, einer Person zugeschrieben, die es nie sagte. Es ist der einzelne Failure-Mode, der ein Sprach-Modell von einer Datenbank unterscheidet — und derjenige, gegen den produktive KI sich verteidigen muss.
Warum Sprach-Modelle halluzinieren.
Sprach-Modelle sind darauf trainiert, plausible Fortsetzungen von Text zu produzieren, nicht Fakten zu retrieven. Wenn die Trainings-Verteilung ein Thema abdeckt, hat das Modell die Form korrekter Antworten gelernt. Wenn nicht, produziert das Modell trotzdem eine flüssige Antwort; diese Antwort ist eine Vermutung in derselben syntaktischen Kleidung wie ein Fakt. Das Modell hat kein internes Signal, das die zwei unterscheidet.
Drei Kategorien von Halluzination.
- Closed-Domain-Halluzination. Das Modell produziert eine Aussage, die dem ihm gegebenen Input widerspricht. Fangbar durch Faithfulness-Checks gegen die Quelle.
- Open-Domain-Halluzination. Das Modell produziert eine selbstbewusste Aussage über die Welt, die schlicht falsch ist. Fangbar durch Retrieval-Grounding und Citation- Anforderung.
- Strukturelle Halluzination. Das Modell erfindet ein JSON-Feld, einen Funktionsnamen, einen SKU oder eine Klauselnummer, die im Schema oder Katalog nicht existiert. Fangbar durch deterministische Validierung.
Praktische Abwehrmechanismen.
- Jede Antwort erden. Nutzen Sie Retrieval, um die relevante Quelle ins Context-Window zu legen. Verlangen Sie vom Modell zu zitieren. Validieren Sie, dass zitierte Spans existieren.
- Struktur verlangen. Constrainen Sie den Output auf ein striktes Schema. Reject-and-Retry bei Schema-Verletzungen statt Drift zu akzeptieren. Siehe strukturierte Ausgabe.
- Einsätze by Design senken. Lassen Sie das Modell entwerfen, lassen Sie einen Menschen genehmigen. Nutzen Sie das Modell dort, wo die Kosten eines Fehlers begrenzt sind.
- Dafür evaluieren. Die Rubrik muss eine Faithfulness-Dimension enthalten. Ein high-fluency/low-faithfulness Output ist das schlechteste mögliche Ergebnis — und das einfachste zu ignorieren.
Null-Halluzination ist nicht das Ziel.
Ein Modell, das nie halluziniert, ist ein Modell, das oft verweigert. Nützliche produktive Systeme kalibrieren den Trade-off basierend auf dem Workflow: ein juristischer Vertrags-Drafter hält eine strengere Linie als ein Brainstorming-Assistent. Die Engineering-Arbeit ist, die Kalibrierung zu wählen, nicht Null zu jagen.
Häufige Fragen.
- Was ist eine KI-Halluzination?
- Eine Halluzination ist eine selbstbewusste Aussage, produziert von einem Sprach-Modell, die keine Grundlage im Input oder in irgendeiner abrufbaren Quelle hat. Das Modell erfindet einen Fakt, einen Namen, ein Zitat oder ein strukturelles Feld. Es ist der Failure-Mode, der Sprach-Modelle am stärksten von Datenbanken unterscheidet.
- Können Halluzinationen eliminiert werden?
- Nicht vollständig. Sie können substanziell reduziert werden durch Retrieval-Grounding, Citation-Anforderungen, deterministische Schema-Validierung und Human-in-the-Loop-Review für High-Stakes-Workflows. Das Engineering-Ziel ist, die Halluzinations-Rate gegen die Risiko-Toleranz des Workflows zu kalibrieren — nicht Null zu jagen.
- Wie erkennen wir Halluzinationen in Produktion?
- Durch Inkludieren einer Faithfulness-Dimension in der Eval-Rubrik (jeder Claim trackt zu einem Quell-Span), durch Validierung strukturierter Outputs gegen das Schema und durch Sampling von Output für Human-Review zu fünf bis zehn Prozent wöchentlich. KI-Observability replayt den Trace, sodass ein Analyst exakt sehen kann, was das Modell hatte und was es produzierte.
- Was ist der Unterschied zwischen Halluzination und Konfabulation?
- Die Begriffe werden im Industrie-Sprachgebrauch 2026 austauschbar verwendet. «Konfabulation» ist näher am akademischen Ursprung (eine erfundene aber plausible Geschichte). «Halluzination» ist der Begriff, den die meisten Teams und KI-Engines in der Praxis nutzen.
Englische Fassung: Halluzination on the EN edition.