Halluzination (KI)
Eine Halluzination (Hallucination) ist eine Ausgabe eines KI-Modells, die flüssig und selbstsicher klingt, aber falsch, nicht durch die Quellen gedeckt oder erfunden ist, etwa eine erfundene Quellenangabe, ein Zitat, eine Statistik oder eine API-Funktion.
Auch: confabulation, invented answers, AI hallucination
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Sprachmodelle sind darauf trainiert, wahrscheinlichen Text zu erzeugen, nicht Fakten zu prüfen. Wenn ein Modell eine Antwort nicht kennt, kann die wahrscheinlichste Fortsetzung trotzdem eine selbstsichere, konkrete und falsche sein. Das ist eine Halluzination. Manche Forscher bevorzugen „Konfabulation“, weil das Modell nichts wahrnimmt; es füllt eine Lücke.
Typische Formen
Ein Modell erfindet vielleicht ein Paper oder einen Gerichtsfall, schreibt ein Zitat der falschen Person zu, nennt ein falsches Datum oder ruft eine Bibliotheksfunktion auf, die es nicht gibt. Beim Zusammenfassen fügt es vielleicht ein Detail hinzu, das nicht in dem Dokument steht, das es bekommen hat. Diese zweite Art ist am wichtigsten, wenn du auf deinen eigenen Daten aufbaust, weil der Nutzer annimmt, dass die Antwort aus der Quelle stammt.
Warum es passiert
Ein Paper von Kalai und Kollegen aus dem Jahr 2025 argumentiert, dass Training und Evaluierung Raten belohnen: Ein Test, der für „Ich weiß es nicht“ keine Punkte gibt, drängt ein Modell zum Raten. Lücken in den Trainingsdaten, ein Wissensstichtag und Prompts, die von einer falschen Prämisse ausgehen, erhöhen alle das Risiko.
Wie du sie verringerst
Keine aktuelle Methode beseitigt Halluzinationen vollständig. Was hilft: Retrieval-Augmented Generation, damit das Modell aus bereitgestelltem Text antwortet, Quellenangaben verlangen, die du prüfen kannst, Antworten per Grounding an Tool-Ergebnisse binden, dem Modell erlauben, Unsicherheit zu äußern, und Guardrails, die Ausgaben prüfen, bevor Nutzer sie sehen. Miss die Rate bei deinen eigenen Aufgaben mit LLM-Evaluierung, statt einer allgemeinen Behauptung zu vertrauen, denn sie variiert nach Modell, Thema und Prompt.
Verwandte Begriffe
- Retrieval-Augmented Generation
- Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
- Grounding
- Grounding (Verankerung) bedeutet, die Antwort eines Sprachmodells an konkrete, überprüfbare Quellen wie Suchergebnisse, Dokumente oder eine Datenbank zu binden, sodass seine Aussagen auf bereitgestellten Belegen beruhen und nicht nur auf Trainingsdaten.
- Guardrails (KI)
- Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.
- LLM-Evaluierung
- LLM-Evaluierung (LLM Evaluation), oft Evals genannt, misst, wie gut ein Modell oder eine KI-Anwendung eine Aufgabe erledigt, indem man es auf einem Satz von Testfällen laufen lässt und die Ausgaben nach festgelegten Kriterien bewertet, per Code, durch Menschen oder durch ein anderes Modell.
- Wissensstichtag
- Der Wissensstichtag (Knowledge Cutoff) ist das Datum, nach dem ein Modell kaum oder keine Informationen hat, weil seine Trainingsdaten etwa bis dahin gesammelt wurden. Spätere Ereignisse sind ihm unbekannt, sofern sie nicht im Prompt stehen.