Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Halluzination (KI)

Eine Halluzination (Hallucination) ist eine Ausgabe eines KI-Modells, die flüssig und selbstsicher klingt, aber falsch, nicht durch die Quellen gedeckt oder erfunden ist, etwa eine erfundene Quellenangabe, ein Zitat, eine Statistik oder eine API-Funktion.

Auch: confabulation, invented answers, AI hallucination

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Sprachmodelle sind darauf trainiert, wahrscheinlichen Text zu erzeugen, nicht Fakten zu prüfen. Wenn ein Modell eine Antwort nicht kennt, kann die wahrscheinlichste Fortsetzung trotzdem eine selbstsichere, konkrete und falsche sein. Das ist eine Halluzination. Manche Forscher bevorzugen „Konfabulation“, weil das Modell nichts wahrnimmt; es füllt eine Lücke.

Typische Formen

Ein Modell erfindet vielleicht ein Paper oder einen Gerichtsfall, schreibt ein Zitat der falschen Person zu, nennt ein falsches Datum oder ruft eine Bibliotheksfunktion auf, die es nicht gibt. Beim Zusammenfassen fügt es vielleicht ein Detail hinzu, das nicht in dem Dokument steht, das es bekommen hat. Diese zweite Art ist am wichtigsten, wenn du auf deinen eigenen Daten aufbaust, weil der Nutzer annimmt, dass die Antwort aus der Quelle stammt.

Warum es passiert

Ein Paper von Kalai und Kollegen aus dem Jahr 2025 argumentiert, dass Training und Evaluierung Raten belohnen: Ein Test, der für „Ich weiß es nicht“ keine Punkte gibt, drängt ein Modell zum Raten. Lücken in den Trainingsdaten, ein Wissensstichtag und Prompts, die von einer falschen Prämisse ausgehen, erhöhen alle das Risiko.

Wie du sie verringerst

Keine aktuelle Methode beseitigt Halluzinationen vollständig. Was hilft: Retrieval-Augmented Generation, damit das Modell aus bereitgestelltem Text antwortet, Quellenangaben verlangen, die du prüfen kannst, Antworten per Grounding an Tool-Ergebnisse binden, dem Modell erlauben, Unsicherheit zu äußern, und Guardrails, die Ausgaben prüfen, bevor Nutzer sie sehen. Miss die Rate bei deinen eigenen Aufgaben mit LLM-Evaluierung, statt einer allgemeinen Behauptung zu vertrauen, denn sie variiert nach Modell, Thema und Prompt.

Verwandte Begriffe

Retrieval-Augmented Generation
Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
Grounding
Grounding (Verankerung) bedeutet, die Antwort eines Sprachmodells an konkrete, überprüfbare Quellen wie Suchergebnisse, Dokumente oder eine Datenbank zu binden, sodass seine Aussagen auf bereitgestellten Belegen beruhen und nicht nur auf Trainingsdaten.
Guardrails (KI)
Guardrails (Leitplanken) sind Laufzeitprüfungen rund um ein Sprachmodell, die Eingaben und Ausgaben untersuchen und sie blockieren, umschreiben oder umleiten, damit eine Anwendung beim Thema bleibt, schädliche Inhalte vermeidet und Regeln einhält, die das Modell allein nicht verlässlich befolgen würde.
LLM-Evaluierung
LLM-Evaluierung (LLM Evaluation), oft Evals genannt, misst, wie gut ein Modell oder eine KI-Anwendung eine Aufgabe erledigt, indem man es auf einem Satz von Testfällen laufen lässt und die Ausgaben nach festgelegten Kriterien bewertet, per Code, durch Menschen oder durch ein anderes Modell.
Wissensstichtag
Der Wissensstichtag (Knowledge Cutoff) ist das Datum, nach dem ein Modell kaum oder keine Informationen hat, weil seine Trainingsdaten etwa bis dahin gesammelt wurden. Spätere Ereignisse sind ihm unbekannt, sofern sie nicht im Prompt stehen.

Quellen