Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Context Rot

Context Rot (Kontextverfall) ist der Rückgang von Genauigkeit und Zuverlässigkeit eines Sprachmodells, wenn seine Eingabe länger wird, selbst wenn die Eingabe noch ins Kontextfenster passt und die benötigte Information vorhanden ist.

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Ein großes Kontextfenster sagt dir, wie viel Text ein Modell annimmt, nicht wie gut es ihn nutzt. Context Rot ist die Lücke zwischen beidem. Je länger Prompts werden, desto eher übersehen Modelle Fakten, verwechseln ähnliche Passagen und folgen Anweisungen weniger genau.

Die Belege

Der Bericht von Chroma vom Juli 2025 testete 18 Modelle, darunter GPT-4.1, Claude 4, Gemini 2.5 und Qwen3, und stellte fest, dass die Leistung in jedem Experiment mit wachsender Eingabelänge sank, oft auf ungleichmäßige und überraschende Weise. Einfache Needle-in-a-Haystack-Tests, bei denen ein Modell nur einen Satz finden muss, verdecken vieles davon, weil echte Aufgaben verlangen, dass das Modell über das Gefundene nachdenkt und ähnlich aussehende Ablenkungen ignoriert.

Warum es für Agenten wichtig ist

Agenten häufen Tool-Ausgaben, Dateiinhalte und alte Durchläufe an, ihr Kontext wächst also von selbst. Ab einem gewissen Punkt macht mehr Kontext den Agenten schlechter. Das ist ein Hauptgrund für Context Engineering: Nur das ins Fenster geben, was der nächste Schritt braucht.

Wie du es verringerst

Ruf mit Retrieval-Augmented Generation die wenigen relevanten Passagen ab, statt ganze Dokumente einzufügen. Fasse lange Verläufe mit Kontextverdichtung zusammen. Schieb Nebenaufgaben an einen Subagenten, damit ihre Ausgabe nie den Haupt-Thread erreicht. Setz die wichtigsten Anweisungen dorthin, wo das Modell sie klar sieht, und teste deine eigene Aufgabe mit den Kontextgrößen, die du tatsächlich nutzt, da der Abfall je nach Modell und Aufgabe variiert.

Verwandte Begriffe

Kontextverdichtung
Kontextverdichtung (Context Compaction) ist der Schritt, in dem ein Agent eine Unterhaltung zusammenfasst, die an die Grenze ihres Kontextfensters kommt, und in einem frischen Fenster weitermacht, das mit dieser Zusammenfassung beginnt, damit eine lange Aufgabe fortgesetzt werden kann.
Context Engineering
Context Engineering (Kontextgestaltung) ist die Praxis, alles auszuwählen und zu pflegen, was während einer Aufgabe in das Kontextfenster eines Sprachmodells gelangt: Anweisungen, abgerufene Dokumente, Tool-Definitionen, Tool-Ergebnisse und Gesprächsverlauf.
Kontextfenster
Ein Kontextfenster (Context Window) ist die maximale Textmenge, gezählt in Tokens, die ein Sprachmodell auf einmal berücksichtigen kann, einschließlich System-Prompt, Unterhaltung, Dokumenten, Tool-Ergebnissen und der Antwort, die es schreibt.
Retrieval-Augmented Generation
Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
Agenten-Gedächtnis
Agenten-Gedächtnis (Agent Memory) umfasst die Techniken, mit denen ein KI-Agent Informationen über ein einzelnes Kontextfenster hinaus behält, etwa Fakten über einen Nutzer oder frühere Arbeit, indem er sie außerhalb des Modells speichert und bei Bedarf wieder lädt.

Quellen