Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

KI-News & Forschung

Forschung ·

SparseRead senkt den Token-Verbrauch von Agenten um bis zu 92,9%, indem nur Nötiges gelesen wird

SparseRead, ein Preprint, ist eine Steuerschicht, die begrenzt, wie viel ein Agent von einer Webseite, einem Dokument oder einer Werkzeugantwort liest, ohne das Modell zu verändern. Über sechs Modelle, darunter Claude Opus 5, und fünf Szenarien senkte es die Gesamt-Tokens um bis zu 92,9% und die Laufzeit um bis zu 89,0%, bei gleicher oder besserer Qualität in 97% der Fälle.

Ein großer Teil der Rechnung eines KI-Agenten entsteht nicht beim Denken, sondern beim Lesen. Öffnet ein Agent eine Webseite, ein PDF oder eine Werkzeugantwort, verschluckt er meist alles, und dieser Text fährt dann bei jedem späteren Modellaufruf mit. Frühere Arbeiten, die ein neuer Preprint zitiert, beziffern externe Beobachtungen auf 60% bis 80% der Tokens, die Agenten verarbeiten. SparseRead schlägt vor, Agenten lesen zu lassen wie Menschen: festlegen, was sie brauchen, die passende Stelle ansehen und das ganze Dokument nur öffnen, wenn das nicht reicht.

SparseRead sitzt zwischen dem Agenten und seinen Quellen und erfordert keine Änderung am Modell. Der Agent formuliert in einer kurzen Leseabsicht, was er sucht; die Schicht liefert ein begrenztes, an die Quelle gebundenes Belegpaket sowie eine Übersicht, was geprüft wurde und was nicht, und der Agent entscheidet, ob das genügt. Verschiedene Lese-Backends kümmern sich um Text und PDFs, Tabellen und JSON, Sammlungen mehrerer Dateien und Code. Ein Budget-Tor begrenzt, wie viel Rohinhalt eine Episode offenlegen darf, und greift auf die Vollansicht zurück, wenn Teillesungen teurer wären, etwa bei kleinen Dateien.

Die Autoren testeten 30 Konfigurationen, sechs Modelle in fünf Szenarien, darunter Claude Opus 5, GLM-5.1 und Kimi-K2.5. Die Tokens sanken um 15,7% bis 92,9% und die Laufzeit um 23,0% bis 89,0%, mit Medianen von 61,4% und 53,7%. Die Qualität blieb in 29 der 30 Konfigurationen gleich oder stieg; die Ausnahme war GLM-5.1 bei einer Wissenschaftsaufgabe. Am meisten sparte das System bei langen Dokumenten. Bei der Websuche in die Tiefe, der vertrautesten Aufgabe, sanken die Tokens um 31,0% bis 43,0% und die Zeit um 23,0% bis 37,0%, während die Werte um 5 bis 14 Punkte stiegen, ein Zeichen, dass weniger Ballast bessere Antworten bringen kann. Gegenüber Retrieval- und Kontextkürzungsverfahren war SparseRead die einzige Methode, die in jeder getesteten Konfiguration die Werte hielt oder verbesserte.

Wer Agenten über Claude Code, Codex oder eine API bezahlt, für den geht es hier um echtes Geld, und dass selbst ein starkes Modell wie Opus 5 41,0% bis 89,0% der Tokens sparte, deutet darauf hin, dass bessere Modelle das Problem nicht beseitigen. Es passt auch zu einem breiteren Trend: Agenten-Infrastruktur verlagert sich von größeren Kontextfenstern hin zu klügerer Kontrolle dessen, was hineinkommt.

Die Vorbehalte sind die üblichen bei einem Preprint. Die Szenarien und das Agenten-Framework NanoBot wählten die Autoren selbst, und die 92,9% der Schlagzeile stammen vom Lesen langer Dokumente, dem für die Idee günstigsten Fall. Echte Webseiten sind unordentlicher als Benchmark-Aufgaben, und ein Leser, der den einen entscheidenden Absatz übersieht, scheitert lautlos. Die Arbeit ist nicht begutachtet.

Unser Fazit: Zu viel Lesen gehört zu den größten versteckten Kosten auf Agenten-Rechnungen, hier geht es also um echtes Geld. Die Token-Ersparnis von 31,0 bis 43,0% bei der Web-Tiefensuche ist realistischer als der Spitzenwert in der Überschrift.

Quelle: arXiv (Hugging Face Daily Papers)

Weitere Artikel