Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Agentic RAG

Agentic RAG (agentisches RAG) ist Retrieval-Augmented Generation, gesteuert von einem KI-Agenten, der entscheidet, wann gesucht wird, wonach und in welcher Quelle, und erneut suchen kann, wenn die ersten Ergebnisse nicht reichen.

Auch: agentic retrieval, agentic retrieval-augmented generation

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Klassische Retrieval-Augmented Generation ist eine feste Pipeline: die Frage einbetten, die besten Chunks abrufen, einmal generieren. Das scheitert, wenn eine Frage mehrere Schritte braucht, etwa zwei Verträge zu vergleichen oder einen Fehler durch Logs und Code zu verfolgen. Agentic RAG übergibt die Suche an einen KI-Agenten, der in einer Schleife läuft.

So funktioniert es

Das Modell bekommt die Suche als ein oder mehrere Tools über Function Calling: einen Vektorindex, einen Keyword-Index, eine SQL-Datenbank, das Web. In jedem Durchlauf der Agenten-Schleife entscheidet es, ob es mehr Informationen braucht, schreibt eine Anfrage (oft eine umformulierte), liest die Ergebnisse und sucht entweder erneut oder antwortet. Es kann eine Frage in Teilfragen zerlegen und jede an eine andere Quelle leiten.

Beispiel

Auf die Frage „Ist die Abwanderung im letzten Quartal in den Regionen gestiegen, in denen wir die Preise erhöht haben?“ fragt der Agent zuerst das Änderungsprotokoll der Preise ab, dann die Abwanderungstabelle nach Region, und vergleicht beides, bevor er antwortet.

Frühe Formen

Self-RAG (2023) trainierte ein Modell darauf, selbst zu entscheiden, wann es sucht, und die erhaltenen Passagen zu bewerten. Aktuelle Systeme bringen meist allgemeine Modelle per Prompt dazu, dies mit Tools zu tun, statt ein spezielles Modell zu trainieren.

Abwägungen

Agentic RAG bewältigt schwierigere Fragen, aber jede zusätzliche Suche bringt weitere Modellaufrufe, Latenz und Kosten, und der Agent kann in Schleifen geraten oder zu früh aufhören. Begrenze die Zahl der Schritte, protokolliere jeden Tool-Aufruf mit Tools für LLM Observability und behalte einfaches RAG für simple Abfragen bei. Produkte für Deep Research sind eine lang laufende Form dieses Musters.

Verwandte Begriffe

Retrieval-Augmented Generation
Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
KI-Agent
Ein KI-Agent (AI Agent) ist ein System, in dem ein Sprachmodell seine nächsten Schritte selbst bestimmt: Es ruft Tools auf, liest die Ergebnisse und wiederholt das, bis die Aufgabe erledigt ist, statt einem festen Skript zu folgen.
Agenten-Schleife
Die Agenten-Schleife (Agent Loop) ist der sich wiederholende Zyklus im Kern eines KI-Agenten: Das Modell fordert einen Tool-Aufruf an, die Anwendung führt ihn aus und gibt das Ergebnis zurück, und das Modell entscheidet, was als Nächstes passiert.
Query Rewriting
Query Rewriting (Umschreiben der Suchanfrage) verändert die Frage eines Nutzers vor der Suche, etwa indem es sie präzisiert, aufteilt oder um verwandte Begriffe ergänzt, damit der Retriever eher die Passagen findet, die sie beantworten.
Tool Calling
Tool Calling, auch Function Calling (Funktionsaufruf) genannt, ist eine Funktion von Modell-APIs, bei der du Funktionen mit einem Schema beschreibst, das Modell mit einer strukturierten Anfrage antwortet, eine davon aufzurufen, und dein Code sie ausführt und das Ergebnis zurückgibt.
Deep Research (KI)
Deep Research (Tiefenrecherche) ist eine Funktion von KI-Agenten, die eine Recherchefrage plant, viele Websuchen ausführt, die gefundenen Quellen liest und einen langen Bericht mit Quellenangaben schreibt, was Minuten statt Sekunden dauert.

Quellen