Agentic RAG
Agentic RAG (agentisches RAG) ist Retrieval-Augmented Generation, gesteuert von einem KI-Agenten, der entscheidet, wann gesucht wird, wonach und in welcher Quelle, und erneut suchen kann, wenn die ersten Ergebnisse nicht reichen.
Auch: agentic retrieval, agentic retrieval-augmented generation
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Klassische Retrieval-Augmented Generation ist eine feste Pipeline: die Frage einbetten, die besten Chunks abrufen, einmal generieren. Das scheitert, wenn eine Frage mehrere Schritte braucht, etwa zwei Verträge zu vergleichen oder einen Fehler durch Logs und Code zu verfolgen. Agentic RAG übergibt die Suche an einen KI-Agenten, der in einer Schleife läuft.
So funktioniert es
Das Modell bekommt die Suche als ein oder mehrere Tools über Function Calling: einen Vektorindex, einen Keyword-Index, eine SQL-Datenbank, das Web. In jedem Durchlauf der Agenten-Schleife entscheidet es, ob es mehr Informationen braucht, schreibt eine Anfrage (oft eine umformulierte), liest die Ergebnisse und sucht entweder erneut oder antwortet. Es kann eine Frage in Teilfragen zerlegen und jede an eine andere Quelle leiten.
Beispiel
Auf die Frage „Ist die Abwanderung im letzten Quartal in den Regionen gestiegen, in denen wir die Preise erhöht haben?“ fragt der Agent zuerst das Änderungsprotokoll der Preise ab, dann die Abwanderungstabelle nach Region, und vergleicht beides, bevor er antwortet.
Frühe Formen
Self-RAG (2023) trainierte ein Modell darauf, selbst zu entscheiden, wann es sucht, und die erhaltenen Passagen zu bewerten. Aktuelle Systeme bringen meist allgemeine Modelle per Prompt dazu, dies mit Tools zu tun, statt ein spezielles Modell zu trainieren.
Abwägungen
Agentic RAG bewältigt schwierigere Fragen, aber jede zusätzliche Suche bringt weitere Modellaufrufe, Latenz und Kosten, und der Agent kann in Schleifen geraten oder zu früh aufhören. Begrenze die Zahl der Schritte, protokolliere jeden Tool-Aufruf mit Tools für LLM Observability und behalte einfaches RAG für simple Abfragen bei. Produkte für Deep Research sind eine lang laufende Form dieses Musters.
Verwandte Begriffe
- Retrieval-Augmented Generation
- Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
- KI-Agent
- Ein KI-Agent (AI Agent) ist ein System, in dem ein Sprachmodell seine nächsten Schritte selbst bestimmt: Es ruft Tools auf, liest die Ergebnisse und wiederholt das, bis die Aufgabe erledigt ist, statt einem festen Skript zu folgen.
- Agenten-Schleife
- Die Agenten-Schleife (Agent Loop) ist der sich wiederholende Zyklus im Kern eines KI-Agenten: Das Modell fordert einen Tool-Aufruf an, die Anwendung führt ihn aus und gibt das Ergebnis zurück, und das Modell entscheidet, was als Nächstes passiert.
- Query Rewriting
- Query Rewriting (Umschreiben der Suchanfrage) verändert die Frage eines Nutzers vor der Suche, etwa indem es sie präzisiert, aufteilt oder um verwandte Begriffe ergänzt, damit der Retriever eher die Passagen findet, die sie beantworten.
- Tool Calling
- Tool Calling, auch Function Calling (Funktionsaufruf) genannt, ist eine Funktion von Modell-APIs, bei der du Funktionen mit einem Schema beschreibst, das Modell mit einer strukturierten Anfrage antwortet, eine davon aufzurufen, und dein Code sie ausführt und das Ergebnis zurückgibt.
- Deep Research (KI)
- Deep Research (Tiefenrecherche) ist eine Funktion von KI-Agenten, die eine Recherchefrage plant, viele Websuchen ausführt, die gefundenen Quellen liest und einen langen Bericht mit Quellenangaben schreibt, was Minuten statt Sekunden dauert.