Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Analysen Agenten-Frameworks und Automatisierung

Ein Agent oder ein Team? Wie du die Architektur eines KI-Agenten wählst, und wann mehr Agenten es schlechter machen

Von ReviewRamble editors ·

Die meisten KI-Produkte, die sich Agenten nennen, würden besser funktionieren und weniger kosten, wenn sie ein kurzes Stück gewöhnlicher Code wären, der ein Modell zwei- oder dreimal aufruft. Die Bauweisen mit Sprachmodellen reichen vom festen Rezept bis zum Team von Modellen, die sich gegenseitig Nachrichten schicken, und jede Stufe nach oben kauft Flexibilität mit Geld, Tempo und Vorhersehbarkeit. Hier steht, was jedes Muster tut, wann es seinen Platz verdient und was dafür spricht, dass zusätzliche Agenten die Antwort oft schlechter machen.

Unsere Position ist einfach. Fang mit dem schlichtesten Aufbau an, der die Arbeit erledigt. Wechsle zu einem einzelnen Agenten, wenn du die Schritte nicht aufschreiben kannst. Wechsle zu mehreren Agenten erst, wenn du den Fehler benennen kannst, den ein Agent immer wieder macht, und zeigen kannst, dass das Aufteilen der Arbeit ihn behebt.

Die erste Frage: Wer wählt den nächsten Schritt?

Jedes Design in diesem Text beantwortet eine Frage anders: Entscheidet dein Code, was als Nächstes passiert, oder das Modell? Anthropics Engineering-Leitfaden Building effective agents zieht die Grenze sauber. Ein Workflow ist ein System, in dem Modelle und Werkzeuge "über vordefinierte Codepfade orchestriert" werden. Ein Agent ist eines, in dem das Modell "seine eigenen Abläufe und seinen Werkzeuggebrauch" steuert. Unser Glossareintrag zu Workflow und Agent erklärt den Unterschied genauer.

Denk an den Erinnerungsdienst einer Zahnarztpraxis und an ein Reisebüro. Der Erinnerungsdienst läuft jeden Abend dieselben drei Schritte ab: die Termine von morgen nachschlagen, eine höfliche SMS schreiben, sie verschicken. Niemand will, dass diese Software improvisiert. Die Arbeit im Reisebüro ändert sich mit jedem Anruf: Der Flug ist voll, also den Zug prüfen, wodurch sich die Hotelbuchung um einen Tag verschiebt. Der Workflow ist der Erinnerungsdienst. Der Agent ist das Reisebüro, und sein Urteil bezahlst du mit Tokens, Zeit und gelegentlich einem falschen Abzweig.

Anthropics Leitfaden geht weiter, als die meisten Anbieter gehen würden. Der einfachste Ansatz, heißt es dort, "kann bedeuten, überhaupt keine agentischen Systeme zu bauen", und für viele Anwendungen reicht ein gut vorbereiteter Modellaufruf mit Dokumentensuche und ein paar Beispielen im Prompt.

Fünf Workflows, die die meisten Produkte abdecken

Prompt-Verkettung: eine kleine Aufgabe pro Aufruf

Eine Kette zerlegt eine Aufgabe in Schritte, und jeder Modellaufruf arbeitet mit der Ausgabe des vorigen. Die Aufnahme eines Verkaufsgesprächs wird zur Zusammenfassung, die Zusammenfassung zur Liste der zugesagten Nachfassaktionen, die Liste zum E-Mail-Entwurf. Zwischen den Schritten kann gewöhnlicher Code als Kontrolle dienen: Nennt die Zusammenfassung kein Datum für das nächste Treffen, hält die Kette an und meldet das, statt eine E-Mail zu verschicken, die eines erfindet.

Der Tausch ist, in Anthropics Worten, Latenz gegen Genauigkeit. Jeder Aufruf hat eine leichtere Aufgabe und macht deshalb weniger Fehler, dafür dauert das Ganze länger. Wenn ein einzelner Prompt immer wieder eine von sechs Anweisungen verliert, ist eine Kette meist die Lösung.

Routing: ein Empfang vor den Fachleuten

Ein Router liest die Anfrage, entscheidet, welcher Art sie ist, und schickt sie auf den passenden Weg. Ein Support-Postfach sortiert Erstattungen, Passwort-Resets und Beschwerden in getrennte Prompts, jeder auf seine Aufgabe abgestimmt, sodass eine bessere Antwort zu Erstattungen die zu Passwörtern nicht stillschweigend kaputt machen kann. Derselbe Trick schickt leichte Fragen an ein kleines, günstiges Modell und schwere an ein großes, wie unser Eintrag zu LLM-Routing erklärt.

Alles hängt an der Sortierung. Ein Router, der eine Rückbuchung als Passwortfrage einordnet, schickt einem ohnehin verärgerten Kunden mit voller Überzeugung die falsche Anleitung. Miss den Klassifikator deshalb für sich, bevor du dem vertraust, was dahinter kommt.

Parallelisierung: Aufteilen und Abstimmen

Manche Arbeit zerfällt in Teile, die nicht voneinander abhängen, und die können gleichzeitig laufen, während Code die Ergebnisse zusammenfügt. Anthropic nennt zwei Varianten.

Beim Aufteilen bekommt jeder Aufruf einen anderen Teil der Arbeit. Der Mietvertrag eines Mieters geht gleichzeitig an drei Aufrufe: einer liest Miete und Kaution, einer die Instandhaltungspflichten, einer die Kündigungsklausel. Jeder liest mit voller Aufmerksamkeit eine Sache, und ein letzter Schritt in Code setzt den Bericht zusammen. Eine verbreitete Kombination lässt einen Aufruf die Anfrage auf Missbrauch prüfen, während ein anderer die Antwort entwirft.

Beim Abstimmen bekommen mehrere Aufrufe dieselbe Aufgabe, und ihre Antworten werden verglichen. Drei getrennte Prüfungen einer Codeänderung auf Sicherheitslücken, mit der Regel, dass schon ein einziger Treffer sie an einen Menschen schickt, finden mehr als eine Prüfung. Die Schwelle legst du fest: eine Stimme von drei für eine Sicherheitswarnung, zwei von drei, bevor du den Beitrag eines Kunden ausblendest.

Evaluator-Optimierer: eine Autorin und ein Lektor

Ein Aufruf schreibt; ein zweiter prüft das Ergebnis an festgelegten Kriterien und schickt es mit Anmerkungen zurück; die Schleife läuft, bis der Prüfer zufrieden ist. Ein Restaurant, das seine Speisekarte ins Japanische übersetzt, ist ein gutes Beispiel: Der Evaluator prüft, dass jedes Gericht seinen Allergenhinweis behält, dass die Preise unverändert sind und dass kein Gerichtname wörtlich in Unsinn übertragen wurde.

Anthropic nennt zwei Zeichen dafür, dass das Muster passt: Das Feedback eines Menschen würde den Entwurf klar verbessern, und ein Modell kann solches Feedback selbst geben. Wo beides fehlt, winkt der Lektor alles durch oder mäkelt ohne Ende. Setz eine harte Grenze für die Runden, und lies unseren Eintrag zu LLM-as-a-Judge, um zu sehen, wie ein bewertendes Modell danebenliegt.

Orchestrator und Worker: das Scharnier

Anthropic ordnet dieses Muster den Workflows zu, aber hier beginnt das Modell, den Plan zu schreiben. Ein leitendes Modell liest die Aufgabe, entscheidet, welche Teile es braucht, gibt jeden an einen Worker-Aufruf und führt zusammen, was zurückkommt. Anders als beim Aufteilen stehen die Teile nicht vorher fest: Ein Produkt auf einer ganzen Website umzubenennen kann drei Dateien betreffen oder dreißig, und erst das Lesen des Codes zeigt, wie viele. Es kommt weiter unten wieder vor, weil es auch die übliche Form eines Multi-Agenten-Systems ist.

Die Schleife eines einzelnen Agenten

Wenn du die Schritte nicht aufschreiben kannst, gibst du dem Modell Werkzeuge und ein Ziel und lässt es in einer Schleife arbeiten. Anthropic beschreibt Agenten als "in der Regel einfach LLMs, die Werkzeuge anhand von Rückmeldungen aus ihrer Umgebung in einer Schleife nutzen". Das Muster, dem die meisten folgen, stammt aus ReAct: Synergizing Reasoning and Acting in Language Models, einem Paper von 2022 von Shunyu Yao und Kollegen aus Princeton und von Google, veröffentlicht auf der ICLR 2023. Das Modell wechselt zwischen einer kurzen Zeile Überlegung und einer Aktion: denken, ein Werkzeug aufrufen, lesen, was zurückkommt, wieder denken.

Stell dir ein verlorenes Paket vor. Der Agent liest die Sendungsverfolgung und sieht das Paket in einem Depot festhängen, schlägt die Mitteilungen des Depots nach, findet einen Zustellstopp, prüft, ob die Bestellung neu verschickt werden kann, und entwirft einen Erstattungsantrag, wenn nicht. Niemand hätte diesen Weg vorher festlegen können, weil jeder Schritt davon abhängt, was der vorige gefunden hat. Im Paper schlug das Verschränken von Überlegung und Aktion Imitations- und Reinforcement-Learning-Verfahren um 34 und 10 Punkte absoluter Erfolgsquote bei zwei interaktiven Aufgaben, ALFWorld und WebShop, mit nur einem oder zwei ausgearbeiteten Beispielen im Prompt.

In der Schleife steckt der größte Teil der Technik. Unsere Einträge zur Agenten-Schleife, zu ReAct und zum Agent-Harness, der Software rund um das Modell, die die Werkzeuge ausführt und die Regeln durchsetzt, beschreiben die Teile. Zwei zählen am meisten. Das eine ist eine Abbruchbedingung, etwa eine Höchstzahl an Schritten, damit ein verwirrter Agent nicht die ganze Nacht Geld ausgibt. Das andere sind die Werkzeuge selbst: Anthropics drittes Prinzip lautet, sie mit derselben Sorgfalt zu dokumentieren und zu testen wie den Prompt, denn eine vage Werkzeugbeschreibung ist eine vage Anweisung.

Plan-and-Execute: erst die Liste

Ein ReAct-Agent entscheidet Schritt für Schritt, was flexibel und manchmal ziellos ist: Er kann eine Suche wiederholen, in eine Seitenstraße abbiegen oder bei Schritt zwanzig das Ziel aus den Augen verlieren. Plan-and-Execute trennt das Denken vom Tun. Ein Planer schreibt vorab die ganze Liste, ein Ausführer arbeitet sie Punkt für Punkt ab, und nach jedem Punkt oder wenn etwas scheitert, kann der Planer den Rest überarbeiten.

So zieht ein vernünftiger Mensch um: die Liste schreiben (Transporter buchen, Internetvertrag kündigen, Post umleiten), abhaken und die Liste neu schreiben, wenn die Transporterfirma ausgebucht ist. Der schriftliche Plan gibt dir etwas, das du einem Nutzer zeigen oder von einem Menschen freigeben lassen kannst, bevor etwas passiert, und der Ausführer kann oft ein kleineres, günstigeres Modell sein. Der Preis ist ein Plan, der veraltet. Schaut der Planer nie wieder hin, erledigt der Ausführer pflichtbewusst Schritte, die schon drei Punkte vorher keinen Sinn mehr ergaben.

Orchestrator und Worker als Team von Agenten

Ein Multi-Agenten-System gibt mehreren Agenten eigene Anweisungen, Werkzeuge und Kontext, und eine Form von Orchestrierung entscheidet, wer wann arbeitet. Die übliche Form ist ein leitender Agent, der Subagenten startet, jeden mit einem frischen Kontextfenster, und ihre kurzen Berichte zusammenführt.

Anthropics eigene Recherchefunktion ist das stärkste öffentliche Argument dafür. In seinem Bericht vom Juni 2025 schlug ein leitendes Claude Opus 4, das Subagenten mit Claude Sonnet 4 steuerte, einen einzelnen Opus-4-Agenten um 90,2% in Anthropics interner Recherche-Evaluation. Derselbe Bericht nennt die Rechnung: Agenten verbrauchen etwa viermal so viele Tokens wie ein Chat, Multi-Agenten-Systeme etwa 15-mal so viele. In Anthropics Auswertung des Benchmarks BrowseComp erklärte der Tokenverbrauch allein 80% der Varianz in der Leistung. Ein großer Teil des Gewinns ist also das zusätzliche Lesen, das die zusätzlichen Agenten bezahlen. Anthropic schreibt außerdem, dass solche Systeme schlecht passen, wo Agenten denselben Kontext teilen müssen oder voneinander abhängen, und dass die meisten Programmieraufgaben weniger wirklich parallele Teile haben als Recherche.

Recherche passt zu dem Muster, weil sie Breite ist: zehn Firmen, die man untersuchen muss, jede unabhängig von den anderen, jede mit mehr Seiten, als in ein Kontextfenster passen.

Übergaben: den Anruf an eine Fachkraft weiterreichen

Jeder kennt den Anruf, der bei der Weiterleitung schiefgeht. Du erklärst das Problem der ersten Person, wirst zur Buchhaltung durchgestellt und fängst wieder bei deiner Kundennummer an. Eine Übergabe (Handoff) ist derselbe Schritt zwischen Agenten, und gut gemacht nimmt sie das Gespräch mit.

Im OpenAI Agents SDK (4,4) erscheint eine Übergabe dem Modell als Werkzeug: Eine Übergabe an einen Erstattungsagenten wird zu einem Werkzeug namens transfer_to_refund_agent, und wer es aufruft, gibt die Kontrolle ab. Standardmäßig "sieht der neue Agent den gesamten bisherigen Gesprächsverlauf", so die Dokumentation zu Handoffs. Ein input_filter kann kürzen, was hinübergeht, und ein on_handoff-Callback kann den Grund prüfen, den das Modell angibt, und die Übergabe stoppen. Die Alternative ist ein Agent als Werkzeug: Der erste Agent behält die Kontrolle, stellt der Fachkraft eine eng gefasste Frage und bekommt eine Antwort zurück, wie eine Verkäuferin, die im Lager anruft, statt dir den Hörer zu reichen.

Übergaben passen zu einem Empfang, der Gespräche an Fachleute weiterreicht, die jeweils eigene Werkzeuge haben: Der Erstattungsagent kann Erstattungen auslösen, der Agent für die Sendungsverfolgung nicht. Diese Trennung der Rechte ist ein echter Grund zum Aufteilen. Das Risiko ist die Kehrseite des mitgenommenen Verlaufs: Alles, was der Kunde gesagt hat, und jedes Werkzeugergebnis reist mit, wenn du es nicht herausfilterst.

Menschliche Freigabepunkte

Ein Agent kann anhalten und einen Menschen fragen, bevor er weitermacht, und Anthropic zählt das zum Agentenmuster: Agenten "halten an Kontrollpunkten oder bei Hindernissen für menschliches Feedback an". Unser Eintrag zu Human-in-the-Loop beschreibt die Mechanik, und LangGraph (4,6) ist für Agenten gebaut, die anhalten, ihren Zustand über einen Neustart hinweg behalten und auf eine Freigabe warten müssen.

Setz den Kontrollpunkt dorthin, wo sich eine Aktion nicht rückgängig machen lässt: bevor Geld fließt, bevor eine E-Mail einen Kunden erreicht, bevor eine Änderung gemergt wird. Der Agent eines Finanzteams kann Rechnungen sammeln und den Zahlungslauf selbst vorbereiten; ein Mensch gibt den Lauf frei. Eine Freigabe bei jedem Schritt erzieht Menschen dazu, ungelesen auf Ja zu klicken, was wir in wer Ja drückt, wenn ein KI-Agent fragt untersucht haben. Wenige, gut gesetzte Kontrollpunkte werden gelesen; Dutzende am Tag nicht.

Wann mehr Agenten die Ergebnisse verschlechtern

Der bisher sorgfältigste Test der Multi-Agenten-Wette kommt von Google Research, Google DeepMind und dem MIT. In Towards a Science of Scaling Agent Systems von Yubin Kim, Xin Liu und Kollegen, erstmals im Dezember 2025 veröffentlicht und im Januar 2026 im Blog von Google Research zusammengefasst, verglichen die Autoren einen einzelnen Agenten mit vier Multi-Agenten-Designs: unabhängige Agenten, deren Antworten am Ende zusammengeführt werden, ein zentraler Orchestrator, gleichrangige Agenten, die debattieren, und eine Mischung der letzten beiden. Werkzeuge, Prompts und Token-Budgets hielten sie gleich, und sie nutzten Modelle von OpenAI, Google und Anthropic. Die aktuelle Fassung des Papers umfasst 260 Konfigurationen in sechs Benchmarks.

Die Ergebnisse teilen sich nach der Form der Aufgabe.

  • Parallele Arbeit gewann. Bei Finance Agent, einem Benchmark für Finanzanalyse, dessen Fragen in getrennte Stränge zerfallen (Nachrichten, Pflichtmeldungen, Geschäftsbetrieb), schnitt ein zentraler Orchestrator 80,8% besser ab als ein einzelner Agent, 0,631 gegenüber 0.349.
  • Sequenzielle Arbeit verlor, jedes Mal. Bei PlanCraft, einem Crafting-Rätsel in Minecraft, bei dem jeder Schritt vom vorigen abhängt, schnitt jedes Multi-Agenten-Design schlechter ab als ein einzelner Agent: um 39,1% bei der Mischform bis zu 70,0% bei unabhängigen Agenten. Der einzelne Agent erreichte 0,568, die unabhängigen Agenten 0.170.
  • Fehler breiten sich ohne Prüfer aus. Unabhängige Agenten verstärkten Fehler um das 17,2-Fache gegenüber einem einzelnen Agenten, weil nichts den Fehler eines Agenten abfing, bevor er die Endantwort erreichte. Ein zentraler Orchestrator hielt das beim 4,4-Fachen, weil er Arbeit prüfte, bevor er sie zusammenführte.
  • Ein starker Einzelagent lässt wenig zu gewinnen. Sobald ein Agent schon in mehr als etwa 45% der Fälle erfolgreich war, verschlechterten zusätzliche Agenten die Ergebnisse eher.
  • Werkzeuglastige Aufgaben zahlen eine Steuer. Bei festem Token-Budget blieb nach dem Aufteilen jedem Agenten zu wenig, um viele Werkzeuge zu bedienen. Das Beispiel des Papers ist ein Geschäftsablauf mit 16 Werkzeugen.

Das eigene Beispiel des Papers ist das klarste Bild. Sollte er eine Dioritmauer craften, schlug der einzelne Agent das Rezept nach, legte den Stein ins Raster und craftete sie: drei Züge. Ein zentral koordiniertes Team teilte dieselbe Arbeit auf einen Rezeptrechercheur, einen Inventarprüfer und einen Crafter auf, zwei davon überflüssig, und verbrauchte sein Budget für Nachrichten über die Arbeit statt für die Arbeit. Vier Köche um ein Omelett.

Die Lehre ist nicht, dass Teams von Agenten scheitern. Sie helfen, wo Arbeit in unabhängige Teile zerfällt und etwas die Teile prüft, und sie schaden, wo die Arbeit eine Kette abhängiger Schritte ist. Mithilfe messbarer Merkmale der Aufgabe wählte das Modell des Papers für 87% der Konfigurationen, die es nicht kannte, das beste Design, und das ist ein besserer Wegweiser als die Demo irgendeines Frameworks.

Eine Reihenfolge für die Entscheidung

  1. Probier einen einzelnen Modellaufruf mit guter Dokumentensuche und Beispielen. Miss ihn an 30 bis 50 echten Fällen, wie in unserem Leitfaden zum Testen von KI-Apps und Agenten, bevor du irgendetwas anderes baust.
  2. Lässt er Schritte aus, verkette sie. Unterscheiden sich die Eingaben in ihrer Art, route sie. Sind Teile unabhängig, lass sie parallel laufen; übersieht ein Leser etwas, lass mehrere abstimmen. Hat die Qualität einen prüfbaren Maßstab, füge einen Evaluator mit Rundenlimit hinzu.
  3. Lassen sich die Schritte nicht aufschreiben, nimm eine einzelne Agenten-Schleife mit Schrittlimit, sorgfältig beschriebenen Werkzeugen und Logs, die jemand liest.
  4. Schweift dieser Agent ab, lass ihn zuerst einen Plan schreiben und den Plan unterwegs überarbeiten.
  5. Füge Agenten nur für einen Fehler hinzu, den du benennen kannst: Das Material sprengt ein Kontextfenster, die Arbeit zerfällt in unabhängige Recherchen, oder verschiedene Schritte brauchen verschiedene Rechte. Setz einen Orchestrator an die Spitze, der Ergebnisse prüft, nie einen Haufen unabhängiger Agenten.
  6. Wo sich eine Aktion nicht rückgängig machen lässt, halte an und frag einen Menschen.

Was die Frameworks voraussetzen

Ein Framework lenkt dich zu dem Muster, um das herum es gebaut wurde. LangGraph (4,6) lässt dich den Graphen ausdrücklich zeichnen, was zu Workflows und lang laufenden Agenten mit Freigabeschritten passt, um den Preis von mehr Code. Das OpenAI Agents SDK (4,4) ist klein, um Übergaben und Guardrails herum gebaut und schickt Traces an OpenAI, wenn du das nicht abschaltest. CrewAI (4,1) bringt schnell ein Team von Agenten mit Rollen zum Laufen; unser Test ergab, dass Teams im Produktivbetrieb am Ende seine festen Flows schreiben statt freier Crews. Pydantic AI (4,5) bringt typisierte Ausgaben zu einem einzelnen Agenten, und das Claude Agent SDK (4,2) liefert dir die Schleife und Werkzeuge von Claude Code fertig. AutoGen (2,6), Microsofts einflussreiches Multi-Agenten-Framework, ist archiviert. Unser Eintrag zu Agenten-Frameworks beschreibt, was sie gemeinsam haben.

Anthropics Leitfaden empfiehlt, direkt mit den APIs der Modelle anzufangen, weil sich "viele Muster in wenigen Zeilen Code umsetzen lassen", und warnt, dass Frameworks die Prompts verbergen können, die du beim Debuggen sehen musst, und zusätzliche Komplexität verlockend machen. Eine Kette oder ein Router sind in jeder Sprache ein paar Zeilen. Ein Framework verdient seinen Platz mit dem, was es gut kann, etwa dauerhaftem Zustand oder Tracing, nicht mit einem Muster, das du an einem Nachmittag schreiben könntest.

Der Haken: Die Belege sind dünner als die Überzeugung, mit der darüber gesprochen wird. Die Google-Studie hielt die Token-Budgets fest, ein Team, das einfach mehr ausgibt, kann also andere Ergebnisse sehen, und ihre Benchmarks sind nicht dein Produkt. Anthropics 90,2% stammen aus der eigenen internen Evaluation, und sein Leitfaden zu den Mustern ist vom Dezember 2024, mit dem Hinweis, dass sich die Werkzeuge seitdem verändert haben. Nimm das alles als Grund, deine eigene Aufgabe zu messen, nicht als Urteil.

Unser Fazit: Bau ein Agentensystem so, wie ein kleiner Betrieb einstellt. Niemand eröffnet eine Bäckerei, indem er eine Leitung für Betrieb, eine für Logistik und eine für Kundenerlebnis ernennt; man stellt einen guten Bäcker ein und schreibt die Rezepte auf. Die zweite Person kommt, wenn die erste nachweislich mit Arbeit überlastet ist, die sich nebeneinander erledigen lässt, und jemand schaut auf die Bleche, bevor sie rausgehen. Der zusätzliche Agent sollte die Antwort auf ein Problem sein, das du schon gesehen hast.

Quellen

Der ReviewRamble-Brief

KI im Test. Einmal pro Woche, in deinem Postfach.

Die Urteile, die in KI, Robotik und Tech zählen, mit dem, was sich lohnt und was nicht. Kein Hype, keine Sammlung von allem.

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen