Was ist Agent Lightning?
Agent Lightning trainiert das Modell hinter einem Agenten per Reinforcement Learning, während der Agent seine eigenen Tools, Prompts und seinen Kontrollfluss behält. Du richtest die OpenAI-kompatible Base-URL des Agenten auf das Agent-Lightning-Gateway; das Gateway leitet jeden Aufruf an einen vLLM-Server weiter und speichert die Token-ids von Prompt und Antwort sowie die Log-Wahrscheinlichkeiten. Der Agent meldet am Ende jedes Laufs eine Belohnung, und ein auf verl aufbauender Trainer macht aus diesen aufgezeichneten Läufen Policy-Updates, wobei GRPO zu den unterstützten Algorithmen gehört.
Version 1.0, im August 2026 mit einem technischen Bericht veröffentlicht, war eine vollständige Neufassung in drei Teilen: das Gateway, ein Rollout-Controller, der Agenten als lokale Prozesse oder Kubernetes-Jobs startet, und der Trainer. Das Projekt ist MIT-lizenziertes Python, hat rund 18.900 GitHub-Sterne und veröffentlichte 1.0.3 am 3. November 2026. Das README nennt etwa 3.500 Codezeilen. Das Vorzeigebeispiel bringt Qwen3.5-9B mit 6K Trainingsbeispielen auf SWE-bench Verified von 41,8% auf 56,4%, ein Mixture-of-Experts-Beispiel bringt Qwen3.5-35B-A3B mit 1,8K von 47,8% auf 61,6%; beides sind Microsofts eigene Zahlen auf 4× B200-GPUs.
Lohnt sich Agent Lightning?
Die meisten RL-Frameworks für Agenten verlangen, dass du deinen Agenten in ihrer Schleife neu baust, und dann ist der trainierte Agent nicht ganz der, den du auslieferst. Agent Lightnings Proxy-Design vermeidet das: Alles, was mit einem OpenAI-kompatiblen Endpunkt spricht, lässt sich unverändert trainieren, und weil das Gateway Token-ids an der Quelle aufzeichnet, umgeht es die Retokenisierungsdrift, über die das Team 2025 mit dem vLLM-Projekt geschrieben hat. Die Beispiele reichen von Mathematik mit AutoGen und MCP-Tools über Suche und einen Agenten in der Sandbox bis zu einem Coding-Agenten, der mit Repository-Tests trainiert wird.
Die veröffentlichten Coding-Ergebnisse sind für kleine Modelle stark: 14,6 Punkte auf SWE-bench Verified für ein 9B-Modell sind ein echter Gewinn, falls er sich reproduzieren lässt. Es sind aber die Zahlen der Autoren selbst, und wir haben keine unabhängige Replikation gefunden. Die Release Notes zeigen stetige Ingenieursarbeit: 1.0.3 bringt INT8-Rollouts und behebt Präzisionsfehler bei Belohnungen.
Der Haken: Der Code ist schlank, der Stack nicht. Er braucht CUDA 12.9 oder 13.0, eine fest gepinnte Kombination aus verl, vLLM und torch und einen flash-attention-Build, der laut Dokumentation 10 bis 30 Minuten dauert. Der Quick Start verlangt eine A100, der Minikube-Modus mindestens 64 GB Arbeitsspeicher und die Coding-Beispiele 4× B200 plus eine zweite Maschine für Kubernetes. Läufe laden Logs und Trajektorien standardmäßig zu Weights & Biases hoch. Das Gateway lauscht auf allen Schnittstellen, und sein Bearer-Schlüssel ist standardmäßig leer, was die Authentifizierung mit nur einer Warnung abschaltet; setze also einen, bevor du es in einem geteilten Netz betreibst. Version 1.0 hat zudem die frühere API ersetzt, Tutorials aus 2025 beschreiben also ein anderes Framework.
Unser Fazit: Agent Lightning ist ein Trainingsstand, keine Bibliothek, die man am Freitagnachmittag einbaut. Es lohnt sich, wenn du schon einen Agenten, eine verlässliche Belohnung und freie GPUs hast; ohne diese kommen erst Prompt-Tuning und Evals.
Wo es sich lohnt
Ein Applied-ML-Team mit einem internen Coding-Agenten auf einem offenen Modell
Seine Erfolgsquote bei den Tests unserer eigenen Repositorys steigern
Repositorys als Images verpacken, den Controller jeden Versuch als Kubernetes-Job ausführen lassen, der die Tests laufen lässt und eine Belohnung meldet, und mit dem Rezept für Coding-Agenten trainieren. Microsofts Referenzlauf nutzte 4× B200-GPUs.
Eine Forscherin mit einer A100
Agenten-RL an einem kleinen Modell ausprobieren, bevor sie einen Cluster beantragt
Das Calc-X-Beispiel ausführen, das Qwen2.5-1.5B-Instruct mit AutoGen und einem MCP-Rechner über den lokalen Controller trainiert, und die Belohnungskurve in Weights & Biases verfolgen.
Ein Start-up mit einem Such-Agenten auf einem Agenten-Framework
Das Modell auf unserer eigenen Aufgabe trainieren, ohne den Agenten umzuschreiben
Die Modell-Base-URL des Agenten auf den Rollout-Pfad des Gateways richten, am Ende jedes Laufs eine Belohnung melden und den Trainer Rollouts sammeln und ein selbst gehostetes Modell aktualisieren lassen.
Bevor du dich festlegst
- Einrichtung
- Repo klonen, `uv sync`, dann `scripts/setup_verl.sh 0.8.0 cu130`, um den gepinnten verl-, vLLM- und torch-Stack zu installieren und flash-attention zu bauen (10 bis 30 Minuten); vor dem ersten Lauf bei Weights & Biases anmelden.
- Integrationen
- verl und vLLM für Training und Inferenz, Megatron für das MoE-Beispiel, Kubernetes oder lokale Prozesse für Rollouts, Weights & Biases für Logs und jeder Agent, der eine OpenAI-kompatible API aufruft, etwa AutoGen.
- Daten und Datenschutz
- Selbst gehostet; Prompts, Antworten und Belohnungen speichert das Gateway, und sie werden standardmäßig zu Weights & Biases hochgeladen. Das Gateway bindet an 0.0.0.0, und sein Schlüssel ist standardmäßig leer, was die Authentifizierung abschaltet. MIT-Lizenz.
- Kosten im großen Maßstab
- Freie Software; die Kosten sind GPU-Zeit, von einer A100 80GB für Calc-X über 4× A100 für das Sandbox-Beispiel bis 4× B200 für die Coding-Agenten. Laufzeiten sind nicht für jedes Beispiel veröffentlicht.
- Grenzen
- Nur CUDA 12.9 oder 13.0; der lokale Runner wird unter nativem Windows nicht unterstützt; der Minikube-Modus braucht mindestens 64 GB Arbeitsspeicher; bei der letzten Prüfung rund 116 offene Issues.
Was gut ist
- Trainiert bestehende Agenten über einen OpenAI-kompatiblen Proxy, ohne Umbau
- Speichert Token-ids am Gateway und vermeidet so Retokenisierungsdrift
- Führt Rollouts als Kubernetes-Jobs aus, ohne kostenpflichtigen Sandbox-Dienst
- Ausgearbeitete Beispiele von Mathe auf einer GPU bis zu SWE-bench-Coding-Agenten
Was nicht
- Braucht NVIDIA-Rechenzentrums-GPUs und einen fragilen, gepinnten CUDA-Stack
- Gateway-Authentifizierung ist aus, solange du keinen Schlüssel setzt
- Benchmark-Gewinne sind selbst berichtet
- Die Neufassung 1.0 hat die alte API und Tutorials gebrochen
Am besten für
ML-Teams mit GPUs und messbarer Belohnung, die das Modell in einem bereits laufenden Agenten feintunen wollen, ohne ihn auf ein Trainings-Framework zu portieren.
Alternativen zu Agent Lightning
Agent Lightning: häufige Fragen
- Lohnt sich Agent Lightning?
- Agent Lightning hat die richtige Idee für Agenten-RL, Training über einen Proxy statt Umbau des Agenten, verlangt aber einen GPU-Stack aus dem Rechenzentrum und ein Team, das ihn betreiben kann. Wir bewerten es mit 3.9 von 5.
- Was kostet Agent Lightning?
- Kostenlos und Open Source (MIT); das Training braucht eigene NVIDIA-GPUs, ab einer A100 80GB für das kleinste Beispiel.
- Welche Nachteile hat Agent Lightning?
- Braucht NVIDIA-Rechenzentrums-GPUs und einen fragilen, gepinnten CUDA-Stack; Gateway-Authentifizierung ist aus, solange du keinen Schlüssel setzt; Benchmark-Gewinne sind selbst berichtet; Die Neufassung 1.0 hat die alte API und Tutorials gebrochen.
- Für wen eignet sich Agent Lightning?
- ML-Teams mit GPUs und messbarer Belohnung, die das Modell in einem bereits laufenden Agenten feintunen wollen, ohne ihn auf ein Trainings-Framework zu portieren.
- Was kostet Agent Lightning für ein Team oder im Produktivbetrieb?
- Freie Software; die Kosten sind GPU-Zeit, von einer A100 80GB für Calc-X über 4× A100 für das Sandbox-Beispiel bis 4× B200 für die Coding-Agenten. Laufzeiten sind nicht für jedes Beispiel veröffentlicht.
- Ist Agent Lightning sicher für Firmendaten?
- Selbst gehostet; Prompts, Antworten und Belohnungen speichert das Gateway, und sie werden standardmäßig zu Weights & Biases hochgeladen. Das Gateway bindet an 0.0.0.0, und sein Schlüssel ist standardmäßig leer, was die Authentifizierung abschaltet. MIT-Lizenz.
- Was sind die besten Alternativen zu Agent Lightning?
- Die nächsten Alternativen, die wir getestet haben, sind TRL, Unsloth und LlamaFactory.
Antworten geprüft am 13. Nov. 2026.