Was ist Oumi?
Oumi ist eine Open-Source-Python-Bibliothek, die den gesamten Post-Training-Zyklus für offene Modelle abdeckt: Daten mit LLM-Bewertern synthetisieren und kuratieren, trainieren, mit Benchmarks oder Rubrik-Bewertern evaluieren und Inferenz ausführen. Ein YAML-Rezept steuert jeden Schritt über die Befehle `oumi train`, `oumi evaluate`, `oumi infer` und `oumi launch`, und laut README werden Modelle von 10M bis 400B+ Parametern unterstützt, Text und multimodal, darunter Llama, Gemma, Qwen, DeepSeek, GLM und Phi.
Zu den Trainingsmethoden gehören SFT, LoRA, QLoRA, DPO, KTO und GRPO, mit FSDP, DeepSpeed und DDP zum Skalieren. Version 0.9, erschienen am 16. September 2026, richtete sie auf Agenten aus: SFT und DPO mit Werkzeugaufrufen, ausführbare Werkzeugumgebungen auf Basis von Datenbanken, HTTP-Endpoints, Nachschlagetabellen oder einem simulierenden Modell, GRPO über diese Umgebungen per verl und ein RubricJudge mit mehreren Kriterien.
Inferenz läuft lokal auf vLLM oder SGLang oder entfernt bei OpenAI, Anthropic, Vertex AI, Together, Fireworks und anderen; `oumi deploy` erstellt dedizierte Endpoints bei Fireworks und Parasail, und ein `oumi-mcp`-Server lässt Claude oder Cursor sie steuern. Jobs starten auf AWS, Azure, GCP, Lambda, Modal oder Slurm. Sie braucht Python 3.10 bis 3.14 und wird von Oumi PBC gepflegt, deren kostenpflichtige Plattform dieselben Rezepte ausführt.
Lohnt sich Oumi?
Oumis Stärke ist die Breite. Wo sich Axolotl und Unsloth auf den Trainingslauf konzentrieren, erzeugt und filtert Oumi auch die Daten, bewertet das Ergebnis mit LLM-Bewertern und stellt das Modell bereit, alles im selben YAML-Rezeptformat und mit einer CLI. Damit ist sie die naheliegende Wahl, wenn der Engpass der Zyklus um das Training herum ist und nicht das Training selbst.
Version 0.9, erschienen am 16. September 2026, ist der Grund, jetzt hinzusehen. Sie bringt SFT und DPO mit Werkzeugaufrufen, Umgebungen, in denen Werkzeugaufrufe wirklich ausgeführt werden, gegen eine Datenbanksitzung (nach jeder Episode zurückgerollt), einen HTTP-Endpoint oder eine deterministische Nachschlagetabelle, und GRPO über jede dieser Umgebungen per verl. Wenige offene Bibliotheken verbinden Datensynthese für Agenten, eine ausführbare Umgebung und Reinforcement Learning an einem Ort.
Die Verbreitung ist mäßig. Mit 9.437 GitHub-Sternen liegt sie hinter Axolotl (12.728) und Hugging Face TRL (19.744), auf der sie teilweise aufbaut, und das README kennzeichnet das Projekt noch als Beta und warnt, dass sich fortgeschrittene Funktionen ändern können. Releases kommen etwa alle vier Monate: v0.7 im Januar, v0.8 im Mai und v0.9 im September 2026. Offene Issues und Pull Requests zusammen kommen auf 26, ein kleiner Rückstau für ein so breites Projekt.
Zwei Voreinstellungen verdienen Aufmerksamkeit. Anonyme Nutzungsanalysen sind aktiv, solange du nicht DO_NOT_TRACK=1 setzt oder ~/.oumi/telemetry.json bearbeitest; laut Doku umfassen sie Befehle, Hardware, Paketversionen und Stacktraces, nie Trainingsdaten, Gewichte oder Dateipfade. Und die Bibliothek ist der offene Kern einer kommerziellen Plattform, deshalb liegen der FAiE-Agent, der Läufe für dich plant, verwaltete GPUs und gehostete Endpoints auf der kostenpflichtigen Seite.
Wo es sich lohnt
Ein ML-Ingenieur in einem SaaS-Unternehmen mit 25 Leuten und einem Agenten, der Tickets verteilt
Einem kleinen offenen Modell beibringen, unsere internen Werkzeuge richtig aufzurufen
Synthetisiere mehrstufige Werkzeuggespräche, führe SFT mit Werkzeugaufrufen aus und dann GRPO gegen ein EndpointEnvironment, das eine Staging-API anspricht, bewertet mit einem RubricJudge. Die Bibliothek ist kostenlos; die Kosten sind GPU-Stunden in der Cloud, auf die `oumi launch` zielt.
Ein Universitätslabor, das Vision-Language-Modelle vergleicht
Mehrere offene VLMs mit demselben Rezeptformat feintunen und evaluieren
Starte mit den mitgelieferten Rezepten für Qwen, Gemma oder InternVL, führe `oumi train` und `oumi evaluate` auf einem Slurm-Cluster aus und lege jede YAML-Datei neben die Ergebnisse, damit sie reproduzierbar sind. Setze DO_NOT_TRACK=1 auf gemeinsam genutzten Rechnern.
Ein Datenteam in einem E-Commerce-Unternehmen, das Trainingsdaten aus Produktbeschreibungen bereinigt
Tausende verrauschte Beispiele vor dem Fine-Tuning aussortieren
Nutze die eingebauten LLM-Bewerter mit einem lokalen vLLM-Modell oder einem kommerziellen API-Schlüssel, um schwache Zeilen zu bewerten und zu verwerfen, und `infer_partial()`, um Teilergebnisse zu behalten, wenn ein langer Batch mittendrin scheitert.
Bevor du dich festlegst
- Einrichtung
- `uv pip install oumi` (oder `oumi[gpu]`), das Docker-Image ghcr.io/oumi-ai/oumi oder ein experimentelles Installationsskript; der Schnellstart trainiert ein 135M-SmolLM-Rezept mit einem einzigen `oumi train`-Befehl, und Colab-Notebooks decken LoRA, Destillation, GRPO und Bewerter ab.
- Integrationen
- Modelle und Datensätze von Hugging Face; vLLM, SGLang und entfernte Engines für OpenAI, Anthropic, Vertex AI, Together, Fireworks, Parasail und OpenRouter; verl für RL; `oumi launch` für AWS, Azure, GCP, Lambda, Modal und Slurm; `oumi deploy` zu Fireworks und Parasail; `oumi-mcp` für Claude und Cursor.
- Daten und Datenschutz
- Läuft auf deiner Hardware oder in deinem Cloud-Konto. Anonyme Telemetrie (Befehle, Hardware, Versionen, Stacktraces) ist standardmäßig aktiv; DO_NOT_TRACK=1 schaltet sie ab. An entfernte Inferenz-Engines gesendete Daten unterliegen den Bedingungen des jeweiligen Anbieters. Apache 2.0 erlaubt kommerzielle Nutzung; die Lizenzen der Basismodelle gelten weiterhin.
- Kosten im großen Maßstab
- Die Bibliothek ist kostenlos; die Rechnung ist GPU-Zeit. Oumi veröffentlicht keine VRAM-Tabelle, also schätze Jobs mit einem Testlauf ab; die gehostete Plattform des Unternehmens ist der kostenpflichtige Weg, wenn du verwaltete GPUs willst.
- Grenzen
- Beta-Status; Python 3.10 bis 3.14 und PyTorch unter 2.13; sehr große Modelle brauchen Multi-Node-Setups mit FSDP oder DeepSpeed, die du selbst konfigurierst.
Was gut ist
- Datensynthese, Training, Bewerter, Evaluierung und Bereitstellung in einem Rezeptformat
- SFT mit Werkzeugaufrufen, ausführbare Umgebungen und verl-GRPO seit v0.9
- Startet auf AWS, Azure, GCP, Lambda, Modal und Slurm
- Apache 2.0, mit einem oumi-mcp-Server für Claude und Cursor
Was nicht
- Als Beta gekennzeichnet; fortgeschrittene APIs können sich ändern
- Anonyme Telemetrie standardmäßig aktiv
- Weniger Sterne und Community-Rezepte als Axolotl oder TRL
- Die Breite bringt viele Abhängigkeiten, festgelegt auf PyTorch unter 2.13
Am besten für
ML-Ingenieure, die ein offenes Werkzeug für synthetische Daten, Fine-Tuning, Bewerter und Bereitstellung wollen, besonders für werkzeugnutzende Modelle.
Alternativen zu Oumi
Oumi: häufige Fragen
- Lohnt sich Oumi?
- Oumi deckt den ganzen Zyklus rund um ein Fine-Tuning ab, von synthetischen Daten bis zum bereitgestellten Endpoint, und kann seit v0.9 werkzeugnutzende Agenten durchgängig trainieren; sie ist weiterhin als Beta gekennzeichnet. Wir bewerten es mit 4.0 von 5.
- Was kostet Oumi?
- Kostenlos und Open Source unter der Apache-2.0-Lizenz. Oumis gehostete Plattform, die dieselben Rezepte ausführt, ist ein separates kostenpflichtiges Produkt.
- Welche Nachteile hat Oumi?
- Als Beta gekennzeichnet; fortgeschrittene APIs können sich ändern; Anonyme Telemetrie standardmäßig aktiv; Weniger Sterne und Community-Rezepte als Axolotl oder TRL; Die Breite bringt viele Abhängigkeiten, festgelegt auf PyTorch unter 2.13.
- Für wen eignet sich Oumi?
- ML-Ingenieure, die ein offenes Werkzeug für synthetische Daten, Fine-Tuning, Bewerter und Bereitstellung wollen, besonders für werkzeugnutzende Modelle.
- Was kostet Oumi für ein Team oder im Produktivbetrieb?
- Die Bibliothek ist kostenlos; die Rechnung ist GPU-Zeit. Oumi veröffentlicht keine VRAM-Tabelle, also schätze Jobs mit einem Testlauf ab; die gehostete Plattform des Unternehmens ist der kostenpflichtige Weg, wenn du verwaltete GPUs willst.
- Ist Oumi sicher für Firmendaten?
- Läuft auf deiner Hardware oder in deinem Cloud-Konto. Anonyme Telemetrie (Befehle, Hardware, Versionen, Stacktraces) ist standardmäßig aktiv; DO_NOT_TRACK=1 schaltet sie ab. An entfernte Inferenz-Engines gesendete Daten unterliegen den Bedingungen des jeweiligen Anbieters. Apache 2.0 erlaubt kommerzielle Nutzung; die Lizenzen der Basismodelle gelten weiterhin.
- Was sind die besten Alternativen zu Oumi?
- Die nächsten Alternativen, die wir getestet haben, sind Axolotl, TRL, Unsloth und LlamaFactory.
Antworten geprüft am 16. Nov. 2026.