Unsloth macht aus einer einzelnen 24-GB-Karte einen ernstzunehmenden Fine-Tuning-Rechner und ist ab dem zweiten Server nicht mehr die naheliegende Wahl. Wir bewerten es mit 4.6 von 5.

Kostenlos. Kernbibliothek unter Apache 2.0, Studio-Oberfläche unter AGPL-3.0. Für Training über mehrere GPUs und Knoten gibt es bezahlte Pro- und Enterprise-Stufen; die Preise sind nicht veröffentlicht.

Welche Nachteile hat Unsloth?

Geschwindigkeits- und Speicherangaben stammen vom Anbieter selbst; Studio steht unter AGPL-3.0 und legt serverseitige Tools standardmäßig offen; Kostenloses Multi-GPU braucht manuelle Einrichtung von Accelerate oder DeepSpeed; Preise für Pro und Enterprise nicht veröffentlicht.

Was kostet Unsloth für ein Team oder im Produktivbetrieb?

Kostenlose Software; die Kosten sind GPU-Zeit. Die Anforderungsseite nennt 41 GB VRAM für QLoRA auf einem 70B-Modell und 164 GB für 16-Bit-LoRA, 70B-Arbeit bedeutet also eine 48-GB-Karte oder einen Multi-GPU-Knoten. Pro- und Enterprise-Stufen bringen Beschleunigung über mehrere GPUs und Knoten zu unveröffentlichten Preisen.

Ist Unsloth sicher für Firmendaten?

Trainingsdaten und Modelle bleiben auf deinem Rechner; Core lädt zum Zählen der Nutzung eine nach der Umgebung benannte Datei von Hugging Face, sofern UNSLOTH_DISABLE_STATISTICS nicht gesetzt ist. Ist Studio über localhost hinaus erreichbar, stellt es standardmäßig serverseitige Tools hinter einem Admin-Passwort bereit. Keine veröffentlichten Sicherheitshinweise.

Was sind die besten Alternativen zu Unsloth?

Die nächsten Alternativen, die wir getestet haben, sind Axolotl, TRL und LlamaFactory.

Unsloth GitHub-Repo im Test (2026)

Was ist Unsloth?

Unsloth begann als Python-Bibliothek, die LLM-Fine-Tuning schneller und sparsamer im GPU-Speicher macht. Das README verspricht etwa 2x schnelleres Training mit 70% weniger VRAM und ohne Genauigkeitsverlust; die eigene Notebook-Tabelle zeigt je nach Modell Gewinne von 1,5x bis 2x und 20% bis 80% weniger Speicher.

Inzwischen gibt es Unsloth in drei Formen: Unsloth Core (die Python-Bibliothek), Unsloth Studio (eine Browser-Oberfläche) und Unsloth Desktop (eine native App), und es führt Modelle auch aus, statt sie nur zu trainieren. Unterstützt werden LoRA, QLoRA, vollständiges Fine-Tuning, Pretraining, DPO, GRPO und FP8, der Export nach GGUF und in andere Formate, und der Befehl Unsloth Start verbindet Claude Code, Codex oder OpenCode mit einem lokalen Modell.

Der Kern steht unter Apache 2.0, die Studio-Oberfläche unter AGPL-3.0. Releases tragen weiterhin das Label beta (v0.1.909-beta am 19. Oktober 2026). Das Unternehmen führt außerdem bezahlte Pro- und Enterprise-Stufen mit Beschleunigung über mehrere GPUs und Knoten, ohne öffentliche Preise.

Lohnt sich Unsloth?

Der Wert von Unsloth steckt in seiner Speichertabelle. Laut Anforderungsseite braucht QLoRA-Fine-Tuning eines 8B-Modells rund 6 GB VRAM, ein 14B-Modell 8,5 GB und ein 32B-Modell 26 GB, gegenüber 22 GB, 33 GB und 76 GB für 16-Bit-LoRA. Das sind die eigenen Mindestwerte des Projekts, keine unabhängigen Benchmarks, aber sie erklären, warum eine kostenlose Colab-T4 oder eine einzelne RTX-Karte für das meiste Adapter-Training reicht. Die Hardware braucht CUDA Capability 7.0 oder neuer, das umfasst Karten ab V100 und T4.

Das Projekt ist zu einer Anwendung gewachsen. Studio und Desktop bringen Chat, das Erstellen von Datensätzen aus PDFs und Tabellen, eine OpenAI-kompatible API und Fernzugriff. Das ist nützlich, verändert aber das Sicherheitsbild. Das README warnt, dass serverseitige Tools standardmäßig aktiv sind; wer Studio mit --secure oder einem nicht lokalen Host im Netz freigibt, öffnet einen öffentlichen Cloudflare-Link, der nur durch ein Admin-Passwort geschützt ist. Die AGPL-Lizenz von Studio spielt zudem eine Rolle für alle, die diese Oberfläche in ein gehostetes Produkt einbauen wollen.

Bei mehreren GPUs wird die kostenlose Version dünn. Laut Doku läuft Multi-GPU über Accelerate oder DeepSpeed mit manueller Einrichtung, und die Preisseite reserviert bessere Multi-GPU-Unterstützung (bis zu acht GPUs) für Pro und Training über mehrere Knoten für Enterprise, beides ohne veröffentlichten Preis. Für Cluster-Läufe bleiben Axolotl und reines TRL die üblichere Wahl.

Eine Voreinstellung verdient Erwähnung. Beim Laden holt Unsloth Core ein kleines README aus einem Hugging-Face-Repo, das nach deiner Umgebung benannt ist (Colab, AWS, Kaggle und so weiter), damit das Team die Nutzung zählen kann; abschalten lässt sich das mit UNSLOTH_DISABLE_STATISTICS. Verglichen mit den meisten Telemetrien ist das harmlos, aber ein Trainingsrechner ohne Netzzugang wartet sonst bis zu 120 Sekunden darauf.

Wo es sich lohnt

Ein ML-Engineer mit einer einzelnen RTX-Karte mit 24 GB
Ein offenes 14B-Modell auf 20.000 internen Support-Transkripten feintunen
QLoRA aus einem Core-Skript oder aus Studio laufen lassen, laut Doku mit rund 8,5 GB VRAM für 14B, und den Adapter dann für llama.cpp oder Ollama nach GGUF exportieren. Die Kosten sind Strom und die Zeit des Engineers statt gemieteter GPUs.
Ein Data-Science-Lead bei einem Versicherer mit 50 Mitarbeitern
Testen, ob ein kleines feingetuntes Modell bezahlte API-Aufrufe bei der Schadenstriage ersetzen kann
Den Prototyp in einem kostenlosen Colab-Notebook bauen und dasselbe Skript dann für den vollen Datensatz auf eine einzelne A100 in der Cloud verlegen. Hält das Ergebnis, läuft die Inferenz auf eigener Hardware statt mit API-Abrechnung pro Token; das Risiko ist die Pflege des Modells, wenn sich Basismodelle ändern.
Eine Forscherin, die Reasoning-Verhalten trainiert
GRPO-Reinforcement-Learning auf einem 20B-Modell ohne Cluster ausführen
Mit dem GRPO-Notebook für gpt-oss 20B beginnen, das 2x Geschwindigkeit und 80% weniger Speicher als die Baseline verspricht. Für Experimente reicht eine einzelne große GPU; Skalierung über acht GPUs hinaus führt zu bezahlten Stufen oder einem anderen Framework.

Bevor du dich festlegst

Einrichtung: Desktop-Installer für Windows, macOS und Linux, ein curl- oder PowerShell-Skript für Studio, Docker (unsloth/unsloth) oder uv pip install unsloth für Core unter Python 3.11 bis 3.13. NVIDIA braucht CUDA Capability 7.0 oder neuer; AMD, Intel und Mac werden mit Einschränkungen unterstützt.
Integrationen: Hugging Face Transformers und TRL darunter, llama.cpp für GGUF, eine OpenAI-kompatible API aus Studio und Unsloth Start für Claude Code, Codex, OpenCode und andere Agenten. Kostenlose Notebooks laufen auf Colab und Kaggle.
Daten und Datenschutz: Trainingsdaten und Modelle bleiben auf deinem Rechner; Core lädt zum Zählen der Nutzung eine nach der Umgebung benannte Datei von Hugging Face, sofern UNSLOTH_DISABLE_STATISTICS nicht gesetzt ist. Ist Studio über localhost hinaus erreichbar, stellt es standardmäßig serverseitige Tools hinter einem Admin-Passwort bereit. Keine veröffentlichten Sicherheitshinweise.
Kosten im großen Maßstab: Kostenlose Software; die Kosten sind GPU-Zeit. Die Anforderungsseite nennt 41 GB VRAM für QLoRA auf einem 70B-Modell und 164 GB für 16-Bit-LoRA, 70B-Arbeit bedeutet also eine 48-GB-Karte oder einen Multi-GPU-Knoten. Pro- und Enterprise-Stufen bringen Beschleunigung über mehrere GPUs und Knoten zu unveröffentlichten Preisen.
Grenzen: Kostenloses Multi-GPU-Training braucht manuelle Einrichtung, Releases tragen weiterhin das Label beta, die Mac-Unterstützung unterscheidet sich zwischen Studio und Core, und unter Windows muss torchao zuerst installiert werden, sonst wird stillschweigend eine alte Unsloth-Version aufgelöst.

Was gut ist

QLoRA auf einem 8B-Modell mit rund 6 GB VRAM, laut Doku
Kostenlose Colab- und Kaggle-Notebooks für Dutzende Modelle
LoRA, QLoRA, vollständiges Fine-Tuning, DPO, GRPO und FP8
Exportiert nach GGUF und führt Modelle auch lokal aus

Was nicht

Geschwindigkeits- und Speicherangaben stammen vom Anbieter selbst
Studio steht unter AGPL-3.0 und legt serverseitige Tools standardmäßig offen
Kostenloses Multi-GPU braucht manuelle Einrichtung von Accelerate oder DeepSpeed
Preise für Pro und Enterprise nicht veröffentlicht

Am besten für

Einzelpersonen und kleine Teams, die offene Modelle auf begrenzter GPU-Hardware feintunen.

Alternativen zu Unsloth

Axolotl

Training & fine-tuningPython13k stars

4.3/5

Config-driven fine-tuning tool for open LLMs, from single GPUs to multi-node clusters.

TRL

Training & fine-tuningPython20k stars

4.5/5

Hugging Face's library for post-training LLMs: supervised fine-tuning, DPO, GRPO and other reinforcement learning methods.

LlamaFactory

Training & fine-tuningPython76k stars

4.3/5

Fine-tuning framework for 100+ LLMs and vision-language models, with a web UI as well as a command line.

Unsloth: häufige Fragen

Lohnt sich Unsloth?: Unsloth macht aus einer einzelnen 24-GB-Karte einen ernstzunehmenden Fine-Tuning-Rechner und ist ab dem zweiten Server nicht mehr die naheliegende Wahl. Wir bewerten es mit 4.6 von 5.
Was kostet Unsloth?: Kostenlos. Kernbibliothek unter Apache 2.0, Studio-Oberfläche unter AGPL-3.0. Für Training über mehrere GPUs und Knoten gibt es bezahlte Pro- und Enterprise-Stufen; die Preise sind nicht veröffentlicht.
Welche Nachteile hat Unsloth?: Geschwindigkeits- und Speicherangaben stammen vom Anbieter selbst; Studio steht unter AGPL-3.0 und legt serverseitige Tools standardmäßig offen; Kostenloses Multi-GPU braucht manuelle Einrichtung von Accelerate oder DeepSpeed; Preise für Pro und Enterprise nicht veröffentlicht.
Für wen eignet sich Unsloth?: Einzelpersonen und kleine Teams, die offene Modelle auf begrenzter GPU-Hardware feintunen.
Was kostet Unsloth für ein Team oder im Produktivbetrieb?: Kostenlose Software; die Kosten sind GPU-Zeit. Die Anforderungsseite nennt 41 GB VRAM für QLoRA auf einem 70B-Modell und 164 GB für 16-Bit-LoRA, 70B-Arbeit bedeutet also eine 48-GB-Karte oder einen Multi-GPU-Knoten. Pro- und Enterprise-Stufen bringen Beschleunigung über mehrere GPUs und Knoten zu unveröffentlichten Preisen.
Ist Unsloth sicher für Firmendaten?: Trainingsdaten und Modelle bleiben auf deinem Rechner; Core lädt zum Zählen der Nutzung eine nach der Umgebung benannte Datei von Hugging Face, sofern UNSLOTH_DISABLE_STATISTICS nicht gesetzt ist. Ist Studio über localhost hinaus erreichbar, stellt es standardmäßig serverseitige Tools hinter einem Admin-Passwort bereit. Keine veröffentlichten Sicherheitshinweise.
Was sind die besten Alternativen zu Unsloth?: Die nächsten Alternativen, die wir getestet haben, sind Axolotl, TRL und LlamaFactory.

Antworten geprüft am 26. Okt. 2026.