Was ist Nanbeige4.2-3B?
Nanbeige4.2-3B ist ein kleines, auf Agenten ausgerichtetes Modell des Nanbeige LLM Lab bei BOSS Zhipin, der chinesischen Jobplattform, veröffentlicht im Juli 2026. Es hat 3 Milliarden Parameter ohne Embeddings (4 Milliarden insgesamt) und nutzt einen Looped Transformer: Dieselben Schichten laufen pro Token mehr als einmal und erhöhen so die Kapazität, ohne Gewichte hinzuzufügen. Es liest und schreibt Text auf Englisch und Chinesisch, mit 256K Tokens Kontext.
Es wurde auf einer breiten Mischung realer und synthetischer Agentenumgebungen feinabgestimmt und dann per Reinforcement Learning auf Endergebnisse und Zwischenschritte trainiert. Thinking ist standardmäßig an und lässt sich abschalten. Das größere Nanbeige4.3-33B des Labors folgte im Oktober; das 3B bleibt sein aktuelles kleines Modell, und Nanbeige plant nach eigener Aussage eine Version 4.5 für später im Jahr 2026.
Die Gewichte stehen unter Apache 2.0. In den letzten 30 Tagen kamen sie auf etwa 121.000 Downloads bei Hugging Face.
Lohnt sich Nanbeige4.2-3B?
Nanbeige4.2-3B liefert Agentenwerte, die zu einem dreimal so großen Modell passen. In der Tabelle des Labors erreicht es 63,6% auf SWE-Bench Verified gegenüber 53,1% für Qwen3.5-9B und 44,2% für Gemma 4 12B, 44,1 auf Terminal-Bench 2.0 gegenüber 29,2 und 57,8 bei der Tool-Nutzung auf MCP-Atlas gegenüber 47,4. Auch das Schlussfolgern hält mit: 87,4 auf GPQA Diamond und 82,8 auf HMMT Februar 2026, beide vor Qwen3.5-9B.
Ein unabhängiges Ergebnis stützt das Gesamtbild. Der Smartphone-Test von Artificial Analysis im August 2026 sah es mit 63 gleichauf mit LFM2.5-2.6B an der Spitze der kleinen Modelle, mit 76% bei BFCL-Funktionsaufrufen und 96% auf MATH-500. Derselbe Test fand die Schwachstelle: nur 33% beim Maß für Nicht-Halluzination gegenüber 79% für LFM2.5-2.6B, es erfindet also leichter Fakten als die Konkurrenz.
Der größere Haken ist, wie lange es nachdenkt. Alle Werte von Nanbeige stammen aus dem Thinking-Modus, mit bis zu 131.072 empfohlenen neuen Tokens fürs Schlussfolgern. Als Artificial Analysis jede Antwort auf einem iPhone 17 Pro auf eine Minute begrenzte, fiel der Wert von 63 auf 18, weil bei etwa 14 Tokens pro Sekunde der Großteil des Nachdenkens nie fertig wurde. Ein Prompt mit 1.024 Tokens und eine Antwort mit 256 Tokens dauerten 21,4 Sekunden in 4,0 GB, gegenüber 8,0 Sekunden und 2,3 GB für LFM2.5-2.6B.
Es passt also zu Laptops und Desktop-GPUs, die Agenten im Hintergrund laufen lassen, wo Warten kein Problem ist. Außerdem braucht es trust_remote_code und Nanbeiges eigenen SGLang-Fork, was sicherheitsbewussten Teams zusätzliche Prüfarbeit macht. Gemma 4 12B liegt beim Befolgen von Anweisungen auf IF-Bench weiter vorn, 73,5 zu 54,6.
Wo es sich lohnt
Ein Solo-Entwickler, der mehrere Open-Source-Bibliotheken pflegt
Einen lokalen Agenten über Nacht kleine Bugfixes versuchen lassen, ohne für API-Tokens zu zahlen
Mit Nanbeiges SGLang-Fork bereitstellen und OpenHands mit eingeschaltetem preserve_thinking darauf richten. Die 63,6% auf SWE-Bench Verified sind eine eigene Angabe; jeden Patch vor dem Mergen prüfen.
Eine Büroleiterin in einer Steuerkanzlei mit 20 Mitarbeitenden und einem externen IT-Dienstleister
Einen privaten Assistenten für Dokumentensuche und routinemäßige Büroaufgaben betreiben
Auf einer Desktop-GPU über ein Agenten-Framework wie OpenClaw laufen lassen, wo Nanbeige 68,8 auf GDPval gegenüber 38,0 für Qwen3.5-9B meldet. Die 33% bei Nicht-Halluzination bedeuten, dass zitierte Zahlen zu prüfen sind.
Bevor du dich festlegst
- Einrichtung
- transformers 4.45.1 installieren und mit trust_remote_code laden oder Nanbeiges SGLang-Branch zum Bereitstellen klonen. enable_thinking und preserve_thinking im Chat-Template setzen; für Tool-Aufrufe wird das XML-Format empfohlen.
- Integrationen
- transformers, Nanbeiges SGLang-Fork, die Scaffolds OpenHands, SWE-agent und Terminus aus seinen Tests, OpenClaw für persönliche Abläufe und ein DSpark-Draft-Modell für spekulatives Dekodieren.
- Daten und Datenschutz
- Selbst gehostet, Prompts und Dateien bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung. Eigener Modellcode läuft mit trust_remote_code, also vor dem Einsatz prüfen.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos. Artificial Analysis maß 4,0 GB Speicher auf einem iPhone 17 Pro; lange Denkspuren bedeuten pro Aufgabe weit mehr Tokens als bei einem Modell ohne Reasoning.
- Grenzen
- Etwa 14 Tokens pro Sekunde auf einem Smartphone; empfohlene Denkbudgets reichen bis 131.072 Tokens; nur Englisch und Chinesisch.
Was gut ist
- 63,6% auf SWE-Bench Verified, über Qwen3.5-9B (eigene Angabe)
- Gleichauf an der Spitze im Smartphone-Test kleiner Modelle von Artificial Analysis
- 256K Kontext und Tool-Aufrufe bei 3B Parametern ohne Embeddings
- Apache 2.0
Was nicht
- Langes Nachdenken: 18 Punkte bei einer Minute Limit
- 33% Nicht-Halluzination im Test von Artificial Analysis
- Braucht trust_remote_code und einen SGLang-Fork
- Liegt bei IF-Bench-Anweisungstreue hinter Gemma 4 12B
Am besten für
Entwickler, die einen lokalen Coding- oder Büro-Agenten auf einem Laptop oder einer einzelnen GPU betreiben und lange Denkzeiten hinnehmen.
Alternativen zu Nanbeige4.2-3B
Nanbeige4.2-3B: häufige Fragen
- Lohnt sich Nanbeige4.2-3B?
- Nanbeige4.2-3B erledigt Agentenarbeit, für die man früher ein 9B-Modell brauchte, vorausgesetzt, du lässt ihm Zeit zum Nachdenken. Wir bewerten es mit 4.2 von 5.
- Was kostet Nanbeige4.2-3B?
- Kostenlose Gewichte unter Apache 2.0. Keine eigene gehostete API veröffentlicht.
- Welche Nachteile hat Nanbeige4.2-3B?
- Langes Nachdenken: 18 Punkte bei einer Minute Limit; 33% Nicht-Halluzination im Test von Artificial Analysis; Braucht trust_remote_code und einen SGLang-Fork; Liegt bei IF-Bench-Anweisungstreue hinter Gemma 4 12B.
- Für wen eignet sich Nanbeige4.2-3B?
- Entwickler, die einen lokalen Coding- oder Büro-Agenten auf einem Laptop oder einer einzelnen GPU betreiben und lange Denkzeiten hinnehmen.
- Was kostet Nanbeige4.2-3B für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos. Artificial Analysis maß 4,0 GB Speicher auf einem iPhone 17 Pro; lange Denkspuren bedeuten pro Aufgabe weit mehr Tokens als bei einem Modell ohne Reasoning.
- Ist Nanbeige4.2-3B sicher für Firmendaten?
- Selbst gehostet, Prompts und Dateien bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung. Eigener Modellcode läuft mit trust_remote_code, also vor dem Einsatz prüfen.
- Was sind die besten Alternativen zu Nanbeige4.2-3B?
- Die nächsten Alternativen, die wir getestet haben, sind Spark-X2.6-4B, LFM3, MiniCPM5-2B, Gemma 4 und Nanbeige4.3-33B.
Antworten geprüft am 7. Nov. 2026.