Was ist MiniCPM5-2B?
MiniCPM5-2B ist ein kleines Sprachmodell der chinesischen Open-Source-Gruppe OpenBMB. Es erschien am 7. September 2026, folgt auf MiniCPM5-1B und hat 2,52 Milliarden Parameter in einem gewöhnlichen Llama-Aufbau, sodass gängige Werkzeuge wie llama.cpp, Ollama, LM Studio, MLX und vLLM es ohne eigenen Code laden. Es liest und schreibt Text, mit einem Kontext von 131.072 Tokens.
OpenBMB hat es für lokale Assistenten, Coding-Agents und Tool-Nutzung trainiert. Das Post-Training nutzte 400 Milliarden Tokens an schrittweisen Reasoning-Beispielen, gefolgt von Reinforcement Learning und Destillation. Neben dem fertigen Modell veröffentlichte OpenBMB die Checkpoints aus Basis-, Mid- und Fine-Tuning-Phase, Builds in GGUF, MLX und 4-Bit-GPTQ, ein Draft-Modell für schnellere Generierung und einen Großteil der Trainingsdaten, darunter 500.000 Agent-Beispiele.
Alles steht unter Apache 2.0.
Lohnt sich MiniCPM5-2B?
MiniCPM5-2B ist das kleine Modell, an dem sich andere bei Tool-Aufrufen und kurzen Code-Fixes messen müssen, zumindest nach den Zahlen seiner Entwickler. OpenBMBs Tabelle zeigt einen Durchschnitt von 53,9 über 34 Benchmarks gegenüber 51,1 für Qwen3.5-4B, ein Modell fast doppelt so groß, mit den größten Vorsprüngen bei SWE-bench Verified (46,4 zu 33,6), beim Function-Calling-Test BFCL v4 (66,6 zu 56,8) und beim Langkontext-Test NoLiMa (68,1 zu 43,5). Die meisten dieser Tests hat OpenBMB selbst durchgeführt; nur die Werte für GPQA Diamond und Terminal-Bench stammen von Artificial Analysis.
Die Schwächen liegen bei Wissen und Ausdauer. Bei MMLU-Pro (70,8 zu 78,0) und GPQA Diamond (70,2 zu 77,1) liegt es hinter dem 4B-Modell. Bei Terminal-Bench 2.1, das lange, mehrstufige Arbeit im Terminal misst, erreicht es 8,6 gegenüber 25,8, bei SWE-bench Pro 14,4 gegenüber 28,2. Das passt zu einem Modell, das im Post-Training 400 Milliarden Tokens an Reasoning-Spuren und 500.000 Agent-Beispiele gesehen hat: gut beim nächsten Tool-Aufruf, schwach darin, einen Plan über Dutzende davon zu halten.
Für ein Modell, das mit lokalem Betrieb wirbt, ist die Model Card dünn bei den Zahlen, die über einen Einsatz entscheiden. Sie nennt für kein Gerät Werte zu Speicher, Latenz oder Tokens pro Sekunde und keine gemessene Beschleunigung durch das DSpark-Draft-Modell. Die Dateigrößen schließen einen Teil der Lücke: Das offizielle Q4_K_M-GGUF hat 1,56 GB und Q8_0 2,68 GB, was es von der Größe her in Reichweite von Smartphones und bescheidenen Laptops bringt, auch wenn bei OpenBMB niemand einen gemessenen Speicherbedarf veröffentlicht hat.
Die Offenheit unterscheidet es von den kleinen Größen von Gemma 4, die in derselben Tabelle bei 24,6 und 31,2 liegen. Checkpoints aus Basis-, Mid- und Fine-Tuning-Phase sind unter Apache 2.0 zusammen mit einem Großteil der Daten veröffentlicht, sodass ein Team, das es auf sein eigenes Tool-Schema abstimmt, von einem dokumentierten Punkt aus startet. Die Model Card warnt außerdem, dass das Standard-min_p von 0.05 in llama.cpp es zu Wiederholungen bringen kann, ein Detail, über das jeder stolpert, der es mit Standardeinstellungen lädt.
Wo es sich lohnt
Eine Mobile-Entwicklerin, die einen Offline-Assistenten in einer Android- oder iOS-App ausliefert
Getippte oder gesprochene Anfragen in Aufrufe der App-eigenen Funktionen übersetzen, ohne Umweg über einen Server
Das Q4_K_M-GGUF mit 1,56 GB oder der LiteRT-LM-Build läuft auf dem Gerät, es gibt also keine Kosten pro Aufruf, und die Nutzerdaten bleiben auf dem Smartphone. Function Calling ist seine größte Stärke (66,6 bei BFCL v4); halte Tool-Ketten kurz, denn bei langen, mehrstufigen Läufen versagt es.
Ein Platform Engineer, der einen internen Coding-Helfer auf einer Mittelklasse-GPU betreibt
Kleine, klar umrissene Bugs in der CI sichten und flicken, bevor ein Mensch draufschaut
vLLM 0.21 oder SGLang mit dem Tool-Parser minicpm5 stellt die BF16-Gewichte mit 5 GB bereit. 46,4 bei SWE-bench Verified ist für die Größe hoch, aber 14,4 bei SWE-bench Pro spricht für Fixes in einzelnen Dateien, während schwierigere Tickets an ein größeres Modell gehen.
Eine akademische ML-Gruppe, die Post-Training kleiner Modelle erforscht
Ein aktuelles Rezept aus SFT, RL und Destillation mit kleinem Budget nachbauen oder in Ablationen zerlegen
Die veröffentlichten Checkpoints jeder Phase sowie die UltraData-Datensätze für SFT, Agents und RL erlauben es, von jedem Punkt aus feinzutunen und zu vergleichen, unter Apache 2.0 ohne Nutzungsbeschränkungen. Nur wenige Labore veröffentlichen bei dieser Größe so viel.
Ein Operations Manager bei einem Außendienstunternehmen, dessen Techniker oft schlechten Empfang haben
Technikern einen Laptop-Assistenten geben, der Arbeitsberichte aus groben Notizen ausfüllt
Der lokale Betrieb spart API-Kosten und die Datenschutzprüfung, die das Senden von Kundennotizen an ein Cloud-Modell auslösen würde. Der Preis ist schwächeres Allgemeinwissen als bei 4B-Modellen, also muss alles jenseits des Formularausfüllens geprüft werden.
Bevor du dich festlegst
- Einrichtung
- Lädt als gewöhnliches Llama-Modell in Transformers 5.6+, vLLM 0.21+, SGLang 0.5.16+, llama.cpp, LM Studio, Ollama und MLX; OpenBMB empfiehlt Temperatur 1.0, top_p 0.95 und min_p 0.
- Integrationen
- SGLang ist das empfohlene Backend für Tool-Aufrufe (--tool-call-parser minicpm5); offizielle Builds in GGUF, 4-Bit-MLX, 4-Bit-GPTQ und LiteRT-LM, dazu ein DSpark-Draft-Modell für Speculative Decoding.
- Daten und Datenschutz
- Apache 2.0 für Code und Gewichte, ohne Umsatzgrenze oder Zusatz zur zulässigen Nutzung. Nur selbst gehostet, Prompts bleiben also auf deiner Hardware; kein Inference-Anbieter auf Hugging Face hostet es.
- Kosten im großen Maßstab
- Einen gehosteten Preis gibt es nicht, die Kosten sind also Hardware: etwa 5 GB BF16-Gewichte, 2,68 GB bei Q8_0 und 1,56 GB bei Q4_K_M, was eine einzelne Consumer-GPU oder ein Laptop samt Platz für Kontext fasst. OpenBMB veröffentlicht keine Durchsatzwerte, um eine Flotte zu dimensionieren.
- Grenzen
- Kontext von 131.072 Tokens. Werte von 8,6 bei Terminal-Bench 2.1 und 14,4 bei SWE-bench Pro zeigen lange Agent-Läufe als Schwachstelle, und das Standard-min_p von 0.05 in llama.cpp kann Wiederholungen verursachen.
Was gut ist
- Apache 2.0, mit Basis-, Mid-Training- und SFT-Checkpoints samt Daten
- 66,6 bei BFCL v4 und 46,4 bei SWE-bench Verified (vom Hersteller gemessen)
- 1,56 GB bei Q4_K_M; läuft in jeder gängigen lokalen Runtime
- Kontext von 131.000 Tokens
Was nicht
- Liegt bei MMLU-Pro und GPQA Diamond etwa 7 Punkte hinter Qwen3.5-4B
- 8,6 bei Terminal-Bench 2.1: schwach bei langen Agent-Läufen
- Keine veröffentlichten Werte zu Speicher, Latenz oder Durchsatz
- Wiederholt sich mit dem Standard-Sampling von llama.cpp
Am besten für
Entwickler, die Helfer für Tool-Aufrufe oder Programmierung auf Smartphones, Laptops und Edge-Hardware bringen, und Forschende, die vollständig dokumentiertes Training kleiner Modelle wollen.
Alternativen zu MiniCPM5-2B
MiniCPM5-2B: häufige Fragen
- Lohnt sich MiniCPM5-2B?
- Ein 2B-Modell, das Tools aufruft und Code flickt wie ein 4B-Modell und spürbar weniger weiß als eines. Wir bewerten es mit 4.0 von 5.
- Was kostet MiniCPM5-2B?
- Kostenlose Gewichte und Trainingsdaten unter Apache 2.0.
- Welche Nachteile hat MiniCPM5-2B?
- Liegt bei MMLU-Pro und GPQA Diamond etwa 7 Punkte hinter Qwen3.5-4B; 8,6 bei Terminal-Bench 2.1: schwach bei langen Agent-Läufen; Keine veröffentlichten Werte zu Speicher, Latenz oder Durchsatz; Wiederholt sich mit dem Standard-Sampling von llama.cpp.
- Für wen eignet sich MiniCPM5-2B?
- Entwickler, die Helfer für Tool-Aufrufe oder Programmierung auf Smartphones, Laptops und Edge-Hardware bringen, und Forschende, die vollständig dokumentiertes Training kleiner Modelle wollen.
- Was kostet MiniCPM5-2B für ein Team oder im Produktivbetrieb?
- Einen gehosteten Preis gibt es nicht, die Kosten sind also Hardware: etwa 5 GB BF16-Gewichte, 2,68 GB bei Q8_0 und 1,56 GB bei Q4_K_M, was eine einzelne Consumer-GPU oder ein Laptop samt Platz für Kontext fasst. OpenBMB veröffentlicht keine Durchsatzwerte, um eine Flotte zu dimensionieren.
- Ist MiniCPM5-2B sicher für Firmendaten?
- Apache 2.0 für Code und Gewichte, ohne Umsatzgrenze oder Zusatz zur zulässigen Nutzung. Nur selbst gehostet, Prompts bleiben also auf deiner Hardware; kein Inference-Anbieter auf Hugging Face hostet es.
- Was sind die besten Alternativen zu MiniCPM5-2B?
- Die nächsten Alternativen, die wir getestet haben, sind SmolLM3-3B, Granite 4.2 und Gemma 4.
Antworten geprüft am 22. Okt. 2026.