Was ist MiniCPM-V 4.7 (35B-A3B and 1B)?
MiniCPM-V 4.7 ist die Ausgabe vom Oktober 2026 von OpenBMBs Vision-Language-Reihe, in zwei Größen. Das 35B-A3B ist das erste Mixture-of-Experts-Modell der Reihe: 35,2 Milliarden Parameter, etwa 3 Milliarden aktiv pro Token, 256 Experten, von denen 8 angesteuert werden, aufgebaut auf einem Sprach-Backbone aus Qwen3.5 und Qwen3.6 mit einem SigLIP2-Vision-Encoder. Das 1B (1.3B in OpenBMBs eigener Tabelle, 1.55B mit Vision-Teil) zielt auf Smartphones. Beide lesen Einzelbilder, mehrere Bilder und Video und schreiben Text. Keines ist mit dem reinen Textmodell MiniCPM 5 2B verwandt.
Der Vision-Encoder komprimiert Bild-Tokens früh, und Entwickler wählen pro Anfrage 4-fache oder 16-fache Kompression und tauschen so Details gegen Geschwindigkeit. Laut OpenBMB lässt eine neue Laufzeittechnik, Lookahead Expert Scheduling, das 35B auf einem iPhone 17 Pro Max mit mehr als 13 Tokens pro Sekunde in 3 GB Speicher laufen: Sie sagt voraus, welche Experten die nächste Schicht braucht, und lädt sie vorab aus dem Speicher. Dieser Wert wurde nicht unabhängig gemessen.
Beide Größen stehen unter Apache 2.0, mit quantisierten Builds seit dem Start. In den letzten 30 Tagen kam das 35B auf etwa 325.000 Downloads bei Hugging Face plus 275.000 für sein GGUF, das GGUF des 1B auf etwa 107.000.
Lohnt sich MiniCPM-V 4.7 (35B-A3B and 1B)?
Die Stärke des 35B-A3B sind Dokumente. In OpenBMBs Tabelle erreicht es bei 4-facher Kompression 94,24 bei OmniDocBench v1.6 gegenüber 80,17 für Qwen3.6-35B-A3B und 79,17 für Gemma 4 31B, 91,20 bei OCRBench gegenüber 86,00 und 75,60 beim Diagramm-Reasoning von CharXiv gegenüber 70,70 für Qwen3.8-27B. Auch bei allgemeinen Tests wie MMBench (91,72 zu 86,76) und MMMU (80,22 zu 77,44) liegt es vorn. Das ist eine Mischung aus Durchläufen von OpenBMB und öffentlichen Berichten, und unabhängige Leaderboard-Ergebnisse haben wir bisher nicht gefunden.
Es verliert dort, wo Agents es am meisten brauchen. Qwen3.8-27B erreicht 93,31 bei ScreenSpot, einem Test zum Auffinden von Bedienelementen auf dem Bildschirm, gegenüber 86,99 für MiniCPM, und Gemma 4 31B führt beim Befolgen von Anweisungen in MM-IFEval mit 69,59 zu 65,41. Qwen3.6-35B-A3B liegt bei SimpleVQA knapp vorn. Ein Praxistest von MindStudio auf einer H100 ergab saubere Transkription englischer und indonesischer Handschrift, aber eine übersprungene Zeile auf Urdu und Schriften, die sich beim Übersetzen in 80 Sprachen vermischten.
Das 1B ist die ungewöhnlichere Veröffentlichung. Bei 4-facher Kompression erreicht es 83,17 bei MMBench und 86,10 bei OCRBench gegenüber 68,00 und 79,10 für Qwen3.5 0.8B sowie 68,05 bei ScreenSpot gegenüber 20,26 für Gemma 4 E2B, ein Modell fast viermal so groß. Gemma gewinnt weiterhin mathelastige visuelle Tests wie MathVision (52,40 zu 31,64), und bei OmniDocBench fällt das 1B leicht hinter seinen Vorgänger MiniCPM-V 4.6 zurück. Seine Q4_K_M-Sprachdatei hat nur 0,67 GB, doch die Vision-Datei bringt 1,11 GB dazu.
Die iPhone-Angabe ist der Grund für die Aufregung und der Teil, den man prüfen sollte. Dreizehn Tokens pro Sekunde in 3 GB hängen an OpenBMBs Fork von llama.cpp, der Experten aus dem Flash-Speicher streamt, und niemand hat eine Reproduktion veröffentlicht. Auf gewöhnlicher Hardware ist das 35B ein Q4_K_M-GGUF mit 21,17 GB plus eine Vision-Datei mit 1,12 GB, was auf eine GPU mit 24 GB nur mit bescheidenem Kontext passt.
Wo es sich lohnt
Ein Data Engineer bei einem Versicherer, der gescannte Schadensformulare digitalisiert
PDFs und Fotos von Formularen vor Ort in strukturiertes Markdown umwandeln
Das 35B mit vLLM oder das Q4_K_M-GGUF mit 21,17 GB auf einer GPU mit 24 GB bereitstellen, mit 4-facher Kompression für dichte Seiten. OpenBMBs Vorsprung bei OmniDocBench und OCRBench passt zu dieser Aufgabe; prüfe Handschrift und nicht-lateinische Schriften stichprobenartig, denn dort fand der Test von MindStudio Lücken.
Eine iOS-Entwicklerin bei einer Reise-App
Schilder, Speisekarten und Tickets offline auf dem Smartphone lesen
Das 1B bei Q4_K_M (0,67 GB plus eine Vision-Datei mit 1,11 GB) über OpenBMBs iOS-App-Code einbinden. In OpenBMBs Tabelle erreicht es 86,10 bei OCRBench; die 16-fache Einstellung spart Bild-Tokens, wenn Geschwindigkeit wichtiger ist als Kleingedrucktes.
Eine Teamleiterin für Finanzanalyse bei einem Aktienresearch-Haus
Diagramme und Tabellen in Broker-Berichten zusammenfassen, ohne sie an eine Cloud-API zu schicken
Das 35B lokal unter Apache 2.0 betreiben, das kommerzielle Nutzung ohne Umsatzgrenze erlaubt. Seine 75,60 beim Reasoning in CharXiv führen OpenBMBs Vergleichstabelle an, doch extrahierte Zahlen solltest du prüfen, denn MindStudio sah Rundungsfehler in ausgerechneten Antworten.
Bevor du dich festlegst
- Einrichtung
- pip install transformers 5.18 oder neuer und mit AutoModelForImageTextToText laden, oder `transformers serve` für einen OpenAI-kompatiblen Endpunkt; GGUF-Builds laufen in llama.cpp und Ollama mit einer mmproj-Vision-Datei. downsample_mode muss sowohl an das Chat-Template als auch an generate übergeben werden.
- Integrationen
- SGLang, vLLM, llama.cpp, Ollama und OpenVINO für Inferenz; SWIFT und LLaMA-Factory für Fine-Tuning; DSpark-Draft-Modelle für Speculative Decoding; Unterstützung ab Tag 0 für Chips von Rockchip, Houmo, Intel, AMD und Arm. Tool-Aufrufe funktionieren über die Chat-API.
- Daten und Datenschutz
- Selbst gehostet, Bilder und Dokumente bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung, Änderung und Weitergabe ohne Umsatzgrenze.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos. Das 35B braucht bei voller Präzision etwa 68 GB VRAM (eine H100 im Test von MindStudio), 36,90 GB bei Q8_0 oder 21,17 GB bei Q4_K_M; das 1B hat 0,67 GB bei Q4_K_M plus 1,11 GB für Vision. Ein gehosteter Preis pro Token ist nicht veröffentlicht.
- Grenzen
- Bei den Standard-GGUF-Dateien ist Thinking abgeschaltet; separate Thinking-Builds liegen in einem Unterordner und vervielfachen die Ausgabelänge. Video wird standardmäßig mit 128 Frames abgetastet. Der iPhone-Wert von 3 GB setzt OpenBMBs eigene Runtime voraus, nicht das normale llama.cpp.
Was gut ist
- 94,24 bei OmniDocBench v1.6, 14 Punkte über Qwen3.6-35B-A3B (eigene Angabe)
- Das 1B läuft auf Smartphones und schlägt Qwen3.5 0.8B auf ganzer Linie
- Apache 2.0 für beide Größen
- Wählbare 4-fache oder 16-fache Kompression visueller Tokens
Was nicht
- Liegt beim GUI-Grounding in ScreenSpot hinter Qwen3.8-27B
- iPhone-Geschwindigkeit unbestätigt, braucht OpenBMBs Fork von llama.cpp
- Benchmarks nur als Bilder, eigene und öffentliche Durchläufe gemischt
- In einem unabhängigen Test schwach bei selteneren Sprachen
Am besten für
Teams, die Text und Tabellen aus gescannten Dokumenten und Diagrammen auf eigener Hardware extrahieren, und Mobile-Entwickler, die ein Vision-Modell unter 2 GB brauchen.
Alternativen zu MiniCPM-V 4.7 (35B-A3B and 1B)
MiniCPM-V 4.7 (35B-A3B and 1B): häufige Fragen
- Lohnt sich MiniCPM-V 4.7 (35B-A3B and 1B)?
- Nach OpenBMBs eigenen Zahlen ist dies in der Größe 35B das offene Modell, an dem sich andere beim Lesen von Dokumenten und Diagrammen messen müssen, und das 1B ist eines der seltenen Vision-Modelle in Smartphone-Größe, die sich auszuliefern lohnen. Wir bewerten es mit 4.0 von 5.
- Was kostet MiniCPM-V 4.7 (35B-A3B and 1B)?
- Kostenlose Gewichte unter Apache 2.0 für beide Größen. Kein gehosteter Preis vom Hersteller veröffentlicht; du zahlst für deine eigene Hardware.
- Welche Nachteile hat MiniCPM-V 4.7 (35B-A3B and 1B)?
- Liegt beim GUI-Grounding in ScreenSpot hinter Qwen3.8-27B; iPhone-Geschwindigkeit unbestätigt, braucht OpenBMBs Fork von llama.cpp; Benchmarks nur als Bilder, eigene und öffentliche Durchläufe gemischt; In einem unabhängigen Test schwach bei selteneren Sprachen.
- Für wen eignet sich MiniCPM-V 4.7 (35B-A3B and 1B)?
- Teams, die Text und Tabellen aus gescannten Dokumenten und Diagrammen auf eigener Hardware extrahieren, und Mobile-Entwickler, die ein Vision-Modell unter 2 GB brauchen.
- Was kostet MiniCPM-V 4.7 (35B-A3B and 1B) für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos. Das 35B braucht bei voller Präzision etwa 68 GB VRAM (eine H100 im Test von MindStudio), 36,90 GB bei Q8_0 oder 21,17 GB bei Q4_K_M; das 1B hat 0,67 GB bei Q4_K_M plus 1,11 GB für Vision. Ein gehosteter Preis pro Token ist nicht veröffentlicht.
- Ist MiniCPM-V 4.7 (35B-A3B and 1B) sicher für Firmendaten?
- Selbst gehostet, Bilder und Dokumente bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung, Änderung und Weitergabe ohne Umsatzgrenze.
- Was sind die besten Alternativen zu MiniCPM-V 4.7 (35B-A3B and 1B)?
- Die nächsten Alternativen, die wir getestet haben, sind Qwen3.8-27B, Gemma 4, PaddleOCR-VL-1.6, Phi-4-multimodal und MiniCPM5-2B.
Antworten geprüft am 28. Okt. 2026.