Was ist Granite 4.2?
Granite 4.2 ist IBMs offene Modellfamilie, veröffentlicht am 25. August 2026. Sie gibt es in drei dichten Größen, 3B, 8B und 30B, alle mit Text als Ein- und Ausgabe. Jedes Modell kann Schritt für Schritt denken, direkt antworten oder einen Modus mit geringem Aufwand nutzen, der kurz überlegt.
Alle Größen wurden mit Reinforcement Learning auf Mathematik, Naturwissenschaften, Coding und Tool Calling trainiert; 8B und 30B erhielten zusätzlich Agenten-Training für Softwareentwicklung, Terminal-Arbeit und Websuche. IBM ergänzte 1 Billion Tokens synthetischen Code. Die Modelle verarbeiten nativ 128K Tokens, und die Modellkarten von 8B und 30B nennen eine Erweiterung auf 512K. Sie unterstützen 12 Sprachen, darunter Englisch, Deutsch, Spanisch, Französisch, Japanisch, Arabisch, Koreanisch und Chinesisch.
Die Gewichte stehen unter Apache 2.0 auf Hugging Face, Ollama und LM Studio, und gehostet werden die Modelle unter anderem auf watsonx, OpenRouter, Replicate, DeepInfra und CoreWeave.
Lohnt sich Granite 4.2?
Granite 4.2 ist eine solide, unspektakuläre Wahl: drei dichte Modelle unter einer sauberen Lizenz, die für ihre Größe gut denken und im Mittelfeld landen, wenn jemand anderes die Wertung übernimmt. Artificial Analysis gibt dem 30B im Intelligence Index 13 Punkte, Platz 29 von 141 offenen Modellen zwischen 4B und 40B Parametern, bei einem Median von 8. Das ist ein Punkt mehr als OpenAIs gpt-oss-120b, ein Modell von vierfacher Größe.
Den Rest liefert IBMs Modellkarte, alles Selbstangaben auf einem Harness auf Basis von NVIDIAs NeMo Evaluator, ohne Konkurrenzmodelle in der Tabelle. Das 30B erreicht 57 bei SWE-bench Verified, 29,24 bei Terminal-Bench 2.1 und 89,17 bei AIME 2025; das 8B kommt bei SWE-bench Verified auf 47,67. Eine Zahl untergräbt die Agenten-Geschichte: Im Tool-Calling-Test BFCL v4 erreicht das 8B trotz des zusätzlichen Agenten-Trainings 52,39, gleichauf mit den 52,41 des 3B. Langer Kontext hält beim 30B (81,38 bei RULER mit 128K) und lässt beim 3B nach (55,30).
Die Modelle sind leicht zu betreiben. Die 4-Bit-Versionen von Ollama sind 2,2 GB, 5,3 GB und 18 GB groß, das 30B passt also auf eine Karte mit 24 GB und das 8B auf einen Laptop. vLLM braucht Version 0.20 oder neuer, einen eigenen Reasoning-Parser aus dem Repository und den Tool-Parser qwen3_coder. Die Erweiterung auf 512K ist in der Praxis schwerer zu finden: Die Serving-Beispiele der Modellkarte selbst enden bei 131.072 Tokens, und jedes Ollama-Tag nennt 128K.
Gehostet ist es günstig, aber gesprächig. Artificial Analysis erfasst einen API-Anbieter, IBM, mit 0,16 $ pro Million Input-Tokens und 0,65 $ pro Million Output-Tokens, bei 67 Tokens pro Sekunde, unter dem Median seiner Klasse. Das 30B verbrauchte für den Index 100 Mio. Output-Tokens gegenüber einem Median von 82 Mio., die Schalter für den Modus ohne Thinking und mit geringem Aufwand sind also die wichtigsten Stellschrauben bei den Kosten.
Es kann nur Text, Bilder und Audio bleiben also Gemma 4 überlassen. Für ein Unternehmen, das bereits watsonx einkauft, kommen dieselben Gewichte aber innerhalb eines bestehenden Vertrags, und das ist ein kürzerer Beschaffungsweg als jeder Ranglistenplatz.
Wo es sich lohnt
Ein Plattformteam bei einem Versicherer, das Agenten im eigenen Rechenzentrum betreibt
Einen Schadensassistenten mit Tool Calling auf einer GPU mit 48 GB betreiben
Das 30B in 8 Bit ist eine Version mit 31 GB, die auf einer Karte mit 48 GB Platz für Kontext lässt, und erreicht 61,39 bei BFCL v4. Apache 2.0 erspart die Lizenzprüfung, und der Tool-Parser von vLLM verarbeitet die Funktionsaufrufe.
Ein Entwickler mit einem Laptop mit 16 GB
Einen lokalen Coding-Assistenten offline nutzen
Das 8B in 4 Bit ist ein Ollama-Download von 5,3 GB; 47,67 bei SWE-bench Verified nach IBMs Zählung reichen für kleine Korrekturen, liegen aber deutlich unter gehosteten Coding-Modellen. Das 3B mit 2,2 GB eignet sich für schnelle Fragen.
Eine Produktmanagerin, die eine KI-Triage-Funktion auf watsonx kalkuliert
1 Mio. Support-Anfragen im Monat klassifizieren und zusammenfassen
Bei 1.500 Input- und 800 Output-Tokens pro Anfrage kommen IBMs Sätze von 0,16 $/0,65 $ auf etwa 760 $ im Monat. Wer Thinking bei Routinetickets abschaltet, senkt den Output-Anteil, der den Großteil der Rechnung ausmacht.
Bevor du dich festlegst
- Einrichtung
- ollama run granite4.2 lädt das 8B; vLLM 0.20+ braucht die Datei granite_thinking_parser aus dem Repository und --tool-call-parser qwen3_coder; SGLang 0.5.18+ funktioniert ebenfalls.
- Integrationen
- Hugging Face, Ollama, LM Studio, watsonx, OpenRouter, Replicate, DeepInfra und CoreWeave; die Thinking-Modi werden über chat_template_kwargs gesetzt.
- Daten und Datenschutz
- Apache 2.0, offen für kommerzielle Nutzung und Forschung ohne Einschränkung auf Einsatzgebiete; selbst gehostet bleiben die Prompts auf deiner Hardware.
- Kosten im großen Maßstab
- IBMs API berechnet 0,16 $ pro Million Input- und 0,65 $ pro Million Output-Tokens, mit 75 % Rabatt bei Cache-Treffern. Selbst gehostet braucht das 30B in 4 Bit etwa 18 GB oder in 8 Bit 31 GB.
- Grenzen
- In der Praxis 128K Kontext; die Erweiterung auf 512K ist nicht im Referenz-Setup fürs Serving enthalten. Nur Text. 67 Tokens pro Sekunde auf IBMs API, und wortreich beim Thinking.
Was gut ist
- Apache 2.0 ohne Bedingungen
- Dichte Modelle mit 3B, 8B und 30B; das 30B passt in 4 Bit auf eine GPU mit 24 GB
- Modi mit Thinking, ohne Thinking und mit geringem Aufwand in einem Modell
- Das 30B erreicht bei Artificial Analysis 13 Punkte, mehr als gpt-oss-120b
Was nicht
- Nur Text
- Die Benchmarks der Modellkarte stammen von IBM selbst, ohne Vergleich mit Konkurrenten
- Das 8B ist beim Tool Calling in BFCL nicht besser als das 3B
- Im Thinking-Modus wortreich, was die Output-Rechnung erhöht
Am besten für
Unternehmen und Entwickler, die kleine, freizügig lizenzierte Reasoning-Modelle für lokale Agenten oder Agenten im eigenen Rechenzentrum wollen.
Alternativen zu Granite 4.2
Granite 4.2: häufige Fragen
- Lohnt sich Granite 4.2?
- Granite 4.2 ist die offene Familie, die ein Risikoausschuss am schnellsten freigibt, mit einem Reasoning, das für seine Größe gut ist und weit von der Spitze entfernt. Wir bewerten es mit 4.0 von 5.
- Was kostet Granite 4.2?
- Kostenlose Gewichte unter Apache 2.0; Hosting bei watsonx und Drittanbietern wird separat abgerechnet.
- Welche Nachteile hat Granite 4.2?
- Nur Text; Die Benchmarks der Modellkarte stammen von IBM selbst, ohne Vergleich mit Konkurrenten; Das 8B ist beim Tool Calling in BFCL nicht besser als das 3B; Im Thinking-Modus wortreich, was die Output-Rechnung erhöht.
- Für wen eignet sich Granite 4.2?
- Unternehmen und Entwickler, die kleine, freizügig lizenzierte Reasoning-Modelle für lokale Agenten oder Agenten im eigenen Rechenzentrum wollen.
- Was kostet Granite 4.2 für ein Team oder im Produktivbetrieb?
- IBMs API berechnet 0,16 $ pro Million Input- und 0,65 $ pro Million Output-Tokens, mit 75 % Rabatt bei Cache-Treffern. Selbst gehostet braucht das 30B in 4 Bit etwa 18 GB oder in 8 Bit 31 GB.
- Ist Granite 4.2 sicher für Firmendaten?
- Apache 2.0, offen für kommerzielle Nutzung und Forschung ohne Einschränkung auf Einsatzgebiete; selbst gehostet bleiben die Prompts auf deiner Hardware.
- Was sind die besten Alternativen zu Granite 4.2?
- Die nächsten Alternativen, die wir getestet haben, sind Gemma 4, gpt-oss-20b, Devstral Small 2 und Falcon-H1R-7B.
Antworten geprüft am 22. Okt. 2026.