Was ist Mellum2.1 Thinking?
Mellum2.1 Thinking ist JetBrains' neuestes offenes Modell, am 8. Oktober 2026 als Nachfolger des im Juni veröffentlichten Mellum2 vorgestellt. Es ist ein Mixture-of-Experts-Modell mit 12 Milliarden Parametern, davon 2,5 Milliarden pro Token aktiv, und einem Kontext von 131.072 Tokens. Die Architektur ist gegenüber Mellum2 unverändert; JetBrains hat die Version dem Reinforcement Learning gewidmet, mit Millionen Sandbox-Läufen in echten Repositories, bei denen das Modell belohnt wurde, wenn die Tests bestanden. Es arbeitet nur mit Text und denkt immer nach, bevor es antwortet.
Die Gewichte stehen unter Apache 2.0. JetBrains veröffentlicht BF16-Gewichte, einen Multi-Token-Prediction-Kopf für schnelleres Dekodieren in vLLM und GGUF-Versionen für llama.cpp, Ollama und LM Studio, von 7,03 GB (MXFP4) und 8,07 GB (Q4_K_M) bis 24,31 GB (BF16). Auf Hugging Face hat das Haupt-Repository 193 Likes und 11.306 Downloads in den letzten 30 Tagen, das GGUF-Repository 457.537.
JetBrains bietet keine gehostete API dafür an; das Modell ist für eigene Hardware gedacht.
Was kostet Mellum2.1 Thinking?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Weights | Free | Apache 2.0 |
| GGUF builds | Free | MXFP4, Q4_K_M, Q6_K, Q8_0 und BF16 |
Kostenlose Gewichte unter Apache 2.0. Keine gehostete API; GGUF-Versionen ab 7,03 GB laufen lokal.
Lohnt sich Mellum2.1 Thinking?
Mellum2.1 Thinking macht aus einem Modell, das in einem Repository nicht arbeiten konnte, eines, das es kann. In JetBrains' Harness stieg sein SWE-bench-Verified-Wert von 2,0 % auf 47,0 %, Terminal-Bench 2.1 von 0,6 % auf 17,4 % und SWE-bench Pro von 0,0 % auf 28,0 %. LiveCodeBench v6 stieg auf 82,0, vor Qwen3.5-9B mit 75,4 und Gemma 4 E4B mit 69,4.
Für die Spitze seiner Klasse bei Agentenarbeit reichen die Fortschritte nicht. In derselben Tabelle erreicht Qwen3.5-9B 50,0 bei SWE-bench Verified, 21,7 bei Terminal-Bench 2.1 und 38,0 bei SWE-bench Pro, und deutlich mehr bei GPQA Diamond, 77,8 gegenüber 64,6. Alle Zahlen stammen von JetBrains, gemessen mit demselben Open-Source-Harness für jedes Modell.
Seine Stärke ist das Tempo. Nur 2,5 Milliarden Parameter sind pro Token aktiv, daher liefert es laut JetBrains unter hoher Last fast doppelt so viele Tokens wie Qwen3.5-9B, und der Multi-Token-Prediction-Kopf macht einzelne Anfragen etwa 1,6-mal schneller. Die Q4_K_M-Version ist 8,07 GB groß und passt auf eine Grafikkarte mit 12 GB.
Der Haken: Es ist ein Sub-Agent, kein Teamleiter. 17,4 % bei Terminal-Bench heißt, dass die meisten langen Terminal-Aufgaben scheitern, der Kontext endet bei 131.072 Tokens, und es denkt immer nach, was bei einfachen Fragen Zeit kostet.
Unser Fazit: Mellum2.1 ist das Modell, von dem man viele Instanzen gleichzeitig laufen lässt, um den fehlschlagenden Test zu finden, den Fix zu entwerfen und ihn zu prüfen, während ein größeres Modell die Arbeit plant. Als einziger lokaler Coding-Assistent ist Qwen3.5-9B noch etwas klüger.
Wo es sich lohnt
Ein Engineer, der eine Coding-Pipeline mit mehreren Agenten baut
Viele günstige Worker laufen lassen, die Ursachen finden und Fixes entwerfen
Mellum2.1 mit vLLM und dem MTP-Kopf bereitstellen und ihm eng umrissene Aufgaben geben, etwa das Nachverfolgen eines fehlschlagenden Tests, während ein größeres Modell plant. Laut JetBrains liefert es unter Last fast doppelt so viele Tokens wie Qwen3.5-9B.
Ein Entwickler in einer Firma, die Cloud-Coding-Assistenten verbietet
Ein denkendes Coding-Modell komplett auf Laptop oder Workstation behalten
ollama run hf.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking-GGUF:Q4_K_M lädt die 8,07-GB-Version, die auf eine GPU mit 12 GB passt. Der Code verlässt den Rechner nie, und die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung.
Bevor du dich festlegst
- Einrichtung
- Von Hugging Face herunterladen und mit vLLM bereitstellen oder eine GGUF-Version in llama.cpp, Ollama oder LM Studio laden; Q4_K_M ist die empfohlene Version.
- Integrationen
- OpenAI-kompatibler Endpunkt über vLLM oder Ollama; Tool-Aufrufe; JetBrains hat es im Open-Source-Agenten-Harness Pi mit Shell- und Datei-Tools evaluiert.
- Daten und Datenschutz
- Kein gehosteter Dienst, alles läuft also auf Hardware, die du kontrollierst. Trainiert wurde mit offenen RL-Datensätzen und von JetBrains gebauten Aufgaben.
- Kosten im großen Maßstab
- Kostenlose Gewichte; die 24,31-GB-BF16-Datei passt auf eine Rechenzentrums-GPU, und die 8,07-GB-Q4_K_M-Version läuft auf einer 12-GB-Consumer-Karte.
- Grenzen
- 131.072 Tokens Kontext, laut Modellkarte nur Englisch, und immer aktives Denken. JetBrains meldet 8,5 % schädliche Antworten bei HarmBench, gegenüber 21,5 % bei Mellum2.
Was gut ist
- SWE-bench Verified von 2,0 % auf 47,0 %, laut JetBrains
- Nur 2,5 Mrd. aktive Parameter, MTP-Kopf etwa 1,6-mal schneller pro Anfrage
- Apache-2.0-Lizenz
- Offizielle GGUF-Versionen ab 7,03 GB
Was nicht
- Qwen3.5-9B erzielt in JetBrains' eigener Tabelle mehr bei SWE-bench, Terminal-Bench und GPQA
- 17,4 % bei Terminal-Bench 2.1
- 131.072 Tokens Kontext
- Keine gehostete API
Am besten für
Teams, die Coding-Agenten bauen und schnelle, günstige Sub-Agenten auf eigener Hardware brauchen.
Alternativen zu Mellum2.1 Thinking
Mellum2.1 Thinking: häufige Fragen
- Lohnt sich Mellum2.1 Thinking?
- Ein schneller kleiner Coding-Agent für die eigene GPU, der Routine-Bugs behebt, bei den schweren aber noch knapp hinter Qwen3.5-9B liegt. Wir bewerten es mit 3.8 von 5.
- Was kostet Mellum2.1 Thinking?
- Kostenlose Gewichte unter Apache 2.0. Keine gehostete API; GGUF-Versionen ab 7,03 GB laufen lokal.
- Welche Nachteile hat Mellum2.1 Thinking?
- Qwen3.5-9B erzielt in JetBrains' eigener Tabelle mehr bei SWE-bench, Terminal-Bench und GPQA; 17,4 % bei Terminal-Bench 2.1; 131.072 Tokens Kontext; Keine gehostete API.
- Für wen eignet sich Mellum2.1 Thinking?
- Teams, die Coding-Agenten bauen und schnelle, günstige Sub-Agenten auf eigener Hardware brauchen.
- Was kostet Mellum2.1 Thinking für ein Team oder im Produktivbetrieb?
- Kostenlose Gewichte; die 24,31-GB-BF16-Datei passt auf eine Rechenzentrums-GPU, und die 8,07-GB-Q4_K_M-Version läuft auf einer 12-GB-Consumer-Karte.
- Ist Mellum2.1 Thinking sicher für Firmendaten?
- Kein gehosteter Dienst, alles läuft also auf Hardware, die du kontrollierst. Trainiert wurde mit offenen RL-Datensätzen und von JetBrains gebauten Aufgaben.
- Was sind die besten Alternativen zu Mellum2.1 Thinking?
- Die nächsten Alternativen, die wir getestet haben, sind Devstral Small 2, Qwen3.8-27B, gpt-oss-20b und Laguna S 2.1.
Antworten geprüft am 7. Nov. 2026.