Skip to content

Mistral Small 4

Mistrals Mixture-of-Experts unter Apache 2.0: 119 Mrd. Parameter, Bildeingabe, abschaltbares Reasoning, 0,15 $/0,60 $ pro Million Tokens.

Getestet von Andrew Miller · Aktualisiert

Mistral Small 4 besuchen Open Source

Unsere Bewertung

3.7/5

Günstig, schnell und sauber lizenziert, doch unabhängige Tests sehen es weit hinter den offenen Modellen, mit denen es sich einen Server teilt.

Was ist Mistral Small 4?

Mistral Small 4 (API-ID mistral-small-2603) erschien am 16. März 2026 und ist weiterhin Mistrals aktuelles Small-Modell; es ersetzte Small 3.2 und Magistral Small 1.2, die beide am 31. Juli 2026 eingestellt wurden. Es ist ein Mixture-of-Experts-Modell mit 119 Milliarden Parametern und 128 Experten, von denen vier pro Token aktiv sind, sodass für jedes Token etwa 6 Milliarden Parameter arbeiten. Es vereint Mistrals frühere Linien für Reasoning (Magistral), Vision (Pixtral) und Programmierung (Devstral), liest Text und Bilder, schreibt Text und hat einen Kontext von 256.000 Tokens.

Die Einstellung reasoning_effort wechselt zwischen schnellen Antworten (none) und schrittweisem Reasoning (high). Die Gewichte sind kostenlos unter Apache 2.0, mit einem FP8-Checkpoint, einer NVFP4-Version und GGUF-Builds aus der Community; als Minimum für den Betrieb nennt Mistral vier H100, zwei H200 oder ein DGX B200.

Die API kostet 0,15 $ pro Million Input-Tokens und 0,60 $ pro Million Output-Tokens, mit 50 % Rabatt über die Batch-API und bis zu 90 % Rabatt auf wiederholten Input.

Was kostet Mistral Small 4?

TarifPreisWas enthalten ist
WeightsFreeApache 2.0
API$0.15 in / $0.60 out per 1M tokensBatch mit 50 % Rabatt

Kostenlose Gewichte unter Apache 2.0. API: 0,15 $ Input / 0,60 $ Output pro 1 Mio. Tokens; Batch mit 50 % Rabatt; gecachter Input bis zu 90 % günstiger.

Lohnt sich Mistral Small 4?

Small 4 ist eher eine Wahl nach Preis und Lizenz als nach Leistung. Artificial Analysis gibt der Reasoning-Version 11 Punkte im Intelligence Index, Platz 14 von 67 Open-Weight-Modellen in der Klasse von 40B bis 150B; NVIDIAs Nemotron 3.5 Super VL kommt bei ähnlichen 120B auf 26. Mistrals eigene Vergleiche richten sich gegen gpt-oss-120b, das Small 4 laut Mistral bei AA LCR, LiveCodeBench und AIME25 erreicht oder übertrifft, dazu ein selbst gemeldeter Wert von 71,2 bei GPQA Diamond.

Gewinnen kann es bei den Kosten pro Antwort. Artificial Analysis maß über Mistrals API 182 Output-Tokens pro Sekunde bei 0,91 Sekunden bis zum ersten Token und sieht es bei den Kosten pro Aufgabe mit etwa 0,02 $ auf Platz eins von acht in seiner Klasse. Laut Mistral erreicht es beim Langkontext-Test von AA 0,72 und schreibt dabei etwa 1.600 Zeichen, wo Qwen-Modelle drei- bis viermal so viel Text brauchen, was zählt, wenn Output-Tokens viermal so viel kosten wie Input.

Der Name untertreibt die Hardware. „Small“ heißt hier 119B Parameter insgesamt: Das vLLM-Beispiel zum FP8-Checkpoint verteilt es auf zwei GPUs, und Mistrals angegebenes Minimum sind vier H100, das ist also ein Servermodell und keines für den Laptop wie gpt-oss-20b oder die kleineren Größen von Gemma 4. Apache 2.0 bedeutet allerdings keine Namensnennungsklausel, keine Umsatzgrenze und keine Nutzungsmeldung, was mehr ist, als MiniMax-M3 bietet.

Über Mistrals eigene API können Eingaben und Ausgaben der kostenlosen Stufe fürs Training genutzt werden, wenn der Nutzer nicht widerspricht, und zahlende Nutzer können jederzeit widersprechen; Zero Data Retention ist eine gesonderte Anfrage. Für einen europäischen Käufer, der jetzt die API eines französischen Anbieters will und später die Option, identische Gewichte im eigenen Haus zu betreiben, ist diese Kombination seltener, als die Benchmark-Tabelle vermuten lässt.

Wo es sich lohnt

  • Eine Leiterin Support-Operations in einem europäischen Contact Center mit 200 Agents

    Erste Antworten entwerfen und Tickets in fünf Sprachen sortieren

    Mit reasoning_effort auf none kostet eine Million Antworten im Monat mit 1.500 Input- und 250 Output-Tokens über die API etwa 375 $, über die Batch-API für nächtliches Sortieren etwa 190 $. Mistral ist ein Anbieter aus der EU, und bezahlte Konten können dem Training widersprechen.

  • Ein Platform Engineer bei einer Bank, die keine Dokumente an eine Drittanbieter-API schicken darf

    Einen Assistenten mit Bildverständnis auf eigenen GPUs betreiben

    Den FP8-Checkpoint mit vLLM auf zwei GPUs der H100-Klasse bereitstellen, wie im Beispiel der Model Card, oder auf vier für den von Mistral empfohlenen Spielraum. Apache 2.0 verlangt keine Meldung an Mistral und kennt keine Umsatzschwelle, und dasselbe Modell steht für Lastspitzen über die API bereit.

  • Ein Entwickler, der einem günstigen SaaS-Produkt Fragen und Antworten zu Dokumenten hinzufügt

    Fragen zu Screenshots und gescannten Formularen beantworten

    Small 4 liest Bilder direkt und unterstützt strukturierte Ausgaben und Function Calling, sodass ein Aufruf typisiertes JSON aus einem Screenshot liefern kann, zu Preisen eines Small-Modells. Schwierigeres Reasoning oder mehrstufiges Programmieren geht angesichts des Index-Werts besser an Mistral Medium 3.5 oder ein größeres Modell.

Bevor du dich festlegst

Einrichtung
API: mistral-small-latest oder mistral-small-2603 aufrufen und reasoning_effort pro Anfrage setzen. Selbst gehostet: vllm serve mit Mistrals Parsern für Tool-Aufrufe und Reasoning; die Unterstützung in Transformers brauchte zum Start den main-Branch.
Integrationen
Mistral API (Chat Completions, Conversations, Function Calling, strukturierte Ausgaben, Batch), Hugging Face, NVIDIA NIM und build.nvidia.com, OpenRouter; vLLM, SGLang, llama.cpp und Transformers, mit Fine-Tuning über NVIDIA NeMo.
Daten und Datenschutz
Apache 2.0 erlaubt kommerzielle Nutzung ohne Namensnennung oder Umsatzgrenzen. Über Mistrals API können Eingaben und Ausgaben der kostenlosen Stufe fürs Training genutzt werden, wenn du nicht widersprichst; Nutzer mit Pay-as-you-go können jederzeit widersprechen; Daumen-hoch- und Daumen-runter-Feedback ist in jedem Plan nutzbar.
Kosten im großen Maßstab
1 Million Chat-Antworten im Monat mit 1.500 Input- und 250 Output-Tokens kosten über die API etwa 375 $ und per Batch etwa 190 $. Selbsthosten braucht pro Replika in FP8 zwei bis vier GPUs der H100-Klasse oder ein DGX B200.
Grenzen
Kontext von 256.000 Tokens; die maximale Ausgabe steht nicht auf der Modellseite, und Mistral legt Rate Limits pro Modell und Ausgabenstufe fest, die nur im Admin-Bereich jedes Kontos angezeigt werden, ohne öffentliche Zahlen. Hoher Reasoning-Aufwand schreibt weit mehr Tokens, und dort steigen Kosten und Latenz.

Was gut ist

  • Apache 2.0 ohne Bedingungen zu Namensnennung oder Umsatz
  • API für 0,15 $/0,60 $, per Batch die Hälfte
  • 182 Tokens/s über Mistrals API (Artificial Analysis)
  • Bildeingabe und abschaltbares Reasoning in einem Modell

Was nicht

  • Erreicht 11 im Index von Artificial Analysis gegenüber 26 für Nemotron 3.5 Super VL
  • Braucht trotz des Namens zwei bis vier Rechenzentrums-GPUs
  • Mistral vergleicht es nur mit gpt-oss-120b und Qwen
  • Die kostenlose API-Stufe kann mit Daten trainieren, wenn du nicht widersprichst

Am besten für

Teams, die ein günstiges, Apache-lizenziertes Modell für Chat, Dokumente und Bilder wollen, über Mistrals API oder auf eigenen GPUs.

Alternativen zu Mistral Small 4

Mistral Small 4: häufige Fragen

Lohnt sich Mistral Small 4?
Günstig, schnell und sauber lizenziert, doch unabhängige Tests sehen es weit hinter den offenen Modellen, mit denen es sich einen Server teilt. Wir bewerten es mit 3.7 von 5.
Was kostet Mistral Small 4?
Kostenlose Gewichte unter Apache 2.0. API: 0,15 $ Input / 0,60 $ Output pro 1 Mio. Tokens; Batch mit 50 % Rabatt; gecachter Input bis zu 90 % günstiger.
Welche Nachteile hat Mistral Small 4?
Erreicht 11 im Index von Artificial Analysis gegenüber 26 für Nemotron 3.5 Super VL; Braucht trotz des Namens zwei bis vier Rechenzentrums-GPUs; Mistral vergleicht es nur mit gpt-oss-120b und Qwen; Die kostenlose API-Stufe kann mit Daten trainieren, wenn du nicht widersprichst.
Für wen eignet sich Mistral Small 4?
Teams, die ein günstiges, Apache-lizenziertes Modell für Chat, Dokumente und Bilder wollen, über Mistrals API oder auf eigenen GPUs.
Was kostet Mistral Small 4 für ein Team oder im Produktivbetrieb?
1 Million Chat-Antworten im Monat mit 1.500 Input- und 250 Output-Tokens kosten über die API etwa 375 $ und per Batch etwa 190 $. Selbsthosten braucht pro Replika in FP8 zwei bis vier GPUs der H100-Klasse oder ein DGX B200.
Ist Mistral Small 4 sicher für Firmendaten?
Apache 2.0 erlaubt kommerzielle Nutzung ohne Namensnennung oder Umsatzgrenzen. Über Mistrals API können Eingaben und Ausgaben der kostenlosen Stufe fürs Training genutzt werden, wenn du nicht widersprichst; Nutzer mit Pay-as-you-go können jederzeit widersprechen; Daumen-hoch- und Daumen-runter-Feedback ist in jedem Plan nutzbar.
Was sind die besten Alternativen zu Mistral Small 4?
Die nächsten Alternativen, die wir getestet haben, sind gpt-oss-120b, Nemotron 3.5 Super VL, Mistral Medium 3.5 und Gemma 4.

Antworten geprüft am 26. Okt. 2026.