Mistrals Spitzenmodell können Unternehmen jetzt herunterladen und auf eigener Hardware betreiben. Der Launch-Beitrag von Hugging Face zu Mistral Large 4 zeigt, was das praktisch bedeutet: ein Modell mit etwa 1 Billion Parametern, von denen pro Token rund 49B aktiv sind, ein Kontextfenster von 1M Tokens, Bildeingabe und Unterstützung vom ersten Tag an in Transformers, vLLM und llama.cpp. Gerade für Sicherheitsteams ist es eines der wenigen starken Modelle, deren Verhalten sie vollständig selbst steuern können.
Der Aufbau verbindet zwei Arten von Sparsamkeit. Ein Router wählt für jedes Token vier von 128 Experten, dazu einen gemeinsamen Experten, der immer mitläuft, und ein Attention-Indexer wählt für jede Anfrage bis zu 2.048 frühere Positionen aus, statt den ganzen Kontext zu lesen. Ein Pixtral-Encoder mit 1.6B verarbeitet Bilder. Am 29. Oktober lag das Modell im Artificial Analysis Intelligence Index auf Platz fünf unter den Open-Weight-Modellen. Zu den veröffentlichten Programmierwerten gehören 61,7% bei DeepSWE v1.1 und 28,3% bei Terminal-Bench 4.
Herausragend ist die Cybersicherheit. Das Modell löste 93% von 40 Cybench-Aufgaben aus Sicherheitswettbewerben und erreichte 82% in einem Test, der verlangt, eine echte Schwachstelle in Open-Source-Software nachzustellen und dann zu beheben. Laut Mistral kommen mehrere geschlossene Spitzenmodelle in diesem Test auf nahezu null, weil sie den Versuch verweigern. Das Argument für offene Gewichte ist hier praktisch: Verteidiger können es sich nicht leisten, dass der Filter eines Anbieters eine Vorfallsreaktion blockiert oder eine API mitten im Vorfall ausfällt. Der Beitrag gibt außerdem an, dass das Modell schädliche Cyber-Anfragen im Schnitt häufiger ablehnt als jedes andere Open-Weight-Modell.
Der Betrieb bleibt ein ernsthaftes Unterfangen. Eine auf 2 Bit quantisierte Version passt auf einen einzelnen Apple M3 Ultra mit 512 GB Speicher, wo Hugging Face etwa 15 Tokens pro Sekunde Ausgabe maß. Hugging Faces fertige gehostete Konfiguration nutzt acht Nvidia-H200-GPUs. Unsere Besprechung von Mistral Large 4 hält fest, dass unabhängige Tests es weiterhin im Mittelfeld der großen offenen Modelle sehen, und über die API ist es inzwischen günstiger als Mistral Medium 3.5, was das kleinere Modell schwerer verkäuflich macht.
Zwei Haken verdienen Aufmerksamkeit, bevor man darauf aufbaut. Die Lizenz ist eine abgewandelte MIT-Lizenz, die den Einsatz als Model-as-a-Service einschränkt, wer also gehosteten Zugang verkaufen will, braucht eine separate Vereinbarung. Und das Reasoning lässt sich nicht abschalten: Die Stufen reichen von niedrig bis hoch, und wer keines anfordert, landet beim Standardwert hoch, was einfache Aufgaben langsamer und teurer macht. Die meisten Leistungszahlen im Beitrag stammen von Mistral, und die von Hugging Face gemessenen Geschwindigkeiten bei langem Kontext fallen stark, auf etwa 3 Tokens pro Sekunde bei sehr langem Kontext auf vier Workstation-GPUs.