Die Shortlist offener Modelle, überprüft

Shortlists von Open-Weight-Modellen altern schnell. Wir haben zehn genommen, die immer wieder darauf auftauchen, und jedes mit seiner Model Card und den eigenen Seiten des Anbieters abgeglichen. Mehrere wurden eingestellt oder überholt.

Weiterhin einen Test wert

• GLM-5.3-Flash (4,3): das Mixture-of-Experts-Modell von Z.ai unter MIT-Lizenz, mit Bild- und Videoeingabe und einem Kontext von 1M Tokens, für 0,15 $ pro Million Input-Tokens und 0,50 $ Output über die API von Z.ai. Seine Benchmarks stammen von Z.ai selbst, und die Gewichte brauchen weiterhin einen Server mit mehreren GPUs.
• Gemma 4 (4,4): Die Größen E2B und E4B sind Googles Wahl für Handys und Edge-Geräte, und sie nehmen neben Bildern auch Audio an. Apache 2.0.
• Granite 4.2 (4,0): IBMs dichte Reasoning-Modelle mit 3B, 8B und 30B unter Apache 2.0. Nur Text, und jeder Benchmark stammt von IBM selbst.

Gut für enge Aufgaben

• Falcon-H1R-7B (3,6): für ein 7B-Modell sehr stark in Mathematik, schwach bei Agent-Aufgaben. Die Falcon-LLM-Lizenz verlangt Namensnennung und eine Acceptable-Use-Policy, sie ist also nicht so einfach wie Apache 2.0. Das verwandte Falcon-H1-3B-Base ist ein Basismodell von 2025, das wir heute in keinen Test mehr aufnehmen würden.
• SmolLM3-3B (3,5): das transparenteste kleine Modell, mit veröffentlichtem vollständigem Trainingsrezept. Neuere Modelle mit 3B und 4B schlagen es bei den Fähigkeiten.
• Devstral Small 2 (3,6): ein Coding-Modell mit 24B unter Apache 2.0, das auf einer einzigen RTX 4090 läuft. Mistral hat die API-Version im März 2026 eingestellt, du wirst also selbst hosten.

Überholt oder eingestellt

• Qwen3.5-397B-A17B (3,8) wurde von Qwen3.6 und Qwen3.8 abgelöst.
• Devstral 2 (3,1) wurde im Juli 2026 aus Mistrals API entfernt, die Nutzer auf Mistral Medium 3.5 verweist. Seine modifizierte MIT-Lizenz schließt außerdem Unternehmen mit mehr als 20 Millionen $ Monatsumsatz aus.
• Phi-4-multimodal (3,3) ist weiterhin das einzige Phi-Modell, das Sprache hört, stammt aber vom Februar 2025, und die kleinen Größen von Gemma 4 sind jetzt die stärkere Wahl.

Wie du jedes davon testest

Lizenzen unterscheiden sich innerhalb einer einzigen Familie: Devstral Small 2 steht unter Apache 2.0, Devstral 2 nicht. Lies die Model Card für den genauen Checkpoint, prüfe, ob er auf deine Hardware passt, und lass ihn dann deine eigenen Aufgaben bearbeiten. Eine kleine Parameterzahl sagt dir, was der Betrieb kostet, nicht, ob die Antworten gut genug sind.