Die besten Open-Source-LLMs aus den USA 2026

Open-Source-LLMs aus den USA: Von 19 getesteten Angeboten liegen derzeit Gemma 4, SAM 3 (Segment Anything Model 3) und Muse Glimmer vorn. Alle sind nach unserer Bewertung sortiert, mit Preis, unserem Fazit und für wen sie sich eignen.

Von Andrew Miller · Aktualisiert am 2. Nov. 2026 · So testen wir

So ist das Ranking entstanden: nach unserer Bewertung (maximal 5 Punkte), aus Tests auf Grundlage der Preise, Dokumentation und Richtlinien des jeweiligen Produkts sowie unabhängiger Benchmarks, wo es sie gibt, jeweils geprüft an dem im Test genannten Datum. Wir erhalten keine Affiliate-Provisionen.

Auch im Ranking: die besten Open-Source-LLMs

1
Gemma 4
Lizenz und Daten: Selbst gehostet, die Daten bleiben also dort, wo du das Modell betreibst. Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning ohne Umsatzgrenze oder Zusatz zur zulässigen Nutzung.
Betrieb: Die Gewichte sind kostenlos. Das 31B braucht in BF16 etwa 62 GB (eine Karte mit 80 GB) oder in 4 Bit 17,7 GB; in 4 Bit sind es beim 26B A4B 14,4 GB, beim 12B 7,0 GB und beim E4B 5,2 GB. OpenRouter listet 31B für 0,20 $/0,40 $ und 26B A4B für 0,08 $/0,26 $ pro 1 Mio. Tokens.
Preis: Kostenlose Gewichte unter Apache 2.0. Gehostet bei Google Cloud und Drittanbietern; OpenRouter listet 31B für 0,20 $/0,40 $ und 26B A4B für etwa 0,08 $/0,26 $ pro 1 Mio. Tokens.
Unseren Test von Gemma 4 lesen
4.4/5
2
SAM 3 (Segment Anything Model 3)
Lizenz und Daten: Selbst gehostet bleiben Bilder und Videos auf deiner Hardware. Die SAM License erlaubt kommerzielle Nutzung, verbietet aber militärische, ITAR-bezogene und andere exportkontrollierte Nutzung sowie Reverse Engineering, und die Zugangsschranke erfasst Name, Geburtsdatum, Land und Zugehörigkeit nach Metas Datenschutzrichtlinie.
Betrieb: Bei 848M Parametern reicht eine Rechenzentrums-GPU; Meta meldet 30 ms pro Bild mit mehr als 100 Objekten auf einer H200 und für SAM 3.1 32 Bilder pro Sekunde auf einer H100 bei einer mittleren Zahl von Objekten. Die gehosteten Preise von Roboflow folgen dessen eigenen Tarifen.
Preis: Kostenlos unter der SAM License nach einer Anmeldung mit Zugangsschranke auf Hugging Face; kommerzielle Nutzung erlaubt, mit Einschränkungen für Militär, ITAR und Reverse Engineering. Gehostete Nutzung über Roboflow wird nach den Tarifen von Roboflow abgerechnet.
Unseren Test von SAM 3 (Segment Anything Model 3) lesen
4.4/5
3
Muse Glimmer
Lizenz und Daten: Apache 2.0 erlaubt kommerzielle Nutzung ohne Umsatzgrenze. Lokal betrieben verlässt nichts den Rechner; bei OpenRouter gelten die Bedingungen des Hosting-Anbieters. Metas Trainingsdaten enthalten Informationen aus den eigenen Produkten und Diensten.
Betrieb: Lokal: eine Karte mit 24 GB für den Build mit 17 GB, 32 GB für den nahezu verlustfreien Build, 64 GB für volle Präzision. Gehostet: 0,30 $/1,20 $ pro 1 Mio. Tokens bei DeepInfra, 0,35 $/1,50 $ bei Together, 300 Millionen Input- und 60 Millionen Output-Tokens im Monat kosten also etwa 162 $.
Preis: Kostenlose Gewichte unter Apache 2.0; keine Meta-API. Gehostet bei OpenRouter ab 0,30 $ pro 1 Mio. Input- und 1,20 $ pro 1 Mio. Output-Tokens (DeepInfra).
Unseren Test von Muse Glimmer lesen
4.1/5
4
Nemotron 3.5 Super VL
Lizenz und Daten: OpenMDW-1.1 erlaubt kommerzielle Nutzung. Beim Selbsthosting bleiben die Daten im Haus; gehostete Anbieter legen eigene Aufbewahrungsregeln fest, und OpenRouter bietet für dieses Modell kein Routing innerhalb der EU.
Betrieb: Zu den 0,15 $/0,50 $ von OpenRouter kosten 1M Agenten-Turns im Monat mit 8K Eingabe- und 1K Ausgabe-Tokens etwa 1.700 $, bevor die Wortfülle die Ausgabe aufbläht. Selbsthosting in BF16 bedeutet vier H100 pro Replik; NVFP4 kommt mit weniger Blackwell-Hardware aus.
Preis: Kostenlose Gewichte unter OpenMDW-1.1. Gehostet: OpenRouter ab 0,15 $ Eingabe / 0,50 $ Ausgabe pro 1M Tokens, dazu eine kostenlose Variante; NVIDIA NIM und andere Anbieter mit eigenen Preisen.
Unseren Test von Nemotron 3.5 Super VL lesen
4.1/5
5
gpt-oss-120b
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen in der Lizenz. Selbst gehostet bleiben Prompts auf deiner Hardware; gehostet richtet sich die Aufbewahrung nach den Bedingungen des jeweiligen Anbieters, und das reine EU-Routing von OpenRouter erfordert einen Business- oder Enterprise-Plan.
Betrieb: 1 Mrd. Input- und 250 Mio. Output-Tokens im Monat kosten bei 0,15 $/0,60 $ pro Million etwa 300 $; Batch auf Bedrock halbiert den Satz. Selbst hosten braucht für Inferenz eine GPU mit 80 GB und fürs Fine-Tuning einen H100-Knoten.
Preis: Kostenlose Gewichte unter Apache 2.0; die Preise beim Hosting unterscheiden sich je nach Anbieter.
Unseren Test von gpt-oss-120b lesen
4.0/5
6
Granite 4.2
Lizenz und Daten: Apache 2.0, offen für kommerzielle Nutzung und Forschung ohne Einschränkung auf Einsatzgebiete; selbst gehostet bleiben die Prompts auf deiner Hardware.
Betrieb: IBMs API berechnet 0,16 $ pro Million Input- und 0,65 $ pro Million Output-Tokens, mit 75 % Rabatt bei Cache-Treffern. Selbst gehostet braucht das 30B in 4 Bit etwa 18 GB oder in 8 Bit 31 GB.
Preis: Kostenlose Gewichte unter Apache 2.0; Hosting bei watsonx und Drittanbietern wird separat abgerechnet.
Unseren Test von Granite 4.2 lesen
4.0/5
7
LFM3
Lizenz und Daten: Self-Hosting hält die Daten lokal. Die LFM Open License v1.0 erlaubt kommerzielle Nutzung nur unter 10 Millionen $ Jahresumsatz, mit einer Ausnahme für gemeinnützige Forschung; Liquids Zusage auf der Preisseite, nicht mit Daten zu trainieren, gilt für Custom Deployments, und Aufbewahrungsbedingungen für die API sind dort nicht veröffentlicht.
Betrieb: Zu den von VentureBeat gemeldeten Preisen kosten 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat etwa 100 $ mit LFM3-1.7B und 150 $ mit LFM3-VL-2B, Audio-Tokens kommen bei Audio und Omni mit 2 $ Input und 10 $ Output pro Million hinzu. Self-Hosting braucht 1,05 bis 1,10 GB in 4 Bit, 1,85 GB in Q8_0 oder 3,47 GB in BF16; Liquid meldet 3,6 Milliarden Tokens pro Tag auf einer B300.
Preis: Kostenlose Gewichte unter der LFM Open License (kommerzielle Nutzung nur unter 10 Mio. $ Jahresumsatz). Liquid API, laut VentureBeat aus der angemeldeten Konsole: LFM3-1.7B 0,08 $ Input / 0,20 $ Output pro 1 Mio. Tokens; VL 0,10 $ / 0,50 $; Audio und Omni 0,10 $ / 1,00 $ plus Audio-Tokens. Gehostete d1-Entscheidungen 0,02 $ pro 1 Mio. Input-Tokens, Output kostenlos.
Unseren Test von LFM3 lesen
4.0/5
8
Muse Spark Open
Lizenz und Daten: Muse Model License: kostenlose Nutzung, Änderung, Destillation und Weitergabe; Namensnennung in jedem Produkt erforderlich; Model-as-a-Service-Anbieter mit mehr als 20 Mio. $ Jahresumsatz brauchen eine gesonderte Vereinbarung. Meta beansprucht kein Eigentum an Ausgaben. Selbst gehostet verlässt nichts deine Infrastruktur.
Betrieb: Selbsthosten: NVFP4 (etwa 537 GB) auf einem Blackwell-Knoten mit vier GPUs, BF16 (etwa 1,65 TB) auf acht B300 oder zwei Mac Studios mit M5 Ultra und je 512 GB. Gehostet kosten eine Million Support-Antworten im Monat mit 3.000 Input- und 500 Output-Tokens zu OpenRouter-Preisen etwa 5.875 $.
Preis: Kostenlose Gewichte unter der Muse Model License (Namensnennung erforderlich; Umsatzschwelle von 20 Mio. $ für Model-as-a-Service). Gehostet bei OpenRouter für 1,25 $ Input, 0,15 $ gecacht, 4,25 $ Output pro 1 Mio. Tokens.
Unseren Test von Muse Spark Open lesen
4.0/5
9
Ternary Bonsai 2 9B
Lizenz und Daten: Apache 2.0, wie beim Basismodell Qwen3.5-9B, ohne Umsatzgrenze oder Nutzungsbeschränkungen über die Lizenz hinaus. Bei lokaler Ausführung bleiben Prompts und Bilder auf dem Gerät.
Betrieb: Kostenlos auf eigener Hardware: Die PTQ1_0-Datei mit 2,00 GB ist die kleinste, die MTP-Datei mit 2,68 GB ergänzt Speculative Decoding. PrismML nennt bis zu 179 Tokens pro Sekunde auf einem M5 Max und bis zu 5-mal den Durchsatz des Modells in voller Präzision auf einer RTX 4090 und einem M5 Pro. Die Preise von Darkbloom sind nicht veröffentlicht.
Preis: Kostenlos unter Apache 2.0. Gehostet in der Darkbloom-Konsole; Preise nicht veröffentlicht.
Unseren Test von Ternary Bonsai 2 9B lesen
4.0/5
10
Mage-VL-Cowork
Lizenz und Daten: Nur selbst gehostet. Apache 2.0, doch Microsofts Hinweis zu Responsible AI sagt nur Forschung, mit Trainingsdaten aus öffentlichen, lizenzierten und internen Quellen. Die Model Card verlangt isolierte Sandboxes, keine eingebundenen Zugangsdaten und eine Netzwerk-Allowlist gegen Prompt Injection.
Betrieb: Die BF16-Gewichte sind 9,48 GB groß, und eine Berechnung von ModelFit setzt einen vollen Cache für 32K Tokens bei etwa 4,8 GB an, eine GPU mit 24 GB fasst also beides. Microsoft nennt keine Mindesthardware; in den Tests kam jede Aufgabe im Schnitt auf 18,77 Modellaufrufe und 5.499 Ausgabe-Tokens.
Preis: Kostenlos unter Apache 2.0, wobei Microsofts Repository sagt, die Mage-Modelle seien für die Forschung gedacht und nicht für den Einsatz in Produkten oder Diensten. Keine gehostete API.
Unseren Test von Mage-VL-Cowork lesen
3.9/5
11
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)
Lizenz und Daten: Selbst gehostet, die Daten bleiben also lokal. OpenMDW-1.1 erlaubt kommerzielle Nutzung ohne Umsatzgrenze; die Rechte erlöschen, wenn du wegen Patenten oder Urheberrechten am Modell klagst. NVIDIA veröffentlicht seine Datensätze für Pre- und Post-Training, führt aber viele Quellen als privat.
Betrieb: Die Gewichte sind kostenlos, und Artificial Analysis nennt für das 74B keinen nutzungsabhängigen Preis. Hardware: eine 32-GB-GPU für 65K Kontext oder 48 GB für 262K beim 74B; E4B erreicht in NVIDIAs Tests Spitzenwerte von 3,1 bis 5,0 GB, von einer RTX 5070 bis zu Jetson Orin.
Preis: Kostenlose offene Gewichte unter OpenMDW-1.1. Für keines der beiden Modelle ist ein nutzungsabhängiger API-Preis veröffentlicht; für E4B gibt es einen Endpunkt auf build.nvidia.com.
Unseren Test von Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) lesen
3.9/5
12
Beam
Lizenz und Daten: Apache 2.0, ergänzt um die empfohlene Usage Policy von Reflection. Auf Reflections API meldet der Header reflection-data-retention jeder Antwort die Aufbewahrung zero, standard oder contributor; nur die Contributor-Bedingungen, die eine Organisation akzeptieren muss, erlauben Training auf deinen Anfragen.
Betrieb: 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat kosten bei Together AI oder Baseten etwa 520 $ und bei Nebius etwa 350 $. Selbsthosten braucht 273 GiB für NVFP4, 468,72 GiB für FP8 oder 933,81 GiB für BF16, noch ohne KV-Cache.
Preis: Gewichte kostenlos unter Apache 2.0. Reflection-API in der öffentlichen Beta kostenlos, mit täglichen Grenzen. Gehostet: Together AI und Baseten 0,40 $ Input / 0,04 $ gecacht / 1,20 $ Output pro 1 Mio. Tokens; OpenRouter ab 0,24 $ / 0,98 $.
Unseren Test von Beam lesen
3.8/5
13
gpt-oss-20b
Lizenz und Daten: Selbst gehostet, die Prompts bleiben also lokal. Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning; die Nutzungsrichtlinie verlangt nur die Einhaltung geltenden Rechts.
Betrieb: Die Gewichte sind kostenlos und passen auf eine GPU mit 16 GB. Gehostet auf OpenRouter ab 0,018 $ Input und 0,09 $ Output pro 1 Mio. Tokens, 1 Mio. kurze Antworten im Monat kosten also deutlich unter 100 $; Artificial Analysis kommt auf etwa 0,01 $ pro Index-Aufgabe.
Preis: Kostenlose Gewichte unter Apache 2.0. Gehostet ab 0,018 $ Input / 0,09 $ Output pro 1 Mio. Tokens auf OpenRouter; Artificial Analysis listet 0,07 $ / 0,25 $.
Unseren Test von gpt-oss-20b lesen
3.8/5
14
LFM2.5-24B-A2B
Lizenz und Daten: Self-Hosting hält die Daten lokal. Die LFM Open License v1.0 erlaubt kommerzielle Nutzung nur Organisationen unter 10 Millionen $ Jahresumsatz, mit einer Ausnahme für gemeinnützige Forschung.
Betrieb: Auf OpenRouter kosten 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat etwa 120 $; zu den 0,10 $/1,00 $ von Liquid Console etwa 200 $. Self-Hosting braucht 13,58 bis 14,53 GB in 4 Bit, 25,49 GB in Q8_0 oder 47,96 GB in BF16.
Preis: Kostenlose Gewichte unter der LFM Open License (kommerzielle Nutzung nur unter 10 Mio. $ Jahresumsatz). Liquid Console: 0,10 $ Input / 1,00 $ Output pro 1 Mio. Tokens; OpenRouter: 0,05 $ / 0,70 $.
Unseren Test von LFM2.5-24B-A2B lesen
3.8/5
15
FrogNano-4B-2609
Lizenz und Daten: Selbst gehostet, der Code bleibt also auf deiner Infrastruktur. Die Model Card verlangt eine Sandbox mit minimalen Rechten und standardmäßig abgeschaltetem Netzwerk; FrogNano erhielt kein eigenes Sicherheits-, Verweigerungs- oder Adversarial-Training.
Betrieb: Kein API-Preis. BF16-Gewichte belegen etwa 9,3 GB plus KV-Cache, der nahe der Grenze von 131K Tokens deutlich wächst; CPU-, Desktop-, Mobil- und quantisierter Einsatz sind nicht validiert. Microsofts Benchmark-Presets geben jeder Aufgabe bis zu 10.800 Sekunden und 150 Schritte.
Preis: Kostenlose Gewichte (auf Hugging Face als MIT markiert; die Tabelle der Model Card nennt Apache 2.0). Keine gehostete API; du betreibst es selbst, zum Beispiel mit SGLang.
Unseren Test von FrogNano-4B-2609 lesen
3.7/5
16
Ornith-1.5-122B
Lizenz und Daten: Nur selbst gehostet, die Daten bleiben also dort, wo du es betreibst. Es gibt keine eigene API und damit keine Aufbewahrungs- oder Trainingsbedingungen zu prüfen.
Betrieb: Gewichte kostenlos. BF16 hat 250 GB (ein Knoten mit mehreren GPUs), FP8 133 GB (zwei 80-GB-Karten), und NVFP4 (77,7 GB) oder Q4_K_M (75,8 GB) sind die einzigen Builds nahe an einer 80-GB-Karte; für Macs gibt es einen MLX-4-Bit-Build mit 68,7 GB. Ein eigener gehosteter Preis ist nicht veröffentlicht; NanoGPT nennt 0,20 $ Eingabe und 0,80 $ Ausgabe pro Million Tokens, führt das Modell aber als nicht verfügbar.
Preis: Kostenlose offene Gewichte unter MIT. Du zahlst nur für eigene Hardware oder Hosting.
Unseren Test von Ornith-1.5-122B lesen
3.6/5
17
SmolLM3-3B
Lizenz und Daten: Apache 2.0 ohne Zusatz zur zulässigen Nutzung; kommerzielle Nutzung und Weitergabe erlaubt. Nur zum Selbsthosten, Daten bleiben also auf deinem Gerät oder Server. Die Mischung der Trainingsdaten ist öffentlich, was Herkunftsprüfungen möglich macht.
Betrieb: Etwa 3,1 Mrd. Parameter, rund 6GB in BF16, also eine einzelne Consumer-GPU, ein Apple-Laptop oder ein 4-Bit-Build fürs Handy. Da keine kostenpflichtige API gelistet ist, sind die Kosten im großen Maßstab deine eigene Hardware.
Preis: Kostenlose Gewichte unter Apache 2.0, mit veröffentlichtem Rezept für die Trainingsdaten und Checkpoints. Keine gehostete API bei Hugging Faces eigenen Inference Providers.
Unseren Test von SmolLM3-3B lesen
3.5/5
18
Phi-4-Reasoning-Vision-15B
Lizenz und Daten: MIT-Lizenz; beim Selbsthosting bleiben Bilder und Prompts lokal, und für das Hosting über Foundry gelten Azures Bedingungen.
Betrieb: Selbsthosting braucht eine GPU mit deutlich mehr als 30GB, etwa eine A6000 mit 48GB oder eine A100 mit 80GB; ein Foundry-Preis ist nicht veröffentlicht: Weder die Modellkarte noch Azures Einzelhandelspreisliste, die für andere Phi-4-Modelle Tarife pro Token führt, nennt einen.
Preis: Kostenlose Gewichte unter MIT; Hosting über Microsoft Foundry wird gesondert berechnet.
Unseren Test von Phi-4-Reasoning-Vision-15B lesen
3.4/5
19
Phi-4-multimodal
Lizenz und Daten: MIT-Lizenz ohne Umsatzgrenze oder gesonderte Nutzungsrichtlinie. Selbst gehostet bleiben Audio und Bilder auf deiner Hardware; Azures Bedingungen gelten nur, wenn du Microsofts gehosteten Endpunkt nutzt.
Betrieb: Bei Azure AI Foundry kostet Audio-Eingabe 4 $ pro 1M Tokens gegenüber 0,08 $ für Text und Bilder, Sprache dominiert also jede Rechnung; die Ausgabe kostet 0,32 $ pro 1M, laut Azures Einzelhandelspreisliste dieselben Tarife wie zum Start. Selbsthosting braucht eine aktuelle Rechenzentrums-GPU.
Preis: Kostenlose Gewichte unter MIT. Azure AI Foundry: 0,08 $ Eingabe / 0,32 $ Ausgabe pro 1M Text- oder Bild-Tokens; Audio-Eingabe 4 $ pro 1M.
Unseren Test von Phi-4-multimodal lesen
3.3/5