Die besten Open-Source-LLMs 2026

Open-Source-LLMs: Von 58 getesteten Angeboten liegen derzeit MiMo-V2.6-Pro, Qwen3.8-27B und Gemma 4 vorn. Alle sind nach unserer Bewertung sortiert, mit Preis, unserem Fazit und für wen sie sich eignen.

Von Andrew Miller · Aktualisiert am 2. Nov. 2026 · So testen wir

So ist das Ranking entstanden: nach unserer Bewertung (maximal 5 Punkte), aus Tests auf Grundlage der Preise, Dokumentation und Richtlinien des jeweiligen Produkts sowie unabhängiger Benchmarks, wo es sie gibt, jeweils geprüft an dem im Test genannten Datum. Wir erhalten keine Affiliate-Provisionen. Modelle, deren Hersteller die gehostete API eingestellt hat, bleiben wegen ihrer offenen Gewichte gelistet und sind gekennzeichnet.

1
MiMo-V2.6-Pro
Lizenz und Daten: Gewichte unter MIT. Laut Xiaomis MiMo-Datenschutzerklärung werden Daten in Singapur gespeichert und nach Ablauf der Aufbewahrungsfrist gelöscht oder anonymisiert; die Desktop-App trainiert mit Eingaben, wenn du nicht widersprichst. Drittanbieter-Gateways berichten, dass Xiaomis API nicht mit dem Traffic trainiert, was Xiaomis API-Bedingungen bestätigen sollten.
Betrieb: 0,435 $/0,87 $ pro Million Tokens mit 99 % Cache-Rabatt und Batch zum halben Preis. 1.000 Agent-Aufgaben mit 500.000 Input- und 30.000 Output-Tokens kosten ohne Cache etwa 244 $; mit Flash wären es etwa 78 $.
Preis: Offene Gewichte unter MIT. Xiaomi API: Pro 0,435 $ Input / 0,87 $ Output pro 1 Mio. Tokens, gecachter Input 0,004 $; Flash 0,14 $ / 0,28 $; Pro UltraSpeed 4,35 $ / 8,70 $; Batch API zum halben Preis.
Unseren Test von MiMo-V2.6-Pro lesen
4.5/5
2
Qwen3.8-27B
Lizenz und Daten: Apache 2.0: kommerzielle Nutzung ohne Umsatzgrenzen oder Anhang zur zulässigen Nutzung. Der Eintrag bei Qwen Cloud nennt keine Aufbewahrungs- oder Trainingsbedingungen, und der Beispiel-Endpunkt liegt in Singapur (ap-southeast-1).
Betrieb: Selbst gehostet: 4 Bit 16,5 GB, 8 Bit 29 GB, FP8 31 GB, BF16 etwa 56 GB an Gewichten vor dem KV-Cache. Gehostet: Qwen Cloud 0,50 $/3,00 $ pro 1M Tokens; Anbieter auf OpenRouter reichen von etwa 0,04 $/1,25 $ bis 0,45 $/3,20 $.
Preis: Kostenlose Gewichte unter Apache 2.0. Qwen Cloud: 0,50 $ Eingabe / 3,00 $ Ausgabe pro 1M Tokens (0,10 $ gecacht). Drittanbieter auf OpenRouter ab etwa 0,04 $ / 1,25 $.
Unseren Test von Qwen3.8-27B lesen
4.5/5
3
Gemma 4
Lizenz und Daten: Selbst gehostet, die Daten bleiben also dort, wo du das Modell betreibst. Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning ohne Umsatzgrenze oder Zusatz zur zulässigen Nutzung.
Betrieb: Die Gewichte sind kostenlos. Das 31B braucht in BF16 etwa 62 GB (eine Karte mit 80 GB) oder in 4 Bit 17,7 GB; in 4 Bit sind es beim 26B A4B 14,4 GB, beim 12B 7,0 GB und beim E4B 5,2 GB. OpenRouter listet 31B für 0,20 $/0,40 $ und 26B A4B für 0,08 $/0,26 $ pro 1 Mio. Tokens.
Preis: Kostenlose Gewichte unter Apache 2.0. Gehostet bei Google Cloud und Drittanbietern; OpenRouter listet 31B für 0,20 $/0,40 $ und 26B A4B für etwa 0,08 $/0,26 $ pro 1 Mio. Tokens.
Unseren Test von Gemma 4 lesen
4.4/5
4
GLM-5.3
Lizenz und Daten: Die API von Z.ai wird aus Singapur betrieben, und laut den Bedingungen zur Datenverarbeitung verarbeitet Z.ai Kundendaten im Auftrag des Kunden und speichert API-Ein- und -Ausgaben nicht, die in Echtzeit verarbeitet werden; eine ausdrückliche Aussage zum Training mit API-Prompts ist nicht veröffentlicht. Beim Selbsthosten bleiben die Daten im Haus.
Betrieb: Z.ai listet 1,40 $/4,40 $ pro 1 Mio. Tokens, gecachten Input für 0,26 $ und für begrenzte Zeit kostenlosen Cache-Speicher. Artificial Analysis kommt auf 2,01 $ pro Index-Aufgabe, gegenüber 0,72 $ für GPT-6.1 Sol. Selbsthosten bedeutet etwa 753 GB an FP8-Gewichten plus Cache-Speicher.
Preis: Offene Gewichte unter einer modifizierten MIT-Lizenz. API von Z.ai: 1,40 $ Input / 0,26 $ gecacht / 4,40 $ Output pro 1 Mio. Tokens; GLM-5.3-Flash 0,15 $ / 0,50 $.
Unseren Test von GLM-5.3 lesen
4.4/5
5
SAM 3 (Segment Anything Model 3)
Lizenz und Daten: Selbst gehostet bleiben Bilder und Videos auf deiner Hardware. Die SAM License erlaubt kommerzielle Nutzung, verbietet aber militärische, ITAR-bezogene und andere exportkontrollierte Nutzung sowie Reverse Engineering, und die Zugangsschranke erfasst Name, Geburtsdatum, Land und Zugehörigkeit nach Metas Datenschutzrichtlinie.
Betrieb: Bei 848M Parametern reicht eine Rechenzentrums-GPU; Meta meldet 30 ms pro Bild mit mehr als 100 Objekten auf einer H200 und für SAM 3.1 32 Bilder pro Sekunde auf einer H100 bei einer mittleren Zahl von Objekten. Die gehosteten Preise von Roboflow folgen dessen eigenen Tarifen.
Preis: Kostenlos unter der SAM License nach einer Anmeldung mit Zugangsschranke auf Hugging Face; kommerzielle Nutzung erlaubt, mit Einschränkungen für Militär, ITAR und Reverse Engineering. Gehostete Nutzung über Roboflow wird nach den Tarifen von Roboflow abgerechnet.
Unseren Test von SAM 3 (Segment Anything Model 3) lesen
4.4/5
6
DeepSeek-V4-Pro
Lizenz und Daten: Offene Gewichte unter MIT-Lizenz ohne kommerzielle Beschränkungen oder Umsatzgrenzen. DeepSeeks Datenschutzrichtlinie (Februar 2026) sagt, dass Daten in China gespeichert werden, nennt Modelltraining unter den Verwendungen von Nutzereingaben und bietet Widerspruch nur per E-Mail an privacy@deepseek.com.
Betrieb: Auf der API kosten 1B Eingabe-Tokens im Monat bei 70% Cache-Treffern plus 100M Ausgabe-Tokens etwa 820 $ zu Spitzenpreisen oder 410 $ außerhalb der Spitzenzeiten. Self-Hosting braucht allein für die Gewichte rund 865 GB, nach unserer Rechnung also mindestens einen Server mit acht H200 (1,1 TB HBM) und mehr für volle Kontexte mit 1M Tokens.
Preis: Kostenlose Gewichte unter MIT-Lizenz. DeepSeek-API: 0,66 $ Eingabe / 1,98 $ Ausgabe pro 1M Tokens außerhalb der Spitzenzeiten, 1,32 $ / 3,96 $ zur Spitzenzeit; Cache-Treffer ab 0,022 $.
Unseren Test von DeepSeek-V4-Pro lesen
4.3/5
7
GLM-5.3-Flash
Lizenz und Daten: Laut den API-Datenbedingungen von Z.ai werden Prompts und Ausgaben in Echtzeit verarbeitet und nicht gespeichert, und Kundendaten werden in der Regel in Singapur verarbeitet. Zum Training sagen die Bedingungen weder das eine noch das andere, und eine SOC-2- oder ISO-Zertifizierung ist nicht veröffentlicht. Z.ai betreibt das Modell auf in China hergestellten Beschleunigern.
Betrieb: Bei Z.ai kosten 2 Mrd. Input-Tokens (80 % gecacht) und 200 Mio. Output-Tokens im Monat etwa 208 $; GLM-5.3 läge bei etwa 1.856 $. Selbst hosten bedeutet rund 330 GB an FP8-Gewichten plus KV-Cache, mehr als vier GPUs mit 80 GB fassen, plane also einen Knoten mit acht GPUs ein.
Preis: Offene Gewichte unter MIT. API von Z.ai: 0,15 $ Input / 0,50 $ Output pro 1 Mio. Tokens (0,03 $ gecacht); FlashX 0,37 $ / 1,25 $.
Unseren Test von GLM-5.3-Flash lesen
4.3/5
8
Kimi K3
Lizenz und Daten: Moonshots Datenschutzerklärung erlaubt Training mit Nutzerinhalten ohne beschriebene Ausnahme für die API, speichert Daten, solange das Konto aktiv ist, und zwar in Singapur; keine SOC-2- oder ISO-Zertifizierung genannt. Die Lizenz nimmt interne Nutzung von ihren Umsatz- und Kennzeichnungsklauseln aus.
Betrieb: 3 $/15 $ pro Million Tokens, gecacht 0,30 $, mit Zusatzkosten für Cache-Schreibvorgänge von 5 Minuten oder 1 Stunde. 1.000 Agentenaufgaben mit 500K Input- und 30K Output-Tokens kosten ohne Cache etwa 1.950 $; Fireworks führt einen Endpunkt zu 2,10 $/10,50 $.
Preis: Offene Gewichte unter einer modifizierten MIT-Lizenz. Kimi API: 3 $ Input / 15 $ Output pro 1 Mio. Tokens; gecachter Input 0,30 $.
Unseren Test von Kimi K3 lesen
4.3/5
9
DeepSeek-V4.1-Flash
Lizenz und Daten: Gewichte unter MIT ohne Nutzungsbeschränkungen. Für DeepSeeks Dienst sagt die Datenschutzrichtlinie (aktualisiert am 10. Februar 2026), dass Daten in China gespeichert, für die Dauer des Kontos aufbewahrt und fürs Modelltraining genutzt werden dürfen, mit Widerspruch auf Anfrage; eigene Aufbewahrungsregeln für die API sind nicht veröffentlicht.
Betrieb: 10 Milliarden Eingabe- und 1 Milliarde Ausgabe-Tokens im Monat kosten bei DeepSeek etwa 2.100 $ außerhalb der Spitzenzeiten oder 4.200 $ zur Spitzenzeit; gecachte Eingabe kostet außerhalb der Spitzenzeiten 0,003 $ pro Million. Search und Fetch kosten je 0,75 $ pro 1.000 erfolgreiche Aufrufe, ein Agent mit 20 Suchen pro Aufgabe über 10.000 Aufgaben zahlt also 150 $ im Monat für die Suche; über die Harnesses kostenlos bis 31. Oktober 2026, 16:00 UTC. Self-Hosting braucht allein für die Gewichte über 765 GB GPU-Speicher, und laut den Deployment-Hinweisen zu DeepInfer besteht DeepSeeks kleinste effiziente Einheit aus 64 Prefill- plus 64 Decode-GPUs.
Preis: Kostenlose Gewichte unter MIT-Lizenz. DeepSeek-API: 0,15 $ Eingabe / 0,60 $ Ausgabe pro 1M Tokens außerhalb der Spitzenzeiten, 0,30 $ / 1,20 $ zur werktäglichen Spitzenzeit; Cache-Treffer 0,003 $ bis 0,006 $.
Unseren Test von DeepSeek-V4.1-Flash lesen
4.2/5
10
Hy4 preview
Lizenz und Daten: Gewichte unter Apache 2.0 ohne zusätzliche Bedingungen. Die Bedingungen der chinesischen Seite von Tencent Cloud sagen, Inputs würden nicht zur Verbesserung eigener Modelle genutzt; die Aufbewahrung ist öffentlich nicht angegeben. Modelle anderer Labs auf TokenHub folgen ihren eigenen Bedingungen.
Betrieb: 0,834 $/2,501 $ pro Million Tokens auf TokenHub. 1.000 Agentenaufgaben mit 500K Input- und 30K Output-Tokens kosten ohne Cache etwa 492 $. Self-Hosting in FP8 braucht acht GPUs der B300-Klasse.
Preis: Offene Gewichte unter Apache 2.0. Tencent Cloud TokenHub: 6 ¥ Input / 18 ¥ Output pro 1 Mio. Tokens, international 0,834 $ / 2,501 $, gecachter Input 0,042 $. OpenRouter ab etwa 0,75 $ / 2,25 $. Hy3: 0,13 $ / 0,53 $.
Unseren Test von Hy4 preview lesen
4.2/5
11
Qwen3.8-Flash-Next
Lizenz und Daten: Qwen Community License 1.0: kommerzielle Nutzung erlaubt; ab 100 Millionen monatlichen Nutzern oder 20 Millionen $ Monatsumsatz muss der Modellname angezeigt werden; separate Lizenz für Model-as-a-Service- und KI-Assistenten-Geschäfte für Coding oder Büroarbeit, unabhängig von der Größe. Die Dokumentation von Qwen Cloud zur Datensicherheit behandelt Verschlüsselung und Speicherung in der Region, nennt aber weder Aufbewahrungsfrist noch Trainingsrichtlinie.
Betrieb: Gehostet: 0,15 $ Eingabe und 0,47 $ Ausgabe pro Million Tokens und 0,016 $ für Cache-Treffer; Batch wird angeboten, ohne veröffentlichten Rabatt. Selbst gehostet: rund 360 GB an BF16- oder 180 GB an FP8-Gewichten, also ein H100- oder H200-Server mit mehreren GPUs, vor dem KV-Cache.
Preis: Offene Gewichte unter der Qwen Community License 1.0 (separate Lizenz für Hosting- und KI-Assistenten-Geschäfte). Qwen3.8-Flash API: 0,15 $ Eingabe / 0,47 $ Ausgabe pro 1M Tokens; Cache-Treffer 0,016 $.
Unseren Test von Qwen3.8-Flash-Next lesen
4.2/5
12
Qwen3.8-Max
Lizenz und Daten: Die Lizenz erlaubt kommerzielle Nutzung; ab 100 Millionen monatlichen Nutzern oder 20 Millionen $ Monatsumsatz muss der Modellname angezeigt werden; separate Lizenz für Model-as-a-Service- oder KI-Arbeitsassistenten-Geschäfte ab 50 Millionen $ Jahresumsatz; interne Nutzung ist ausgenommen. Die Dokumentation von Qwen Cloud zur Datensicherheit behandelt Verschlüsselung und Speicherung in der Region, nennt aber weder Aufbewahrungsfrist noch Trainingsrichtlinie.
Betrieb: 10 Millionen Eingabe- und 2 Millionen Ausgabe-Tokens am Tag, ein viel genutzter interner Assistent, kosten zum Listenpreis etwa 32 $ am Tag oder rund 960 $ im Monat; explizite Cache-Lesezugriffe für 0,17 $ senken die Kosten für wiederholten Kontext um mehr als 90 %.
Preis: Offene Gewichte unter der Qwen3.8-Max-Lizenz. Qwen Cloud API: 2 $ Eingabe / 6 $ Ausgabe pro 1M Tokens; Cache-Lesezugriffe 0,17 $ (explizit) oder 0,25 $ (implizit).
Unseren Test von Qwen3.8-Max lesen
4.2/5
13
Step 5 Preview
Lizenz und Daten: Gewichte unter der StepFun Model License 1.0: Anzeigepflicht ab 100 Mio. Nutzern oder 20 Mio. $ Monatsumsatz, kommerzielle Lizenz für Gerätehersteller und MaaS-Unternehmen mit mehr als 20 Mio. $ im Jahr, interne Nutzung ausgenommen. StepFuns API-Bedingungen erlauben Training auf Traffic aus den Startup- und Early-Access-Programmen; die Bedingungen für anderen bezahlten Traffic sind nicht ausdrücklich formuliert.
Betrieb: 1,00 $/2,70 $ pro Million Tokens mit 90 % Rabatt auf gecachten Input. 1.000 Agenten-Aufgaben mit 500K Input- und 30K Output-Tokens kosten ungecacht etwa 581 $. Selbst gehostet braucht FP8 vier B300- oder acht H200-GPUs, BF16 acht B300 oder sechzehn H200.
Preis: Offene Gewichte unter der StepFun Model License 1.0. StepFun-API: 1,00 $ Input / 2,70 $ Output pro 1 Mio. Tokens, 90 % Rabatt auf gecachten Input; derselbe Preis auf OpenRouter und DeepInfra.
Unseren Test von Step 5 Preview lesen
4.2/5
14
Ministral 3 (3B, 8B and 14B)
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen beim Selbsthosten. Über Mistrals API können Eingaben und Ausgaben der kostenlosen Stufe fürs Training genutzt werden, wenn du nicht widersprichst; Nutzer mit Pay-as-you-go können widersprechen.
Betrieb: 0,10 $ bis 0,20 $ pro Million Tokens über Mistrals API, Batch zum halben Preis. Selbst gehostet braucht das 14B in FP8 eine GPU mit 24 GB; das 3B läuft auf Smartphones und Jetson-Boards.
Preis: Offene Gewichte unter Apache 2.0. Mistral API: 14B 0,20 $, 8B 0,15 $, 3B 0,10 $ pro 1 Mio. Tokens, gleich für Input und Output; Batch zum halben Preis.
Unseren Test von Ministral 3 (3B, 8B and 14B) lesen
4.1/5
15
Muse Glimmer
Lizenz und Daten: Apache 2.0 erlaubt kommerzielle Nutzung ohne Umsatzgrenze. Lokal betrieben verlässt nichts den Rechner; bei OpenRouter gelten die Bedingungen des Hosting-Anbieters. Metas Trainingsdaten enthalten Informationen aus den eigenen Produkten und Diensten.
Betrieb: Lokal: eine Karte mit 24 GB für den Build mit 17 GB, 32 GB für den nahezu verlustfreien Build, 64 GB für volle Präzision. Gehostet: 0,30 $/1,20 $ pro 1 Mio. Tokens bei DeepInfra, 0,35 $/1,50 $ bei Together, 300 Millionen Input- und 60 Millionen Output-Tokens im Monat kosten also etwa 162 $.
Preis: Kostenlose Gewichte unter Apache 2.0; keine Meta-API. Gehostet bei OpenRouter ab 0,30 $ pro 1 Mio. Input- und 1,20 $ pro 1 Mio. Output-Tokens (DeepInfra).
Unseren Test von Muse Glimmer lesen
4.1/5
16
Nemotron 3.5 Super VL
Lizenz und Daten: OpenMDW-1.1 erlaubt kommerzielle Nutzung. Beim Selbsthosting bleiben die Daten im Haus; gehostete Anbieter legen eigene Aufbewahrungsregeln fest, und OpenRouter bietet für dieses Modell kein Routing innerhalb der EU.
Betrieb: Zu den 0,15 $/0,50 $ von OpenRouter kosten 1M Agenten-Turns im Monat mit 8K Eingabe- und 1K Ausgabe-Tokens etwa 1.700 $, bevor die Wortfülle die Ausgabe aufbläht. Selbsthosting in BF16 bedeutet vier H100 pro Replik; NVFP4 kommt mit weniger Blackwell-Hardware aus.
Preis: Kostenlose Gewichte unter OpenMDW-1.1. Gehostet: OpenRouter ab 0,15 $ Eingabe / 0,50 $ Ausgabe pro 1M Tokens, dazu eine kostenlose Variante; NVIDIA NIM und andere Anbieter mit eigenen Preisen.
Unseren Test von Nemotron 3.5 Super VL lesen
4.1/5
17
gpt-oss-120b
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen in der Lizenz. Selbst gehostet bleiben Prompts auf deiner Hardware; gehostet richtet sich die Aufbewahrung nach den Bedingungen des jeweiligen Anbieters, und das reine EU-Routing von OpenRouter erfordert einen Business- oder Enterprise-Plan.
Betrieb: 1 Mrd. Input- und 250 Mio. Output-Tokens im Monat kosten bei 0,15 $/0,60 $ pro Million etwa 300 $; Batch auf Bedrock halbiert den Satz. Selbst hosten braucht für Inferenz eine GPU mit 80 GB und fürs Fine-Tuning einen H100-Knoten.
Preis: Kostenlose Gewichte unter Apache 2.0; die Preise beim Hosting unterscheiden sich je nach Anbieter.
Unseren Test von gpt-oss-120b lesen
4.0/5
18
Granite 4.2
Lizenz und Daten: Apache 2.0, offen für kommerzielle Nutzung und Forschung ohne Einschränkung auf Einsatzgebiete; selbst gehostet bleiben die Prompts auf deiner Hardware.
Betrieb: IBMs API berechnet 0,16 $ pro Million Input- und 0,65 $ pro Million Output-Tokens, mit 75 % Rabatt bei Cache-Treffern. Selbst gehostet braucht das 30B in 4 Bit etwa 18 GB oder in 8 Bit 31 GB.
Preis: Kostenlose Gewichte unter Apache 2.0; Hosting bei watsonx und Drittanbietern wird separat abgerechnet.
Unseren Test von Granite 4.2 lesen
4.0/5
19
LFM3
Lizenz und Daten: Self-Hosting hält die Daten lokal. Die LFM Open License v1.0 erlaubt kommerzielle Nutzung nur unter 10 Millionen $ Jahresumsatz, mit einer Ausnahme für gemeinnützige Forschung; Liquids Zusage auf der Preisseite, nicht mit Daten zu trainieren, gilt für Custom Deployments, und Aufbewahrungsbedingungen für die API sind dort nicht veröffentlicht.
Betrieb: Zu den von VentureBeat gemeldeten Preisen kosten 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat etwa 100 $ mit LFM3-1.7B und 150 $ mit LFM3-VL-2B, Audio-Tokens kommen bei Audio und Omni mit 2 $ Input und 10 $ Output pro Million hinzu. Self-Hosting braucht 1,05 bis 1,10 GB in 4 Bit, 1,85 GB in Q8_0 oder 3,47 GB in BF16; Liquid meldet 3,6 Milliarden Tokens pro Tag auf einer B300.
Preis: Kostenlose Gewichte unter der LFM Open License (kommerzielle Nutzung nur unter 10 Mio. $ Jahresumsatz). Liquid API, laut VentureBeat aus der angemeldeten Konsole: LFM3-1.7B 0,08 $ Input / 0,20 $ Output pro 1 Mio. Tokens; VL 0,10 $ / 0,50 $; Audio und Omni 0,10 $ / 1,00 $ plus Audio-Tokens. Gehostete d1-Entscheidungen 0,02 $ pro 1 Mio. Input-Tokens, Output kostenlos.
Unseren Test von LFM3 lesen
4.0/5
20
Ling-3.1-flash
Lizenz und Daten: Gewichte unter MIT, mit einer öffentlichen Zusammenfassung der Trainingsinhalte. Datenschutz- und Aufbewahrungsbedingungen der API von inclusionAI fanden sich weder auf der Modellseite noch auf den Seiten von OpenRouter; für sensible Daten selbst hosten.
Betrieb: Bei 0,30 $/0,90 $ kosten 1.000 Agentenaufgaben mit 500K Input- und 30K Output-Tokens ohne Cache etwa 177 $, vor dem überdurchschnittlichen Reasoning-Output. Zum genannten Preis von OpenRouter etwa ein Viertel davon.
Preis: Offene Gewichte unter MIT. inclusionAI API laut Artificial Analysis: 0,30 $ Input / 0,90 $ Output pro 1 Mio. Tokens, gecacht 0,06 $; OpenRouter nennt 0,075 $ / 0,225 $.
Unseren Test von Ling-3.1-flash lesen
4.0/5
21
MiniCPM-V 4.7 (35B-A3B and 1B)
Lizenz und Daten: Selbst gehostet, Bilder und Dokumente bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung, Änderung und Weitergabe ohne Umsatzgrenze.
Betrieb: Die Gewichte sind kostenlos. Das 35B braucht bei voller Präzision etwa 68 GB VRAM (eine H100 im Test von MindStudio), 36,90 GB bei Q8_0 oder 21,17 GB bei Q4_K_M; das 1B hat 0,67 GB bei Q4_K_M plus 1,11 GB für Vision. Ein gehosteter Preis pro Token ist nicht veröffentlicht.
Preis: Kostenlose Gewichte unter Apache 2.0 für beide Größen. Kein gehosteter Preis vom Hersteller veröffentlicht; du zahlst für deine eigene Hardware.
Unseren Test von MiniCPM-V 4.7 (35B-A3B and 1B) lesen
4.0/5
22
MiniCPM5-2B
Lizenz und Daten: Apache 2.0 für Code und Gewichte, ohne Umsatzgrenze oder Zusatz zur zulässigen Nutzung. Nur selbst gehostet, Prompts bleiben also auf deiner Hardware; kein Inference-Anbieter auf Hugging Face hostet es.
Betrieb: Einen gehosteten Preis gibt es nicht, die Kosten sind also Hardware: etwa 5 GB BF16-Gewichte, 2,68 GB bei Q8_0 und 1,56 GB bei Q4_K_M, was eine einzelne Consumer-GPU oder ein Laptop samt Platz für Kontext fasst. OpenBMB veröffentlicht keine Durchsatzwerte, um eine Flotte zu dimensionieren.
Preis: Kostenlose Gewichte und Trainingsdaten unter Apache 2.0.
Unseren Test von MiniCPM5-2B lesen
4.0/5
23
MiniMax-M3.1-Flash
Lizenz und Daten: Lizenz: Kommerzielle Nutzung erfordert einen Hinweis „Built with MiniMax M3.1-Flash“ und eine einmalige Benachrichtigung an MiniMax; Produkte mit mehr als 20 Millionen $ Jahresumsatz brauchen eine vorherige schriftliche Genehmigung; militärische Nutzung ist verboten. MiniMax' Bedingungen zu Aufbewahrung und Training bei der API waren auf den Seiten, die wir lesen konnten, nicht veröffentlicht.
Betrieb: 10 Milliarden Input- und 1 Milliarde Output-Tokens im Monat kosten über MiniMax' API etwa 2.100 $, gecachter Input 0,015 $ pro Million; Reasoning mit dem Aufwand max bläht die Output-Seite auf. Selbsthosten braucht für die MXFP8-Gewichte etwa 250 GB GPU-Speicher vor dem KV-Cache, was in einen H100-Knoten mit acht GPUs zu je 80 GB passt.
Preis: Offene Gewichte unter der MiniMax-Community-Lizenz. MiniMax API pro 1 Mio. Tokens, pauschal bei jeder Prompt-Länge: 0,15 $ Input, 0,60 $ Output, 0,015 $ gecachter Input.
Unseren Test von MiniMax-M3.1-Flash lesen
4.0/5
24
Muse Spark Open
Lizenz und Daten: Muse Model License: kostenlose Nutzung, Änderung, Destillation und Weitergabe; Namensnennung in jedem Produkt erforderlich; Model-as-a-Service-Anbieter mit mehr als 20 Mio. $ Jahresumsatz brauchen eine gesonderte Vereinbarung. Meta beansprucht kein Eigentum an Ausgaben. Selbst gehostet verlässt nichts deine Infrastruktur.
Betrieb: Selbsthosten: NVFP4 (etwa 537 GB) auf einem Blackwell-Knoten mit vier GPUs, BF16 (etwa 1,65 TB) auf acht B300 oder zwei Mac Studios mit M5 Ultra und je 512 GB. Gehostet kosten eine Million Support-Antworten im Monat mit 3.000 Input- und 500 Output-Tokens zu OpenRouter-Preisen etwa 5.875 $.
Preis: Kostenlose Gewichte unter der Muse Model License (Namensnennung erforderlich; Umsatzschwelle von 20 Mio. $ für Model-as-a-Service). Gehostet bei OpenRouter für 1,25 $ Input, 0,15 $ gecacht, 4,25 $ Output pro 1 Mio. Tokens.
Unseren Test von Muse Spark Open lesen
4.0/5
25
Ternary Bonsai 2 9B
Lizenz und Daten: Apache 2.0, wie beim Basismodell Qwen3.5-9B, ohne Umsatzgrenze oder Nutzungsbeschränkungen über die Lizenz hinaus. Bei lokaler Ausführung bleiben Prompts und Bilder auf dem Gerät.
Betrieb: Kostenlos auf eigener Hardware: Die PTQ1_0-Datei mit 2,00 GB ist die kleinste, die MTP-Datei mit 2,68 GB ergänzt Speculative Decoding. PrismML nennt bis zu 179 Tokens pro Sekunde auf einem M5 Max und bis zu 5-mal den Durchsatz des Modells in voller Präzision auf einer RTX 4090 und einem M5 Pro. Die Preise von Darkbloom sind nicht veröffentlicht.
Preis: Kostenlos unter Apache 2.0. Gehostet in der Darkbloom-Konsole; Preise nicht veröffentlicht.
Unseren Test von Ternary Bonsai 2 9B lesen
4.0/5
26
Flint
Lizenz und Daten: Lokal betrieben verlässt nichts den Rechner. Den OpenRouter-Endpunkt betreibt Recursive; laut Karte sind die Bedingungen und Datenpraktiken des gehosteten Dienstes von der Lizenz der Gewichte getrennt, und veröffentlichte Aufbewahrungsregeln haben wir nicht gefunden.
Betrieb: Gewichte kostenlos. Lokal ein Mac oder eine GPU mit 48 GB Speicher für die 4-Bit-Builds; auf Servern eine H200 oder B300 pro BF16-Replik (etwa 80 GB). Gehostet: kostenlos mit Rate Limit auf OpenRouter; kein kostenpflichtiger Preis pro Token veröffentlicht.
Preis: Kostenlose offene Gewichte unter Apache 2.0; kostenloser Endpunkt mit Rate Limit auf OpenRouter. Kostenpflichtige Flint-API für ausgewählte Partner, Preis nicht veröffentlicht.
Unseren Test von Flint lesen
3.9/5
27
Kolibri 1
Lizenz und Daten: Apache 2.0 ohne gesonderte Acceptable-Use-Policy und ohne Umsatzgrenze. Selbst gehostet bleiben Prompts auf deinen Servern; Aleph Alpha sagt, kundenspezifische Arbeit trainiere nie mit Kundendaten.
Betrieb: Die FP8-Gewichte belegen etwa 78 GB. Aleph Alpha nennt als Minimum eine H200, B200 oder B300 oder zwei A100 oder H100 mit 80 GB und empfiehlt für den Betrieb zwei H100 oder zwei H200. Ein gehosteter Preis pro Token ist nicht veröffentlicht.
Preis: Kostenlos unter Apache 2.0. Keine öffentliche gehostete API; Unternehmenseinsatz über den Vertrieb von Aleph Alpha, Preise nicht veröffentlicht.
Unseren Test von Kolibri 1 lesen
3.9/5
28
Mage-VL-Cowork
Lizenz und Daten: Nur selbst gehostet. Apache 2.0, doch Microsofts Hinweis zu Responsible AI sagt nur Forschung, mit Trainingsdaten aus öffentlichen, lizenzierten und internen Quellen. Die Model Card verlangt isolierte Sandboxes, keine eingebundenen Zugangsdaten und eine Netzwerk-Allowlist gegen Prompt Injection.
Betrieb: Die BF16-Gewichte sind 9,48 GB groß, und eine Berechnung von ModelFit setzt einen vollen Cache für 32K Tokens bei etwa 4,8 GB an, eine GPU mit 24 GB fasst also beides. Microsoft nennt keine Mindesthardware; in den Tests kam jede Aufgabe im Schnitt auf 18,77 Modellaufrufe und 5.499 Ausgabe-Tokens.
Preis: Kostenlos unter Apache 2.0, wobei Microsofts Repository sagt, die Mage-Modelle seien für die Forschung gedacht und nicht für den Einsatz in Produkten oder Diensten. Keine gehostete API.
Unseren Test von Mage-VL-Cowork lesen
3.9/5
29
MiniMax-M3
Lizenz und Daten: Lizenz: Kommerzielle Nutzung erfordert einen Hinweis „Built with MiniMax M3“ und eine Benachrichtigung an MiniMax; Produkte mit mehr als 20 Millionen $ Jahresumsatz brauchen eine vorherige schriftliche Genehmigung; keine militärische Nutzung. MiniMax' API-Bedingungen belassen das Eigentum bei dir, erlauben dem Unternehmen aber, Eingaben und erzeugte Inhalte zur Entwicklung und Verbesserung seiner Dienste zu nutzen; eine Widerspruchsmöglichkeit oder Aufbewahrungsfrist ist nicht veröffentlicht.
Betrieb: 1 Million Support-Antworten im Monat mit je 2.000 Input- und 300 Output-Tokens kosten in der Standardstufe etwa 960 $, mit gecachten System-Prompts weniger. Selbsthosten in BF16 braucht vor dem KV-Cache rund 850 GB GPU-Speicher: einen H200- oder B200-Knoten mit acht GPUs oder mehr als einen H100-Knoten.
Preis: Offene Gewichte unter der MiniMax-Community-Lizenz. API pro 1 Mio. Tokens bei Prompts bis 512.000: 0,30 $ Input, 1,20 $ Output, 0,06 $ gecacht; über 512.000 das Doppelte; Priority-Stufe 1,5-fach.
Unseren Test von MiniMax-M3 lesen
3.9/5
30
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)
Lizenz und Daten: Selbst gehostet, die Daten bleiben also lokal. OpenMDW-1.1 erlaubt kommerzielle Nutzung ohne Umsatzgrenze; die Rechte erlöschen, wenn du wegen Patenten oder Urheberrechten am Modell klagst. NVIDIA veröffentlicht seine Datensätze für Pre- und Post-Training, führt aber viele Quellen als privat.
Betrieb: Die Gewichte sind kostenlos, und Artificial Analysis nennt für das 74B keinen nutzungsabhängigen Preis. Hardware: eine 32-GB-GPU für 65K Kontext oder 48 GB für 262K beim 74B; E4B erreicht in NVIDIAs Tests Spitzenwerte von 3,1 bis 5,0 GB, von einer RTX 5070 bis zu Jetson Orin.
Preis: Kostenlose offene Gewichte unter OpenMDW-1.1. Für keines der beiden Modelle ist ein nutzungsabhängiger API-Preis veröffentlicht; für E4B gibt es einen Endpunkt auf build.nvidia.com.
Unseren Test von Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) lesen
3.9/5
31
Sage-A1.5
Lizenz und Daten: Apache 2.0, keine Nutzungsbeschränkungen. Die Datenbedingungen der gehosteten Testphase von Intern Discovery stehen nicht auf der Modellkarte; für sensible Arbeit selbst hosten.
Betrieb: Etwa 72GB in BF16 für 35,95 Milliarden Parameter, also eine 80GB-GPU mit wenig freiem Cache; der FP8-Build halbiert das, und das Q4_K_M-GGUF läuft in llama.cpp, Ollama und LM Studio.
Preis: Offene Gewichte unter Apache 2.0; kostenlose Testphase im Token-Tarif Intern Discovery von Shanghai AI Lab; Preise der bezahlten API nicht veröffentlicht.
Unseren Test von Sage-A1.5 lesen
3.9/5
32
Beam
Lizenz und Daten: Apache 2.0, ergänzt um die empfohlene Usage Policy von Reflection. Auf Reflections API meldet der Header reflection-data-retention jeder Antwort die Aufbewahrung zero, standard oder contributor; nur die Contributor-Bedingungen, die eine Organisation akzeptieren muss, erlauben Training auf deinen Anfragen.
Betrieb: 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat kosten bei Together AI oder Baseten etwa 520 $ und bei Nebius etwa 350 $. Selbsthosten braucht 273 GiB für NVFP4, 468,72 GiB für FP8 oder 933,81 GiB für BF16, noch ohne KV-Cache.
Preis: Gewichte kostenlos unter Apache 2.0. Reflection-API in der öffentlichen Beta kostenlos, mit täglichen Grenzen. Gehostet: Together AI und Baseten 0,40 $ Input / 0,04 $ gecacht / 1,20 $ Output pro 1 Mio. Tokens; OpenRouter ab 0,24 $ / 0,98 $.
Unseren Test von Beam lesen
3.8/5
33
Command A+
Lizenz und Daten: Selbst gehostete Gewichte halten die Daten unter Apache 2.0 im Haus. Coheres API-Plattform erfüllt SOC 2 Type II; bei zahlenden Kunden löscht Cohere protokollierte Prompts und Ausgaben nach 30 Tagen und behandelt die Nutzung fürs Training als etwas, das du unter Data Controls abschaltest (die Voreinstellung nennt Cohere nicht). Zero Data Retention gibt es nur für freigegebene Unternehmenskunden; private Deployments laufen in deiner VPC, on-premises oder in Model Vault, wo Cohere nach eigenen Angaben keinen Zugriff hat.
Betrieb: Selbst gehostet brauchst du zwei H100 oder eine B200 in W4A4, vier H100 in FP8 und acht in BF16. Gehostet kosten 1M RAG-Antworten im Monat mit 8.000 Eingabe- und 400 Ausgabe-Tokens zu OpenRouters 0,30 $/1,50 $ etwa 3.000 $.
Preis: Kostenlose Gewichte unter Apache 2.0. Preis der Cohere-API nicht veröffentlicht; OpenRouter nennt 0,30 $ Eingabe / 1,50 $ Ausgabe pro 1M Tokens. Private Deployments auf Angebot.
Unseren Test von Command A+ lesen
3.8/5
34
gpt-oss-20b
Lizenz und Daten: Selbst gehostet, die Prompts bleiben also lokal. Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning; die Nutzungsrichtlinie verlangt nur die Einhaltung geltenden Rechts.
Betrieb: Die Gewichte sind kostenlos und passen auf eine GPU mit 16 GB. Gehostet auf OpenRouter ab 0,018 $ Input und 0,09 $ Output pro 1 Mio. Tokens, 1 Mio. kurze Antworten im Monat kosten also deutlich unter 100 $; Artificial Analysis kommt auf etwa 0,01 $ pro Index-Aufgabe.
Preis: Kostenlose Gewichte unter Apache 2.0. Gehostet ab 0,018 $ Input / 0,09 $ Output pro 1 Mio. Tokens auf OpenRouter; Artificial Analysis listet 0,07 $ / 0,25 $.
Unseren Test von gpt-oss-20b lesen
3.8/5
35
LFM2.5-24B-A2B
Lizenz und Daten: Self-Hosting hält die Daten lokal. Die LFM Open License v1.0 erlaubt kommerzielle Nutzung nur Organisationen unter 10 Millionen $ Jahresumsatz, mit einer Ausnahme für gemeinnützige Forschung.
Betrieb: Auf OpenRouter kosten 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat etwa 120 $; zu den 0,10 $/1,00 $ von Liquid Console etwa 200 $. Self-Hosting braucht 13,58 bis 14,53 GB in 4 Bit, 25,49 GB in Q8_0 oder 47,96 GB in BF16.
Preis: Kostenlose Gewichte unter der LFM Open License (kommerzielle Nutzung nur unter 10 Mio. $ Jahresumsatz). Liquid Console: 0,10 $ Input / 1,00 $ Output pro 1 Mio. Tokens; OpenRouter: 0,05 $ / 0,70 $.
Unseren Test von LFM2.5-24B-A2B lesen
3.8/5
36
Ling-3.0-flash-Sante
Lizenz und Daten: Die MIT-Gewichte erlauben uneingeschränktes Self-Hosting, der sicherere Weg für Patientendaten. Auf Vercel ist Novita der einzige Provider, und die Gateway-Seite weist ihn weder als Zero Retention noch als No Training aus; prüfe Novitas Bedingungen, bevor du Gesundheitsdaten sendest.
Betrieb: Self-Hosting braucht vier GPUs mit 141 GB oder acht GPUs mit 80 GB für den vollen 256K-Kontext. Gehostet kosten 100 Millionen Input- und 20 Millionen Output-Tokens im Monat etwa 11,40 $ zu Vercels Listenpreis, vor Reasoning-Tokens.
Preis: Offene Gewichte unter MIT. Vercel AI Gateway: 0,07 $ Input / 0,22 $ Output pro 1 Mio. Tokens (Novitas Zeile: 0,08 $ Input, 0,02 $ gecacht).
Unseren Test von Ling-3.0-flash-Sante lesen
3.8/5
37
Mistral Medium 3.5
Lizenz und Daten: Modifizierte MIT-Lizenz: nur nutzbar, wenn der Monatsumsatz deines Unternehmens unter 20 Millionen $ liegt. In Mistral Studio können Eingaben und Ausgaben im kostenlosen Modus fürs Training genutzt werden, Kunden mit Pay-as-you-go können widersprechen, und Vibe trainiert standardmäßig, außer bei Enterprise.
Betrieb: 1 Milliarde Input- und 100 Millionen Output-Tokens im Monat kosten zum Listenpreis etwa 2.250 $ oder mit 50 % Batch-Rabatt etwa 1.125 $; dieselbe Last kostet bei Large 4 etwa 1.778 $. Selbsthosten bedeutet etwa 134 GB überwiegend in FP8, also mindestens vier GPUs mit 80 GB.
Preis: Offene Gewichte unter einer modifizierten MIT-Lizenz (keine Rechte für Unternehmen über 20 Mio. $ Monatsumsatz). API: 1,50 $ pro 1 Mio. Input-Tokens, 7,50 $ pro 1 Mio. Output-Tokens; Batch mit 50 % Rabatt.
Unseren Test von Mistral Medium 3.5 lesen
3.8/5
38
Nanbeige4.3-33B
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen; nur selbst gehostet, daher gelten keine Datenbedingungen Dritter. Keine Angaben zur Datenherkunft über die Modellkarte hinaus.
Betrieb: BF16-Gewichte brauchen etwa 66GB, also vier GPUs mit 24GB oder zwei mit 48GB vor dem Cache; eine 4-Bit-Version braucht etwa 21GB plus etwa 28GB Cache bei 128K Kontext.
Preis: Offene Gewichte unter Apache 2.0; keine offizielle gehostete API.
Unseren Test von Nanbeige4.3-33B lesen
3.8/5
39
ZDTaichu5.0-9B
Lizenz und Daten: Selbst gehostet, Bilder bleiben also auf deiner Hardware. Die Gewichte stehen unter der NVIDIA Open Model License: kommerzielle Nutzung und abgeleitete Modelle erlaubt, ohne Umsatzgrenze, aber die Lizenz endet, wenn du Patent- oder Urheberrechtsansprüche wegen des Modells erhebst, NVIDIA darf sie aktualisieren, und eine Weitergabe muss die Lizenz und ihren Hinweis enthalten. Die Teile von Qwen3.5 und der Repo-Code stehen unter Apache 2.0.
Betrieb: Die Gewichte sind kostenlos, einen gehosteten Preis gibt es nicht. Die Gewichtsdateien haben 19,59 GB in BF16, 12,67 GB in FP8 und 9,81 GB in NVFP4; das GGUF Q4_K_M hat 5,63 GB plus eine Vision-Datei Q8_0 mit 0,88 GB. NVFP4 läuft nur auf NVIDIA-Blackwell-GPUs nativ. Das DSpark-Draft-Modell mit 6,42 GB brachte in Taichus Tests auf einer H800 eine Beschleunigung um 2,46x bis 3,17x.
Preis: Kostenlose Gewichte unter der NVIDIA Open Model License, die Teile von Qwen3.5 unter Apache 2.0. Keine gehostete API und kein Preis pro Token veröffentlicht; du zahlst für deine eigene GPU.
Unseren Test von ZDTaichu5.0-9B lesen
3.8/5
40
FrogNano-4B-2609
Lizenz und Daten: Selbst gehostet, der Code bleibt also auf deiner Infrastruktur. Die Model Card verlangt eine Sandbox mit minimalen Rechten und standardmäßig abgeschaltetem Netzwerk; FrogNano erhielt kein eigenes Sicherheits-, Verweigerungs- oder Adversarial-Training.
Betrieb: Kein API-Preis. BF16-Gewichte belegen etwa 9,3 GB plus KV-Cache, der nahe der Grenze von 131K Tokens deutlich wächst; CPU-, Desktop-, Mobil- und quantisierter Einsatz sind nicht validiert. Microsofts Benchmark-Presets geben jeder Aufgabe bis zu 10.800 Sekunden und 150 Schritte.
Preis: Kostenlose Gewichte (auf Hugging Face als MIT markiert; die Tabelle der Model Card nennt Apache 2.0). Keine gehostete API; du betreibst es selbst, zum Beispiel mit SGLang.
Unseren Test von FrogNano-4B-2609 lesen
3.7/5
41
humanizer (12B)
Lizenz und Daten: Läuft vollständig lokal; es wird nichts irgendwohin gesendet. Apache 2.0, übernommen von Gemma 4 12B; der Autor steht in keiner Verbindung zu Google.
Betrieb: Kostenlos. Q8_0 hat 12,7 GB mit einer Spitze von 13,7 GB auf einem Mac, Q4_K_M 7,6 GB und die 2-Bit-Datei 3,9 GB mit einer Spitze von 6,2 GB; die Geschwindigkeit auf einem M5 Max liegt bei etwa 36 bis 38 Tokens pro Sekunde.
Preis: Kostenlos unter Apache 2.0: Gewichte, GGUF-Dateien, Desktop-App und CLI. Kein gehosteter Dienst.
Unseren Test von humanizer (12B) lesen
3.7/5
42
Hy-Memory-30B-A3B
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen. Selbst gehostet, also verlassen Nutzer-Memories nie deine Infrastruktur, der wichtigste Datenschutzgewinn gegenüber dem Senden jedes Zugs an ein gehostetes Modell.
Betrieb: Etwa 60GB BF16-Gewichte, also eine H100 mit 80GB oder zwei GPUs mit 48GB; quantisierte Builds für kleinere Karten gibt es noch nicht.
Preis: Offene Gewichte unter Apache 2.0; keine gehostete API.
Unseren Test von Hy-Memory-30B-A3B lesen
3.7/5
43
Mistral Small 4
Lizenz und Daten: Apache 2.0 erlaubt kommerzielle Nutzung ohne Namensnennung oder Umsatzgrenzen. Über Mistrals API können Eingaben und Ausgaben der kostenlosen Stufe fürs Training genutzt werden, wenn du nicht widersprichst; Nutzer mit Pay-as-you-go können jederzeit widersprechen; Daumen-hoch- und Daumen-runter-Feedback ist in jedem Plan nutzbar.
Betrieb: 1 Million Chat-Antworten im Monat mit 1.500 Input- und 250 Output-Tokens kosten über die API etwa 375 $ und per Batch etwa 190 $. Selbsthosten braucht pro Replika in FP8 zwei bis vier GPUs der H100-Klasse oder ein DGX B200.
Preis: Kostenlose Gewichte unter Apache 2.0. API: 0,15 $ Input / 0,60 $ Output pro 1 Mio. Tokens; Batch mit 50 % Rabatt; gecachter Input bis zu 90 % günstiger.
Unseren Test von Mistral Small 4 lesen
3.7/5
44
Spark-X2.6-4B
Lizenz und Daten: Selbst gehostet, Prompts bleiben also auf dem Gerät. Gewichte unter Apache 2.0; die Model Card macht keine Angaben zu Trainingsdaten oder Sicherheitstests. Beim Laden läuft der eigene Modellcode des Herausgebers.
Betrieb: Nur Hardware: Die BF16-Gewichte sind etwa 8,2 GB groß und das GGUF in Q4_K_M etwa 3,5 GB; ein Kontext von 1M Tokens braucht weit mehr Speicher als die Gewichte, und die Model Card rät, ihn zu verkleinern.
Preis: Kostenlos unter Apache 2.0; läuft auf deiner eigenen Hardware. Kein gehosteter Preis für das 4B-Modell veröffentlicht.
Unseren Test von Spark-X2.6-4B lesen
3.7/5
45
Clover-35B-A3B-Preview
Lizenz und Daten: Apache 2.0, übernommen von Qwen3.6-35B-A3B, mit erhaltenem Upstream-Copyright; nur selbst gehostet.
Betrieb: Eine H100 oder H200 mit 80GB für BF16; INT4 läuft laut den Tests von DiffuSpace auf einer Consumer-GPU mit 16GB.
Preis: Offene Gewichte unter Apache 2.0; keine gehostete API.
Unseren Test von Clover-35B-A3B-Preview lesen
3.6/5
46
Falcon-H1R-7B
Lizenz und Daten: Falcon LLM licence: gebührenfrei, keine Umsatzgrenze, Namensnennung Pflicht und eine Acceptable Use Policy, die TII ändern kann und die Nutzer im Blick behalten müssen.
Betrieb: Die offiziellen GGUF-Dateien reichen von 4,6GB in Q4_K_M und 8,1GB in Q8_0 bis 15,2GB in BF16, eine GPU mit 24GB schafft also Produktions-Batches; einen gehosteten Preis pro Token zum Vergleich gibt es nicht.
Preis: Kostenlose Gewichte unter der Falcon LLM licence (gebührenfrei; Namensnennung und Acceptable Use Policy vorgeschrieben). Keine öffentliche gehostete API bei Artificial Analysis gelistet.
Unseren Test von Falcon-H1R-7B lesen
3.6/5
47
Limite 1B - Violetto
Lizenz und Daten: Nur selbst gehostet, Aufgaben und Antworten bleiben also auf deiner Hardware. Die Trainingsdaten sind nur als weniger als 300 Milliarden kuratierte Tokens beschrieben; Details folgen im technischen Bericht.
Betrieb: Gewichte kostenlos; ein 1B-Checkpoint in BF16 ist etwa 2 GB groß, eine GPU reicht also, wobei Tensor- und Pipeline-Parallelität laut Model Card bei 1 bleiben. Einen gehosteten Preis gibt es nicht.
Preis: Kostenlose offene Gewichte unter Apache 2.0. Keine gehostete API; du zahlst nur für deine eigene GPU.
Unseren Test von Limite 1B - Violetto lesen
3.6/5
48
Needle 3
Lizenz und Daten: Die Inferenz berührt nie das Netz und funktioniert Air-Gapped. Anonyme Nutzungstelemetrie ist standardmäßig aktiv; NEEDLE_TELEMETRY=0 und DO_NOT_TRACK=1 schalten sie ab. Die Trainingsdaten sind proprietär und nicht offengelegt.
Betrieb: Keine Lizenz- oder Aufrufgebühren. Auf einem Raspberry Pi 5 meldet Cactus ein Dekodieren von etwa 400 Tokens pro Sekunde bei 20 Schichten bis 4.000 bei 2 Schichten. Feinabstimmung auf der Plattform und ihr 2-Bit-Post-Training kosten Geld, zu nicht veröffentlichten Preisen.
Preis: Kostenlose offene Gewichte unter Apache 2.0; vorkompilierte Engines kostenlos herunterladbar. Die Cactus Platform verkauft 2-Bit-Post-Training, Datensätze und vollständige Feinabstimmungen; Preise nicht veröffentlicht.
Unseren Test von Needle 3 lesen
3.6/5
49
Ornith-1.5-122B
Lizenz und Daten: Nur selbst gehostet, die Daten bleiben also dort, wo du es betreibst. Es gibt keine eigene API und damit keine Aufbewahrungs- oder Trainingsbedingungen zu prüfen.
Betrieb: Gewichte kostenlos. BF16 hat 250 GB (ein Knoten mit mehreren GPUs), FP8 133 GB (zwei 80-GB-Karten), und NVFP4 (77,7 GB) oder Q4_K_M (75,8 GB) sind die einzigen Builds nahe an einer 80-GB-Karte; für Macs gibt es einen MLX-4-Bit-Build mit 68,7 GB. Ein eigener gehosteter Preis ist nicht veröffentlicht; NanoGPT nennt 0,20 $ Eingabe und 0,80 $ Ausgabe pro Million Tokens, führt das Modell aber als nicht verfügbar.
Preis: Kostenlose offene Gewichte unter MIT. Du zahlst nur für eigene Hardware oder Hosting.
Unseren Test von Ornith-1.5-122B lesen
3.6/5
50
Qwen3.5-397B-A17B
Lizenz und Daten: Apache 2.0 erlaubt kommerzielle Nutzung, Fine-Tuning und Weitergabe ohne Umsatz- oder Nutzergrenzen. Beim Selbsthosting bleiben Prompts im Haus; auf OpenRouter ist es nicht über Routing innerhalb der EU verfügbar, und jeder Host legt seine eigene Aufbewahrung fest.
Betrieb: OpenRouter-Hosts verlangen 0,39 $ bis 0,75 $ Eingabe und 2,34 $ bis 4,50 $ Ausgabe pro 1M Tokens; das gehostete Qwen3.5-Plus kostet 0,30 $/1,80 $. Selbsthosting braucht etwa 406 GB für FP8 (ein Server mit acht 80-GB-GPUs), 214 GB in 4 Bit oder 180 GB in 3 Bit.
Preis: Kostenlose Gewichte unter Apache 2.0; Qwen3.5-Plus auf Alibaba Cloud und Hosting bei Drittanbietern werden gesondert berechnet.
Unseren Test von Qwen3.5-397B-A17B lesen
3.6/5
51
Underdog Saluki 27B 1.0
Lizenz und Daten: Selbst gehostet, Daten bleiben also auf dem Rechner. Apache 2.0 erlaubt kommerzielle Nutzung und Veränderung; die NOTICE-Datei nennt Qwen und ISTA-DASLab.
Betrieb: Die Gewichte sind kostenlos, und es gibt keinen API-Preis des Herstellers. Die Datei hat 7,89 GB plus bis zu 928 MB für Vision, und laut Underdog reicht ein Laptop mit 16 GB; einen VRAM-Wert für lange Kontexte gibt es nicht.
Preis: Kostenlose Gewichte unter Apache 2.0. Kein Preis für eine gehostete API; du zahlst für deine eigene Hardware oder nutzt es in der Underdog-App.
Unseren Test von Underdog Saluki 27B 1.0 lesen
3.6/5
52
Xing4.0-29B-A4B
Lizenz und Daten: Apache 2.0: kommerzielle Nutzung und Fine-Tuning erlaubt, ohne Umsatzgrenze oder Zusatz zur Acceptable Use. Selbst gehostet verlässt nichts deine Server; den OpenRouter-Endpunkt betreibt ein Dritter, Phala, unter eigenen Bedingungen.
Betrieb: BF16-Gewichte sind etwa 62GB groß (31,2B Parameter einschließlich Embeddings), eine H100 mit 80GB; FP8 halbiert das; ein GGUF-Build der Community mit 11,6GB passt auf eine 16GB-Karte. Die einzige gehostete Option, der kostenlose Endpunkt von OpenRouter, ist auf 20 Requests pro Minute und 50 pro Tag begrenzt (1.000 pro Tag, sobald ein Konto für 10 $ Guthaben gekauft hat), Produktionsverkehr heißt also Self-Hosting.
Preis: Kostenlose Gewichte unter Apache 2.0. Keine eigene API des Herstellers; OpenRouter listet einen kostenlosen Endpunkt (gehostet von Phala) mit den Request-Limits für Gratis-Modelle.
Unseren Test von Xing4.0-29B-A4B lesen
3.6/5
53
SenseNova-Loop-9B-Preview
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen; nur selbst gehostet. Das Laden erfordert Remote Code, der SenseTimes Python auf deinem Rechner ausführt. Keine Angaben zu Trainingsdaten über Rezepte für lange multimodale Sequenzen und Tool-Trajektorien hinaus.
Betrieb: Der Checkpoint mit 38,1 GB und vierfache Tensor-Parallelität in jedem Beispiel für den Betrieb verweisen auf Server mit mehreren GPUs, nicht auf einzelne Karten. Jedes Token kostet 56 Schichtdurchläufe, die Rechenleistung pro Token liegt also näher an einem 14,6B-Modell als an einem 9B-Modell.
Preis: Kostenlos unter Apache 2.0. Keine gehostete API für dieses Modell aufgeführt.
Unseren Test von SenseNova-Loop-9B-Preview lesen
3.5/5
54
SmolLM3-3B
Lizenz und Daten: Apache 2.0 ohne Zusatz zur zulässigen Nutzung; kommerzielle Nutzung und Weitergabe erlaubt. Nur zum Selbsthosten, Daten bleiben also auf deinem Gerät oder Server. Die Mischung der Trainingsdaten ist öffentlich, was Herkunftsprüfungen möglich macht.
Betrieb: Etwa 3,1 Mrd. Parameter, rund 6GB in BF16, also eine einzelne Consumer-GPU, ein Apple-Laptop oder ein 4-Bit-Build fürs Handy. Da keine kostenpflichtige API gelistet ist, sind die Kosten im großen Maßstab deine eigene Hardware.
Preis: Kostenlose Gewichte unter Apache 2.0, mit veröffentlichtem Rezept für die Trainingsdaten und Checkpoints. Keine gehostete API bei Hugging Faces eigenen Inference Providers.
Unseren Test von SmolLM3-3B lesen
3.5/5
55
Devstral Small 2
Gehostete API eingestellt am 31. März 2026; offene Gewichte weiter verfügbar
Lizenz und Daten: Apache 2.0 ohne Nutzungsbeschränkungen; selbst gehostet, Code verlässt deine Hardware also nie, außer du wählst einen Drittanbieter.
Betrieb: Einen API-Preis vom Hersteller gibt es nicht mehr; Self-Hosting bedeutet etwa 24GB VRAM für die offiziellen FP8-Gewichte, 19,3GB in Q6_K oder 14,3GB in Q4_K_M, plus Speicher für den KV-Cache bei langen Kontexten.
Preis: Kostenlose Gewichte unter Apache 2.0. Die API-Version bei Mistral wurde am 31. März 2026 abgeschaltet, und Artificial Analysis führt keine öffentliche API.
Unseren Test von Devstral Small 2 lesen
3.4/5
56
Phi-4-Reasoning-Vision-15B
Lizenz und Daten: MIT-Lizenz; beim Selbsthosting bleiben Bilder und Prompts lokal, und für das Hosting über Foundry gelten Azures Bedingungen.
Betrieb: Selbsthosting braucht eine GPU mit deutlich mehr als 30GB, etwa eine A6000 mit 48GB oder eine A100 mit 80GB; ein Foundry-Preis ist nicht veröffentlicht: Weder die Modellkarte noch Azures Einzelhandelspreisliste, die für andere Phi-4-Modelle Tarife pro Token führt, nennt einen.
Preis: Kostenlose Gewichte unter MIT; Hosting über Microsoft Foundry wird gesondert berechnet.
Unseren Test von Phi-4-Reasoning-Vision-15B lesen
3.4/5
57
Phi-4-multimodal
Lizenz und Daten: MIT-Lizenz ohne Umsatzgrenze oder gesonderte Nutzungsrichtlinie. Selbst gehostet bleiben Audio und Bilder auf deiner Hardware; Azures Bedingungen gelten nur, wenn du Microsofts gehosteten Endpunkt nutzt.
Betrieb: Bei Azure AI Foundry kostet Audio-Eingabe 4 $ pro 1M Tokens gegenüber 0,08 $ für Text und Bilder, Sprache dominiert also jede Rechnung; die Ausgabe kostet 0,32 $ pro 1M, laut Azures Einzelhandelspreisliste dieselben Tarife wie zum Start. Selbsthosting braucht eine aktuelle Rechenzentrums-GPU.
Preis: Kostenlose Gewichte unter MIT. Azure AI Foundry: 0,08 $ Eingabe / 0,32 $ Ausgabe pro 1M Text- oder Bild-Tokens; Audio-Eingabe 4 $ pro 1M.
Unseren Test von Phi-4-multimodal lesen
3.3/5
58
Devstral 2
Gehostete API eingestellt am 31. Juli 2026; offene Gewichte weiter verfügbar
Lizenz und Daten: Modifizierte MIT-Lizenz: keine Rechte für Unternehmen mit über 20 Mio. $ weltweitem Monatsumsatz im Vormonat, auch nicht für abgeleitete Werke, und ein Hinweis zur Urheberschaft ist Pflicht. Selbst gehostet bleibt der Code auf deiner Hardware.
Betrieb: Self-Hosting braucht etwa 125 GB für die Gewichte, ein Node mit vier GPUs à 80 GB ist also die Untergrenze, noch vor dem KV-Cache. Auf Mistrals API hätten 1B Eingabe- und 100M Ausgabe-Tokens im Monat zum Listenpreis etwa 600 $ gekostet.
Preis: Offene Gewichte unter modifizierter MIT-Lizenz (nicht für Unternehmen mit über 20 Mio. $ Monatsumsatz). Am 31. Juli 2026 von Mistrals API genommen.
Unseren Test von Devstral 2 lesen
3.1/5