Was ist gpt-oss-20b?
gpt-oss-20b ist das kleinere der beiden Open-Weight-Modelle von OpenAI, veröffentlicht im August 2025. Es hat 21 Milliarden Parameter, von denen pro Token 3,6 Milliarden aktiv sind, und weil seine Mixture-of-Experts-Gewichte in 4-Bit-MXFP4 ausgeliefert werden, ist der gesamte Checkpoint etwa 13,8 GB groß und läuft in 16 GB Speicher. Sein Kontext umfasst 131.072 Tokens.
Es ist ein reines Text-Reasoning-Modell mit den Aufwandsstufen low, medium und high, die im System-Prompt gesetzt werden, mit eingebauter Werkzeugnutzung und sichtbarer Chain of Thought, und es funktioniert nur mit OpenAIs harmony-Prompt-Format korrekt. Laut OpenAI erreicht es bei Tests zu Reasoning, Mathematik und Gesundheit das Niveau von o3-mini.
Die Gewichte sind unter Apache 2.0 kostenlos, mit einer Nutzungsrichtlinie aus einem Satz, die verlangt, geltendes Recht einzuhalten. OpenAI bietet es nicht über die eigene API an; man betreibt es mit Ollama, LM Studio, llama.cpp oder vLLM oder über Hosts, die auf OpenRouter gelistet sind.
Was kostet gpt-oss-20b?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Weights | Free | Apache 2.0 |
| OpenRouter | From $0.018 in / $0.09 out per 1M tokens | |
| Artificial Analysis listing | $0.07 in / $0.25 out per 1M tokens |
Kostenlose Gewichte unter Apache 2.0. Gehostet ab 0,018 $ Input / 0,09 $ Output pro 1 Mio. Tokens auf OpenRouter; Artificial Analysis listet 0,07 $ / 0,25 $.
Lohnt sich gpt-oss-20b?
gpt-oss-20b bleibt eine vernünftige Standardwahl für privates, reines Text-Reasoning auf bescheidener Hardware, vor allem weil es schnell ist und fast nichts kostet. Artificial Analysis misst 185 Output-Tokens pro Sekunde bei 0,82 Sekunden bis zum ersten Token, Platz acht von 64 vergleichbaren Modellen bei der Geschwindigkeit, und der günstigste Weg auf OpenRouter kostet 0,018 $ pro Million Input-Tokens. Bei diesem Satz fällt der Preis einer Antwort kaum ins Gewicht.
Seine Intelligenz ist für die Klasse mittelmäßig. Artificial Analysis gibt der Einstellung mit hohem Aufwand im Intelligence Index 9 Punkte, Platz 50 von 141 offenen Modellen ähnlicher Größe und knapp über dem Median von 8. Für den Index verbrauchte es 70 Millionen Output-Tokens, weniger als der Median von 82 Millionen. Anders als viele Reasoning-Modelle opfert es seinen Geschwindigkeitsvorteil also nicht langen Gedankenketten. Seine Trainingsdaten enden im Mai 2024, was sich bei allem Aktuellen bemerkbar macht.
Die Lizenz ist der andere Grund, warum Unternehmen bei ihm bleiben. OpenAIs Nutzungsrichtlinie ist ein einziger Satz, der die Einhaltung des Rechts verlangt, ohne Umsatzschwelle oder Liste zulässiger Nutzungen, die mit der Rechtsabteilung zu klären wäre, und das Modell lässt sich auf Consumer-Hardware feinabstimmen. Das Hugging-Face-Repository verzeichnete im letzten Monat 5,78 Millionen Downloads, vierzehn Monate nach der Veröffentlichung.
Die Einschränkungen sind konstruktionsbedingt. Es liest nur Text, das harmony-Format ist Pflicht, und die rohe Chain of Thought, die es offenlegt, ist laut OpenAI nicht für Endnutzer gedacht, Produkte brauchen also einen Filter zwischen Modell und Bildschirm. Das 26B A4B von Gemma 4 passt mit 14,4 GB in Googles offizieller 4-Bit-Version in ein ähnliches Speicherbudget und bietet zusätzlich Bild- und Videoeingabe. Dorthin hat sich der Platz für Modelle in Laptop-Größe verschoben.
Wo es sich lohnt
Ein Entwickler in einer Anwaltskanzlei mit einem Laptop mit 16 GB
Mandantendokumente zusammenfassen und abfragen, ohne sie an eine Cloud-API zu schicken
Betreib es in Ollama oder LM Studio mit medium-Aufwand; nichts verlässt den Rechner, und es gibt keine Rechnung pro Token. Rechne mit soliden Zusammenfassungen, aber schwächerem Reasoning als bei Spitzen-APIs und ohne Wissen nach Mai 2024.
Ein Leiter der Support-Abläufe bei einem SaaS-Unternehmen mit 1 Mio. Tickets im Monat
Tickets zu minimalen Kosten klassifizieren und für das Routing verschlagworten
Über den günstigsten Weg auf OpenRouter kosten 1 Mio. Tickets mit 1.000 Input- und 500 Output-Tokens etwa 63 $ im Monat. Niedriger Aufwand hält die Latenz gering; schwierige Fälle gehen an ein größeres Modell.
Ein ML-Ingenieur mit einer Workstation-GPU
Ein Reasoning-Modell auf internen Werkzeugen feinabstimmen und in einem Produkt ausliefern
Laut OpenAI lässt sich das 20B auf Consumer-Hardware feinabstimmen, und Apache 2.0 erlaubt es, das Ergebnis ohne Lizenzverhandlung auszuliefern. Das größere 120B braucht für dieselbe Aufgabe einen einzelnen H100-Knoten.
Bevor du dich festlegst
- Einrichtung
- In Ollama, LM Studio oder llama.cpp laden oder von Hugging Face herunterladen; das Chat-Template von Transformers wendet harmony automatisch an, direkte Aufrufe von model.generate müssen es aber selbst anwenden.
- Integrationen
- Function Calling, Browsing und Python-Werkzeuge im harmony-Format; OpenAI-kompatible Server über vLLM, Ollama und LM Studio; fünf API-Anbieter, die Artificial Analysis erfasst.
- Daten und Datenschutz
- Selbst gehostet, die Prompts bleiben also lokal. Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning; die Nutzungsrichtlinie verlangt nur die Einhaltung geltenden Rechts.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos und passen auf eine GPU mit 16 GB. Gehostet auf OpenRouter ab 0,018 $ Input und 0,09 $ Output pro 1 Mio. Tokens, 1 Mio. kurze Antworten im Monat kosten also deutlich unter 100 $; Artificial Analysis kommt auf etwa 0,01 $ pro Index-Aufgabe.
- Grenzen
- Kontext von 131.072 Tokens; nur Text; Wissensstand Mai 2024; drei Reasoning-Stufen; die Ausgabe verschlechtert sich ohne harmony-Formatierung.
Was gut ist
- Läuft in 16 GB; Checkpoint etwa 13,8 GB
- Apache 2.0 mit einer Nutzungsrichtlinie aus einem Satz
- 185 Tokens pro Sekunde bei Artificial Analysis
- Gehostet ab 0,018 $ pro 1 Mio. Input-Tokens
Was nicht
- Intelligence Index von 9, Mittelfeld für seine Größe
- Nur Text; Wissensstand endet im Mai 2024
- Versagt ohne das harmony-Prompt-Format
- Die rohe Chain of Thought muss gefiltert werden, bevor Nutzer sie sehen
Am besten für
Entwickler, die ein kostenloses, privates und schnelles Reasoning-Modell auf einem Laptop oder einer einzelnen Consumer-GPU wollen und keine Bildeingabe brauchen.
Alternativen zu gpt-oss-20b
gpt-oss-20b: häufige Fragen
- Lohnt sich gpt-oss-20b?
- Vierzehn Monate später ist gpt-oss-20b noch immer das günstigste brauchbare Reasoning-Modell zum Hosten, doch Gemma 4 leistet in denselben 16 GB inzwischen mehr. Wir bewerten es mit 3.8 von 5.
- Was kostet gpt-oss-20b?
- Kostenlose Gewichte unter Apache 2.0. Gehostet ab 0,018 $ Input / 0,09 $ Output pro 1 Mio. Tokens auf OpenRouter; Artificial Analysis listet 0,07 $ / 0,25 $.
- Welche Nachteile hat gpt-oss-20b?
- Intelligence Index von 9, Mittelfeld für seine Größe; Nur Text; Wissensstand endet im Mai 2024; Versagt ohne das harmony-Prompt-Format; Die rohe Chain of Thought muss gefiltert werden, bevor Nutzer sie sehen.
- Für wen eignet sich gpt-oss-20b?
- Entwickler, die ein kostenloses, privates und schnelles Reasoning-Modell auf einem Laptop oder einer einzelnen Consumer-GPU wollen und keine Bildeingabe brauchen.
- Was kostet gpt-oss-20b für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos und passen auf eine GPU mit 16 GB. Gehostet auf OpenRouter ab 0,018 $ Input und 0,09 $ Output pro 1 Mio. Tokens, 1 Mio. kurze Antworten im Monat kosten also deutlich unter 100 $; Artificial Analysis kommt auf etwa 0,01 $ pro Index-Aufgabe.
- Ist gpt-oss-20b sicher für Firmendaten?
- Selbst gehostet, die Prompts bleiben also lokal. Apache 2.0 erlaubt kommerzielle Nutzung und Fine-Tuning; die Nutzungsrichtlinie verlangt nur die Einhaltung geltenden Rechts.
- Was sind die besten Alternativen zu gpt-oss-20b?
- Die nächsten Alternativen, die wir getestet haben, sind gpt-oss-120b, Gemma 4 und Phi-4-Reasoning-Vision-15B.
Antworten geprüft am 22. Okt. 2026.