Was ist gpt-oss-safeguard?
gpt-oss-safeguard ist ein Paar Sicherheitsklassifikatoren mit offenen Gewichten von OpenAI, erschienen am 29. Oktober 2025 und aus gpt-oss feingetunt. Das 20b-Modell hat 21B Parameter, davon 3.6B aktiv, und passt auf eine GPU mit 16 GB; das 120b hat 117B, davon 5.1B aktiv. Sie sind eine offene Version des Safety Reasoner, den OpenAI in seinen eigenen Produkten einsetzt.
Statt fester Kategorien gibst du mit jeder Anfrage deine eigene schriftliche Richtlinie mit, und das Modell denkt sie durch, bevor es ein Label vergibt. Die vollständige Gedankenkette ist sichtbar, sodass Prüfer sehen, warum etwas markiert wurde. Der Reasoning-Aufwand lässt sich auf niedrig, mittel oder hoch stellen, um Genauigkeit gegen Latenz abzuwägen. Beide Modelle müssen mit OpenAIs Prompt-Format harmony genutzt werden.
Die Gewichte stehen unter Apache 2.0 auf Hugging Face, ohne Zugangsbeschränkung. Sie erschienen zusammen mit ROOST, der gemeinnützigen Organisation für Online-Sicherheit, die eine Community für Fachleute betreibt, die offene Sicherheitsmodelle nutzen. Das 20b wurde im letzten Monat 20,754 Mal heruntergeladen.
Was kostet gpt-oss-safeguard?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| gpt-oss-safeguard-20b | Free | 21B Parameter, 3.6B aktiv; GPU mit 16 GB |
| gpt-oss-safeguard-120b | Free | 117B Parameter, 5.1B aktiv |
Kostenlose offene Gewichte unter Apache 2.0 auf Hugging Face; selbst gehostet. Das 20b passt auf eine GPU mit 16 GB; das 120b schneidet in OpenAIs Multi-Policy-Test besser ab.
Lohnt sich gpt-oss-safeguard?
gpt-oss-safeguard verlagert Moderation vom Trainieren zum Schreiben. Ein Trust-and-Safety-Team kann morgens eine neue Regel veröffentlichen und sie nachmittags durchsetzen, mit einer schriftlichen Begründung für jede Entscheidung. Klassifikator-Guards schaffen das nicht ohne neue gelabelte Daten.
OpenAIs eigene Zahlen sind bescheiden, und das sagt OpenAI auch offen. Im internen Multi-Policy-Test, bei dem jedes Label über mehrere Richtlinien stimmen muss, erreicht das 120b 46.3% und das 20b 43.6%, vor gpt-5-thinking mit 43.2%, aber hinter OpenAIs internem Safety Reasoner mit 52.2%. Auf dem öffentlichen Set ToxicChat kommt das 20b auf 79.9% F1 und das 120b auf 79.3%, knapp hinter gpt-5-thinking mit 81.0%; beide erreichen 82.9% auf OpenAIs Moderationsset von 2022.
Der technische Bericht ist klar bei den Grenzen. Klassifikatoren, die mit zehntausenden gelabelten Beispielen trainiert wurden, sind bei komplexen Kategorien weiterhin besser, die Modelle sind langsamer und schwerer als klassische Klassifikatoren, und die sichtbare Begründung kann halluzinierte Inhalte enthalten, die nicht zur tatsächlich angewandten Richtlinie passen. OpenAIs eigenes Muster ist, zuerst schnelle Klassifikatoren laufen zu lassen und nur einen Teil des Verkehrs an das Reasoning-Modell zu schicken.
Verglichen mit Mistrals Shieldstral 3B, das ebenfalls Richtlinien zur Laufzeit annimmt und in Mistrals Tests etwa denselben F1 für Textsicherheit erreicht, ist gpt-oss-safeguard viel größer, zeigt dir aber seine Begründung. Dieser Tausch passt zu Prüfwarteschlangen und Einsprüchen, wo eine Erklärung das Warten wert ist.
Wo es sich lohnt
Eine Trust-and-Safety-Leiterin bei einem Marktplatz, der mit einer neuen Art betrügerischer Anzeigen kämpft
Diese Woche eine neue Regel durchsetzen, bevor es gelabelte Beispiele gibt
Schreibe die Regel als Richtlinie mit Beispielen, lass das 20b mit mittlerem Reasoning-Aufwand über markierte Anzeigen laufen und lies bei Abweichungen die Begründung, um die Formulierung zu schärfen.
Ein Moderations-Operations-Team, das Einsprüche von Nutzern bearbeitet
Prüfern zu jeder automatischen Entscheidung einen schriftlichen Grund geben
Schicke angefochtene Fälle erneut mit hohem Reasoning-Aufwand durch das 120b und hänge die Gedankenkette an den Fall, eingedenk von OpenAIs Warnung, dass sie halluzinierte Inhalte enthalten kann.
Ein Plattform-Engineer mit einem schnellen Klassifikator in Produktion
Mehr Feingefühl bei Grenzfällen, ohne jede Anfrage zu verlangsamen
Lass den Klassifikator auf dem gesamten Verkehr laufen und leite nur unsichere Werte an gpt-oss-safeguard weiter, das mehrschichtige Muster, das OpenAI für seine eigenen Systeme beschreibt.
Bevor du dich festlegst
- Einrichtung
- openai/gpt-oss-safeguard-20b oder -120b von Hugging Face laden, mit einer Engine bereitstellen, die gpt-oss und das Format harmony unterstützt, und die Richtlinie so übergeben, wie es der Prompting-Leitfaden im OpenAI Cookbook beschreibt.
- Integrationen
- Derselbe Serving-Stack wie bei gpt-oss; ein Leitfaden zum Schreiben von Richtlinien im OpenAI Cookbook; die ROOST Model Community für geteilte Richtlinien und Feedback.
- Daten und Datenschutz
- Selbst gehostet, Inhalte bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung.
- Kosten im großen Maßstab
- Keine API-Gebühr. Das 20b läuft auf einer GPU mit 16 GB; jede Prüfung erzeugt Reasoning-Tokens, sodass Kosten und Latenz mit Reasoning-Aufwand und Richtlinienlänge steigen.
- Grenzen
- Nur Text; Kontextlänge in der Model Card nicht angegeben; Format harmony erforderlich; OpenAI empfiehlt für alles außer Sicherheitsklassifikation die normalen gpt-oss-Modelle.
Was gut ist
- Richtlinien in einfacher Sprache, änderbar ohne Neutraining
- Sichtbare Begründung für jede Entscheidung
- Einstellbarer Reasoning-Aufwand: niedrig, mittel oder hoch
- Apache 2.0, ohne Zugangsbeschränkung; 20b passt auf eine GPU mit 16 GB
Was nicht
- Langsamer und schwerer als spezialisierte Klassifikatoren
- Bei komplexen Kategorien hinter Klassifikatoren mit großen gelabelten Sets
- Die Begründung kann halluziniert sein
- Funktioniert nur mit dem Prompt-Format harmony
Am besten für
Trust-and-Safety-Teams, die eigene Richtlinien schreiben und überarbeiten und zu jeder Entscheidung eine Erklärung brauchen.
Alternativen zu gpt-oss-safeguard
gpt-oss-safeguard: häufige Fragen
- Lohnt sich gpt-oss-safeguard?
- Das richtige Werkzeug, wenn sich deine Moderationsrichtlinie schneller ändert, als du Trainingsdaten labeln kannst, und das falsche, um jede Nachricht mit niedriger Latenz zu prüfen. Wir bewerten es mit 4.0 von 5.
- Was kostet gpt-oss-safeguard?
- Kostenlose offene Gewichte unter Apache 2.0 auf Hugging Face; selbst gehostet. Das 20b passt auf eine GPU mit 16 GB; das 120b schneidet in OpenAIs Multi-Policy-Test besser ab.
- Welche Nachteile hat gpt-oss-safeguard?
- Langsamer und schwerer als spezialisierte Klassifikatoren; Bei komplexen Kategorien hinter Klassifikatoren mit großen gelabelten Sets; Die Begründung kann halluziniert sein; Funktioniert nur mit dem Prompt-Format harmony.
- Für wen eignet sich gpt-oss-safeguard?
- Trust-and-Safety-Teams, die eigene Richtlinien schreiben und überarbeiten und zu jeder Entscheidung eine Erklärung brauchen.
- Was kostet gpt-oss-safeguard für ein Team oder im Produktivbetrieb?
- Keine API-Gebühr. Das 20b läuft auf einer GPU mit 16 GB; jede Prüfung erzeugt Reasoning-Tokens, sodass Kosten und Latenz mit Reasoning-Aufwand und Richtlinienlänge steigen.
- Ist gpt-oss-safeguard sicher für Firmendaten?
- Selbst gehostet, Inhalte bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung.
- Was sind die besten Alternativen zu gpt-oss-safeguard?
- Die nächsten Alternativen, die wir getestet haben, sind Shieldstral 1.0 3B, Granite Guardian 4.1 8B und Qwen3Guard.
Antworten geprüft am 6. Nov. 2026.
Du entwickelst gpt-oss-safeguard? Zeig diese Bewertung auf deiner Website
