Was ist Qwen3Guard?
Qwen3Guard ist eine Familie von Moderationsmodellen des Qwen-Teams von Alibaba, erschienen im September 2025 und auf Qwen3 aufgebaut. Es gibt zwei Formen, jeweils in den Größen 0.6B, 4B und 8B. Qwen3Guard-Gen liest einen ganzen Prompt oder Prompt mit Antwort und schreibt ein Sicherheitslabel samt Kategorien. Qwen3Guard-Stream ergänzt einen Klassifikationskopf, der jedes Token labelt, während das Hauptmodell es erzeugt, sodass eine unsichere Antwort mitten im Stream abgebrochen werden kann.
Statt Ja oder Nein liefert es eines von drei Labels: sicher, umstritten oder unsicher. Umstritten deckt Inhalte ab, deren Schaden vom Kontext abhängt; im strengen Modus behandelst du sie als unsicher, im lockeren als sicher. Die Kategorien sind Gewalt, nicht gewaltsame illegale Handlungen, sexuelle Inhalte, personenbezogene Daten, Suizid und Selbstverletzung, unethische Handlungen, politisch heikle Themen, Urheberrechtsverletzung und, nur für Eingaben, Jailbreaks. Antwortprüfungen melden zudem, ob das Modell verweigert hat.
Die Modelle wurden mit 1.19 Millionen gelabelten Prompts und Antworten trainiert und unterstützen 119 Sprachen und Dialekte. Die Gewichte stehen unter Apache 2.0 und sind auf Hugging Face frei zugänglich; das 8B-Gen-Modell wurde im letzten Monat 110,997 Mal heruntergeladen.
Was kostet Qwen3Guard?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Qwen3Guard-Gen | Free | 0.6B, 4B oder 8B; ganzer Prompt oder ganze Antwort |
| Qwen3Guard-Stream | Free | 0.6B, 4B oder 8B; Token für Token |
Kostenlose offene Gewichte unter Apache 2.0, frei zugänglich auf Hugging Face, in den Größen 0.6B, 4B und 8B; selbst gehostet. Alibaba Cloud bietet zudem einen gehosteten Dienst AI Guardrails auf dieser Basis an.
Lohnt sich Qwen3Guard?
Qwen3Guards Vorteil sind die Sprachen. Im technischen Bericht des Qwen-Teams erreicht das 8B-Gen-Modell auf chinesischen Prompt-Benchmarks im Schnitt 85.1 F1 gegenüber 44.1 bei Llama Guard 4 12B und auf dem mehrsprachigen Set RTP-LX 85.0 gegenüber 41.7. Auf Englisch kommt es im Schnitt auf 90.0 bei Prompts und 83.9 bei Antworten, vor WildGuard 7B mit 85.8 und 79.9. Ein Vorbehalt: Qwens Durchschnitte nehmen pro Benchmark den besseren von strengem und lockerem Modus, was das Ergebnis etwas schönt.
Das dreistufige Label ist die Designentscheidung, die in der Praxis zählt. Eine Lern-App für Kinder und eine Plattform für Fiktion für Erwachsene sind sich über denselben Grenzfall uneins; mit Qwen3Guard teilen sie ein Modell und unterscheiden sich nur darin, ob umstritten Blockieren bedeutet.
Die Stream-Variante ist der andere Grund, hinzusehen. Sie bewertet jedes erzeugte Token, und laut Bericht liegt sie etwa zwei F1-Punkte hinter dem Gen-Modell. Bei 813 unsicheren Antworten traf sie in etwa 86.0% der Fälle genau den ersten unsicheren Satz, und in Reasoning-Spuren fand sie unsichere Inhalte in etwa 66.8% der Fälle innerhalb der ersten 128 Tokens. Der Preis ist die Integration: Sie liest Token-IDs von Qwen3, andere Modellfamilien müssen ihre Ausgabe also neu tokenisieren, und die Unterstützung für Stream in vLLM und SGLang ist noch in Arbeit.
Die Dokumentation ist holprig. Das Beispiel zur Antwortmoderation im README nutzt einen falschen Modellnamen und gibt eine undefinierte Variable aus, Benchmark-Tabellen gibt es in der Model Card nur als Bilder, und das GitHub-Repository hat sich seit Oktober 2025 nicht verändert. Die Modelle sind solide; lies eher den Bericht als das README.
Wo es sich lohnt
Ein Trust-and-Safety-Team einer Messaging-App mit Nutzern in Asien und Lateinamerika
Nutzerprompts und Bot-Antworten auf Chinesisch, Indonesisch, Spanisch und Portugiesisch moderieren
Stelle Qwen3Guard-Gen-4B per vLLM hinter einem OpenAI-kompatiblen Endpunkt bereit und schicke jeden Beitrag hindurch; werte umstritten bei Konten Minderjähriger als unsicher und sonst als sicher.
Ein Engineer mit einem Qwen3-basierten Assistenten, der lange Antworten streamt
Eine unsichere Antwort stoppen, solange sie noch erzeugt wird
Gib jede erzeugte Token-ID mit Transformers an Qwen3Guard-Stream und schließe den Stream, sobald ein Token als unsicher gelabelt wird, statt auf die Prüfung der vollständigen Antwort zu warten.
Ein Forscher, der ein Modell mit Reinforcement Learning trainiert
Sichere Antworten belohnen, ohne pauschale Verweigerungen zu belohnen
Nutze Gens Sicherheitslabel und sein Verweigerungsfeld als Belohnungssignale, wie Qwen es mit Gen-4B beim Training von Qwen3-4B-SafeRL getan hat; eine kleinere Größe macht das Belohnungsmodell günstiger.
Bevor du dich festlegst
- Einrichtung
- vllm serve Qwen/Qwen3Guard-Gen-4B --max-model-len 32768 (vLLM 0.9.0+ oder SGLang 0.4.6.post1+), dann die Zeilen Safety und Categories aus der Antwort auslesen. Stream braucht Transformers 4.51+ mit trust_remote_code.
- Integrationen
- Transformers, vLLM und SGLang für Gen; OpenAI-kompatible Endpunkte; der gehostete Dienst AI Guardrails von Alibaba Cloud baut darauf auf.
- Daten und Datenschutz
- Selbst gehostet, der Text bleibt also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung.
- Kosten im großen Maßstab
- Keine API-Gebühr; du zahlst deine eigenen GPUs, und die Größe 0.6B ist am günstigsten zu betreiben. Die Kosten von Stream wachsen etwa linear mit der Antwortlänge, während das wiederholte Prüfen einer wachsenden Antwort mit Gen viel mehr kostet.
- Grenzen
- Kontextlänge über die Serving-Beispiele mit 32,768 Tokens hinaus nicht angegeben; Stream ist an den Qwen3-Tokenizer gebunden; die Kategorien sind fest.
Was gut ist
- 119 Sprachen und Dialekte; starke chinesische und mehrsprachige Werte in Qwens Bericht
- Labels sicher, umstritten und unsicher mit strengem und lockerem Modus
- Stream-Variante moderiert während der Generierung Token für Token
- Apache 2.0, frei zugänglich, Größen von 0.6B bis 8B
Was nicht
- Qwens Durchschnitte wählen pro Benchmark den besseren Modus
- Stream braucht Qwen3-Tokens; noch keine Unterstützung in vLLM oder SGLang
- Beispiele im README enthalten Fehler
- Feste Kategorien; keine eigenen Policies in einfacher Sprache
Am besten für
Teams, die Chats oder Modellausgaben in vielen Sprachen moderieren und ein offenes Modell mit einstellbarer Mitte zwischen sicher und unsicher wollen.
Alternativen zu Qwen3Guard
Qwen3Guard: häufige Fragen
- Lohnt sich Qwen3Guard?
- Das offene Guard-Modell, an dem sich mehrsprachige Moderation messen muss, mit einem Label für Umstrittenes, das Streit über Grenzfälle erspart, und einem Streaming-Modus, der Antworten schon beim Schreiben prüft. Wir bewerten es mit 4.3 von 5.
- Was kostet Qwen3Guard?
- Kostenlose offene Gewichte unter Apache 2.0, frei zugänglich auf Hugging Face, in den Größen 0.6B, 4B und 8B; selbst gehostet. Alibaba Cloud bietet zudem einen gehosteten Dienst AI Guardrails auf dieser Basis an.
- Welche Nachteile hat Qwen3Guard?
- Qwens Durchschnitte wählen pro Benchmark den besseren Modus; Stream braucht Qwen3-Tokens; noch keine Unterstützung in vLLM oder SGLang; Beispiele im README enthalten Fehler; Feste Kategorien; keine eigenen Policies in einfacher Sprache.
- Für wen eignet sich Qwen3Guard?
- Teams, die Chats oder Modellausgaben in vielen Sprachen moderieren und ein offenes Modell mit einstellbarer Mitte zwischen sicher und unsicher wollen.
- Was kostet Qwen3Guard für ein Team oder im Produktivbetrieb?
- Keine API-Gebühr; du zahlst deine eigenen GPUs, und die Größe 0.6B ist am günstigsten zu betreiben. Die Kosten von Stream wachsen etwa linear mit der Antwortlänge, während das wiederholte Prüfen einer wachsenden Antwort mit Gen viel mehr kostet.
- Ist Qwen3Guard sicher für Firmendaten?
- Selbst gehostet, der Text bleibt also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung.
- Was sind die besten Alternativen zu Qwen3Guard?
- Die nächsten Alternativen, die wir getestet haben, sind Granite Guardian 4.1 8B, Shieldstral 1.0 3B und gpt-oss-safeguard.
Antworten geprüft am 6. Nov. 2026.
Du entwickelst Qwen3Guard? Zeig diese Bewertung auf deiner Website
