Qu’est-ce que Qwen3Guard ?
Qwen3Guard est une famille de modèles de modération de l'équipe Qwen d'Alibaba, publiée en septembre 2025 et construite sur Qwen3. Elle existe sous deux formes, chacune en tailles 0.6B, 4B et 8B. Qwen3Guard-Gen lit un prompt entier ou un prompt avec sa réponse et rédige une étiquette de sécurité et des catégories. Qwen3Guard-Stream ajoute une tête de classification qui étiquette chaque token à mesure que le modèle principal le génère, si bien qu'une réponse dangereuse peut être coupée en plein flux.
Au lieu d'un oui ou d'un non, il renvoie l'une de trois étiquettes : sûr, controversé ou dangereux. Controversé couvre les contenus dont le préjudice dépend du contexte ; en mode strict, vous le traitez comme dangereux, en mode souple comme sûr. Les catégories sont contenu violent, actes illégaux non violents, contenu sexuel, données personnelles, suicide et automutilation, actes contraires à l'éthique, sujets politiquement sensibles, atteinte au droit d'auteur et, pour les entrées seulement, jailbreaks. Les contrôles de réponses indiquent aussi si le modèle a refusé.
Les modèles ont été entraînés sur 1.19 million de prompts et réponses étiquetés et prennent en charge 119 langues et dialectes. Les poids sont sous Apache 2.0 et sans accès restreint sur Hugging Face ; le modèle Gen de 8B a été téléchargé 110,997 fois le mois dernier.
Combien coûte Qwen3Guard ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| Qwen3Guard-Gen | Free | 0.6B, 4B ou 8B ; prompt ou réponse entiers |
| Qwen3Guard-Stream | Free | 0.6B, 4B ou 8B ; token par token |
Poids ouverts gratuits sous Apache 2.0, sans accès restreint sur Hugging Face, en tailles 0.6B, 4B et 8B ; auto-hébergés. Alibaba Cloud propose aussi un service hébergé AI Guardrails qui s'appuie dessus.
Qwen3Guard vaut-il le coup ?
L'atout de Qwen3Guard, ce sont les langues. Dans le rapport technique de l'équipe Qwen, le modèle Gen de 8B obtient en moyenne 85.1 de F1 sur les benchmarks de prompts en chinois contre 44.1 pour Llama Guard 4 12B, et 85.0 sur le jeu multilingue RTP-LX contre 41.7. En anglais, il atteint en moyenne 90.0 sur les prompts et 83.9 sur les réponses, devant WildGuard 7B à 85.8 et 79.9. Une réserve : les moyennes de Qwen retiennent le meilleur des modes strict et souple pour chaque benchmark, ce qui l'avantage quelque peu.
L'étiquette à trois niveaux est le choix de conception qui compte en pratique. Une application éducative pour enfants et une plateforme de fiction pour adultes ne s'accordent pas sur le même texte limite ; avec Qwen3Guard, elles partagent un modèle et ne diffèrent que sur le fait de bloquer ou non le controversé.
La variante Stream est l'autre raison de s'y intéresser. Elle note chaque token généré, et le rapport la situe à environ deux points de F1 du modèle Gen. Sur 813 réponses dangereuses, elle a signalé exactement la première phrase dangereuse dans environ 86.0% des cas, et sur des traces de raisonnement elle a repéré un contenu dangereux dans les 128 premiers tokens dans environ 66.8% des cas. Le prix à payer est l'intégration : elle lit des identifiants de tokens Qwen3, donc les autres familles de modèles doivent retokeniser leur sortie, et la prise en charge de Stream dans vLLM et SGLang est encore en cours.
La documentation est brute. L'exemple de modération des réponses du README utilise un mauvais nom de modèle et affiche une variable non définie, les tableaux de benchmarks ne sont que des images dans la fiche du modèle, et le dépôt GitHub n'a pas bougé depuis octobre 2025. Les modèles sont solides ; attendez-vous à lire le rapport plutôt que le README.
Là où il fait la différence
Une équipe confiance et sécurité d'une messagerie aux utilisateurs répartis entre l'Asie et l'Amérique latine
Modérer les prompts des utilisateurs et les réponses du bot en chinois, indonésien, espagnol et portugais
Servez Qwen3Guard-Gen-4B avec vLLM derrière un endpoint compatible OpenAI et faites-y passer chaque tour ; traitez le controversé comme dangereux pour les comptes de mineurs et comme sûr ailleurs.
Un ingénieur avec un assistant basé sur Qwen3 qui diffuse de longues réponses en streaming
Arrêter une réponse dangereuse pendant qu'elle est encore générée
Transmettez chaque identifiant de token généré à Qwen3Guard-Stream avec Transformers et fermez le flux dès qu'un token est étiqueté dangereux, au lieu d'attendre de vérifier la réponse complète.
Un chercheur qui entraîne un modèle par apprentissage par renforcement
Récompenser les réponses sûres sans récompenser les refus systématiques
Utilisez l'étiquette de sécurité de Gen et son champ de refus comme signaux de récompense, comme Qwen l'a fait avec Gen-4B pour entraîner Qwen3-4B-SafeRL ; une taille plus petite rend le modèle de récompense moins coûteux.
Avant de vous engager
- Mise en route
- vllm serve Qwen/Qwen3Guard-Gen-4B --max-model-len 32768 (vLLM 0.9.0+ ou SGLang 0.4.6.post1+), puis analysez les lignes Safety et Categories de la réponse. Stream demande Transformers 4.51+ avec trust_remote_code.
- Intégrations
- Transformers, vLLM et SGLang pour Gen ; endpoints compatibles OpenAI ; le service hébergé AI Guardrails d'Alibaba Cloud repose sur lui.
- Données et confidentialité
- Auto-hébergé, le texte reste donc sur votre matériel. Apache 2.0 autorise l'usage commercial.
- Coût à grande échelle
- Aucun frais d'API ; vous payez vos propres GPU, et la taille 0.6B est la moins chère à servir. Le coût de Stream croît à peu près linéairement avec la longueur de la réponse, alors que revérifier avec Gen une réponse qui s'allonge coûte bien plus.
- Limites
- Longueur de contexte non indiquée au-delà des exemples de service à 32,768 tokens ; Stream est lié au tokenizer de Qwen3 ; catégories fixes.
Les points forts
- 119 langues et dialectes ; bons scores en chinois et en multilingue dans le rapport de Qwen
- Étiquettes sûr, controversé et dangereux avec modes strict et souple
- La variante Stream modère token par token pendant la génération
- Apache 2.0, sans accès restreint, tailles de 0.6B à 8B
Les points faibles
- Les moyennes de Qwen retiennent le meilleur mode par benchmark
- Stream exige des tokens Qwen3 ; pas encore de prise en charge dans vLLM ni SGLang
- Les exemples du README contiennent des erreurs
- Catégories fixes ; pas de règles personnalisées en langage courant
Idéal pour
Les équipes qui modèrent des chats ou des sorties de modèles dans de nombreuses langues et veulent un modèle ouvert avec un juste milieu réglable entre sûr et dangereux.
Alternatives à Qwen3Guard
Qwen3Guard : questions fréquentes
- Qwen3Guard vaut-il le coup ?
- Le modèle de garde ouvert à battre pour la modération multilingue, avec une étiquette controversé qui évite les débats sur les cas limites et un mode streaming qui vérifie les réponses pendant leur écriture. Nous lui donnons 4.3 sur 5.
- Combien coûte Qwen3Guard ?
- Poids ouverts gratuits sous Apache 2.0, sans accès restreint sur Hugging Face, en tailles 0.6B, 4B et 8B ; auto-hébergés. Alibaba Cloud propose aussi un service hébergé AI Guardrails qui s'appuie dessus.
- Quels sont les inconvénients de Qwen3Guard ?
- Les moyennes de Qwen retiennent le meilleur mode par benchmark; stream exige des tokens Qwen3 ; pas encore de prise en charge dans vLLM ni SGLang; les exemples du README contiennent des erreurs; catégories fixes ; pas de règles personnalisées en langage courant.
- À qui s’adresse Qwen3Guard ?
- Les équipes qui modèrent des chats ou des sorties de modèles dans de nombreuses langues et veulent un modèle ouvert avec un juste milieu réglable entre sûr et dangereux.
- Combien coûte Qwen3Guard pour une équipe ou en production ?
- Aucun frais d'API ; vous payez vos propres GPU, et la taille 0.6B est la moins chère à servir. Le coût de Stream croît à peu près linéairement avec la longueur de la réponse, alors que revérifier avec Gen une réponse qui s'allonge coûte bien plus.
- Qwen3Guard est-il sûr pour les données de l’entreprise ?
- Auto-hébergé, le texte reste donc sur votre matériel. Apache 2.0 autorise l'usage commercial.
- Quelles sont les meilleures alternatives à Qwen3Guard ?
- Les alternatives les plus proches que nous avons testées sont Granite Guardian 4.1 8B, Shieldstral 1.0 3B et gpt-oss-safeguard.
Réponses vérifiées le 6 nov. 2026.
Vous éditez Qwen3Guard ? Affichez cette note sur votre site
