Qu’est-ce que gpt-oss-safeguard ?
gpt-oss-safeguard est une paire de classifieurs de sécurité à poids ouverts d'OpenAI, publiée le 29 octobre 2025 et affinée à partir de gpt-oss. Le modèle 20b compte 21B paramètres dont 3.6B actifs et tient sur un GPU de 16 Go ; le 120b en compte 117B dont 5.1B actifs. Ils sont une version ouverte du Safety Reasoner qu'OpenAI utilise dans ses propres produits.
Au lieu de catégories fixes, vous fournissez votre propre politique écrite avec chaque requête, et le modèle raisonne à partir d'elle avant de donner une étiquette. La chaîne de pensée complète est visible, ce qui permet aux relecteurs de voir pourquoi un contenu a été signalé. L'effort de raisonnement peut être réglé sur faible, moyen ou élevé pour arbitrer entre précision et latence. Les deux modèles doivent être utilisés avec le format de prompt harmony d'OpenAI.
Les poids sont sous Apache 2.0 sur Hugging Face, sans accès restreint. Ils ont été lancés avec ROOST, l'association à but non lucratif consacrée à la sécurité en ligne, qui anime une communauté de praticiens utilisant des modèles de sécurité ouverts. Le 20b a été téléchargé 20,754 fois le mois dernier.
Combien coûte gpt-oss-safeguard ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| gpt-oss-safeguard-20b | Free | 21B paramètres, 3.6B actifs ; GPU de 16 Go |
| gpt-oss-safeguard-120b | Free | 117B paramètres, 5.1B actifs |
Poids ouverts gratuits sous Apache 2.0 sur Hugging Face ; auto-hébergés. Le 20b tient sur un GPU de 16 Go ; le 120b obtient un meilleur score au test multi-politiques d'OpenAI.
gpt-oss-safeguard vaut-il le coup ?
gpt-oss-safeguard fait passer la modération de l'entraînement à l'écriture. Une équipe confiance et sécurité peut publier une nouvelle règle le matin et l'appliquer l'après-midi, avec une justification écrite pour chaque décision. Les gardes de type classifieur ne le peuvent pas sans nouvelles données étiquetées.
Les chiffres d'OpenAI elle-même sont modestes, et elle le dit honnêtement. Sur son test interne multi-politiques, où chaque étiquette sur plusieurs politiques doit être juste, le 120b obtient 46.3% et le 20b 43.6%, devant gpt-5-thinking à 43.2% mais derrière le Safety Reasoner interne d'OpenAI à 52.2%. Sur le jeu public ToxicChat, le 20b atteint 79.9% de F1 et le 120b 79.3%, légèrement derrière gpt-5-thinking à 81.0% ; les deux obtiennent 82.9% sur le jeu de modération d'OpenAI de 2022.
Le rapport technique est clair sur les limites. Les classifieurs entraînés sur des dizaines de milliers d'exemples étiquetés restent meilleurs sur les catégories complexes, les modèles sont plus lents et plus lourds que les classifieurs classiques, et le raisonnement visible peut contenir des éléments hallucinés qui ne correspondent pas à la politique réellement appliquée. La pratique d'OpenAI consiste à passer d'abord des classifieurs rapides et à n'envoyer qu'une partie du trafic au modèle de raisonnement.
Face à Shieldstral 3B de Mistral, qui accepte lui aussi des politiques à l'exécution et obtient à peu près le même F1 de sécurité du texte dans les tests de Mistral, gpt-oss-safeguard est bien plus gros mais vous montre son raisonnement. Ce compromis convient aux files de relecture et aux recours, où une explication vaut l'attente.
Là où il fait la différence
Une responsable confiance et sécurité d'une place de marché face à un nouveau type d'annonce frauduleuse
Appliquer une nouvelle règle cette semaine, avant d'avoir le moindre exemple étiqueté
Rédigez la règle comme une politique avec exemples, faites passer le 20b sur les annonces signalées avec un effort de raisonnement moyen et lisez la justification en cas de désaccord pour affiner la formulation.
Une équipe des opérations de modération qui traite les recours des utilisateurs
Donner aux relecteurs un motif écrit à côté de chaque décision automatique
Repassez les dossiers contestés dans le 120b avec un effort de raisonnement élevé et joignez la chaîne de pensée au dossier, en gardant à l'esprit l'avertissement d'OpenAI sur les contenus hallucinés.
Un ingénieur plateforme avec un classifieur rapide déjà en production
Ajouter de la nuance sur les contenus limites sans ralentir chaque requête
Gardez le classifieur sur tout le trafic et n'envoyez que les scores incertains à gpt-oss-safeguard, le schéma en couches qu'OpenAI décrit pour ses propres systèmes.
Avant de vous engager
- Mise en route
- Téléchargez openai/gpt-oss-safeguard-20b ou -120b depuis Hugging Face, servez-le avec un moteur compatible avec gpt-oss et le format harmony, et fournissez votre politique comme l'explique le guide de prompts du cookbook d'OpenAI.
- Intégrations
- La même pile de service que gpt-oss ; un guide de rédaction des politiques dans le cookbook d'OpenAI ; la ROOST Model Community pour partager politiques et retours.
- Données et confidentialité
- Auto-hébergé, le contenu reste donc sur votre matériel. Apache 2.0 autorise l'usage commercial.
- Coût à grande échelle
- Aucun frais d'API. Le 20b tourne sur un GPU de 16 Go ; chaque contrôle génère des tokens de raisonnement, donc le coût et la latence augmentent avec l'effort de raisonnement et la longueur de la politique.
- Limites
- Texte uniquement ; longueur de contexte non indiquée dans la fiche ; format harmony obligatoire ; OpenAI recommande les gpt-oss ordinaires pour tout ce qui n'est pas de la classification de sécurité.
Les points forts
- Politiques rédigées en langage courant et modifiées sans réentraînement
- Raisonnement visible pour chaque décision
- Effort de raisonnement réglable : faible, moyen ou élevé
- Apache 2.0, sans accès restreint ; le 20b tient sur un GPU de 16 Go
Les points faibles
- Plus lent et plus lourd que les classifieurs dédiés
- En retrait sur les catégories complexes face aux classifieurs entraînés sur de grands jeux étiquetés
- Le raisonnement peut être halluciné
- Ne fonctionne qu'avec le format de prompt harmony
Idéal pour
Les équipes confiance et sécurité qui rédigent et révisent leurs propres politiques et ont besoin d'une explication jointe à chaque décision.
Alternatives à gpt-oss-safeguard
gpt-oss-safeguard : questions fréquentes
- gpt-oss-safeguard vaut-il le coup ?
- Le bon outil quand votre politique de modération change plus vite que vous ne pouvez étiqueter des donn ées d'entraînement, et le mauvais pour filtrer chaque message avec une faible latence. Nous lui donnons 4.0 sur 5.
- Combien coûte gpt-oss-safeguard ?
- Poids ouverts gratuits sous Apache 2.0 sur Hugging Face ; auto-hébergés. Le 20b tient sur un GPU de 16 Go ; le 120b obtient un meilleur score au test multi-politiques d'OpenAI.
- Quels sont les inconvénients de gpt-oss-safeguard ?
- Plus lent et plus lourd que les classifieurs dédiés; en retrait sur les catégories complexes face aux classifieurs entraînés sur de grands jeux étiquetés; le raisonnement peut être halluciné; ne fonctionne qu'avec le format de prompt harmony.
- À qui s’adresse gpt-oss-safeguard ?
- Les équipes confiance et sécurité qui rédigent et révisent leurs propres politiques et ont besoin d'une explication jointe à chaque décision.
- Combien coûte gpt-oss-safeguard pour une équipe ou en production ?
- Aucun frais d'API. Le 20b tourne sur un GPU de 16 Go ; chaque contrôle génère des tokens de raisonnement, donc le coût et la latence augmentent avec l'effort de raisonnement et la longueur de la politique.
- gpt-oss-safeguard est-il sûr pour les données de l’entreprise ?
- Auto-hébergé, le contenu reste donc sur votre matériel. Apache 2.0 autorise l'usage commercial.
- Quelles sont les meilleures alternatives à gpt-oss-safeguard ?
- Les alternatives les plus proches que nous avons testées sont Shieldstral 1.0 3B, Granite Guardian 4.1 8B et Qwen3Guard.
Réponses vérifiées le 6 nov. 2026.
Vous éditez gpt-oss-safeguard ? Affichez cette note sur votre site
