Qu’est-ce que Granite Guardian 4.1 8B ?
Granite Guardian 4.1 8B est le modèle de détection des risques d'IBM Research, publié en avril 2026 comme version affinée de Granite 4.1 8B. Vous lui donnez une conversation, un critère en langage courant et un barème, et il renvoie un oui ou un non entre des balises score. En mode think, il rédige d'abord son raisonnement ; en mode no-think, il répond directement.
Il fournit des critères intégrés en trois groupes : préjudice (préjudice général, biais social, jailbreak, violence, grossièretés, contenu sexuel et comportement contraire à l'éthique), contrôles de recherche documentaire (pertinence du contexte, ancrage et pertinence de la réponse) et contrôles d'agents (hallucination dans les appels de fonction). Bring Your Own Criteria permet d'écrire de nouvelles règles, par exemple de format ou de longueur, qu'IBM dit devoir être testées.
Les poids sont sous Apache 2.0, sans accès restreint. Il tourne sur Transformers, vLLM, SGLang et Docker Model Runner, et 11 quantifications de la communauté fonctionnent avec llama.cpp, Ollama et LM Studio. Il a été entraîné et testé uniquement en anglais. Les versions antérieures, dont la 3.3 8B et les classifieurs de haine, d'injures et de grossièretés de 38M et 125M, restent sur Hugging Face.
Combien coûte Granite Guardian 4.1 8B ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| Weights | Free | Apache 2.0, sans accès restreint |
| Self-hosted | Free | 8B en BF16 sur votre propre GPU |
Poids ouverts gratuits sous Apache 2.0, sans accès restreint sur Hugging Face ; auto-hébergement uniquement, aucun fournisseur d'inférence hébergée référencé.
Granite Guardian 4.1 8B vaut-il le coup ?
L'argument de Granite Guardian, c'est l'étendue sous une licence nette. La plupart des modèles de garde s'arrêtent au contenu nuisible ; celui-ci vérifie aussi si une réponse s'appuie sur le texte récupéré et si l'appel de fonction d'un agent correspond aux outils dont il disposait, le tout sous Apache 2.0 sans accès restreint.
Les chiffres d'IBM pour la 4.1 montrent où l'effort a porté. La détection dans les appels de fonction sur FC Reward Bench est passée de 0.74 en version 3.3 à 0.79 en mode no-think. Les critères personnalisés ont le plus progressé : l'exactitude équilibrée sur les tâches à contraintes multiples d'IFEval est passée de 0.569 avec le seul prompt à 0.844. L'ancrage sur LLM-AggreFact est resté à 0.76 en mode think, comme pour la 3.3. La sécurité elle-même a peu bougé : IBM annonce un F1 de 0.79 en no-think, à peu près comme les versions précédentes, et un faible 0.44 sur la mesure de refus de xstest.
IBM est franc sur le coût. La fiche le destine à l'évaluation de modèles, à la surveillance et aux contrôles ponctuels avec des besoins de latence modérés, et oriente les équipes aux budgets de latence serrés vers le modèle de 38M pour la haine, les injures et les grossièretés. Le mode think ajoute un raisonnement généré à chaque contrôle, et IBM prévient que ce raisonnement peut contenir du texte dangereux et ne pas refléter la façon dont le score a été obtenu.
L'entraînement en anglais seulement est la principale limite pratique. Pour une modération multilingue, Qwen3Guard couvre 119 langues et dialectes, et pour un filtrage rapide des injections un classifieur comme Prompt Guard 2 coûte bien moins cher par appel.
Là où il fait la différence
Une équipe RAG chez un éditeur juridique qui répond à des questions sur des résumés d'affaires
Signaler les réponses que les passages récupérés ne soutiennent pas
Envoyez la question, le contexte récupéré et la réponse avec le critère d'ancrage en mode no-think, et transmettez les oui à une relecture humaine. Le faire tourner sur un échantillon du trafic contient le coût GPU.
Un développeur d'agents dont l'assistant réserve des réunions par appels de fonction
Repérer les appels aux arguments inventés ou vers la mauvaise fonction
Passez le schéma de l'outil et l'appel proposé avec le critère d'hallucination dans les appels de fonction avant l'exécution ; IBM annonce 0.79 sur FC Reward Bench pour ce contrôle en mode no-think.
Une responsable confiance et sécurité d'une application communautaire anglophone
Faire respecter une règle maison que les catégories de préjudice standard ne couvrent pas
Rédigez la règle comme un prompt Bring Your Own Criteria, testez-la sur un échantillon étiqueté comme le conseille IBM et appliquez-la aux publications signalées plutôt qu'à chaque message.
Avant de vous engager
- Mise en route
- pip install transformers torch vllm, puis vllm serve ibm-granite/granite-guardian-4.1-8b ; le prompt de jugement va dans le dernier message utilisateur avec une consigne think ou no-think, les critères et le barème.
- Intégrations
- Transformers, vLLM, SGLang et Docker Model Runner ; versions GGUF de la communauté pour llama.cpp, Ollama et LM Studio ; notebooks Colab et Kaggle.
- Données et confidentialité
- Auto-hébergé, les prompts et documents restent donc sur votre matériel. Apache 2.0 autorise l'usage commercial sans accès restreint.
- Coût à grande échelle
- Aucun frais d'API ; un GPU qui sert un modèle de 8B. Le mode think coûte des tokens générés en plus à chaque contrôle : no-think pour le volume, think pour les audits.
- Limites
- Anglais uniquement ; renvoie oui ou non, pas une étiquette multiclasse calibrée ; longueur de contexte non indiquée dans la fiche ; IBM recommande de n'utiliser que son modèle de prompt.
Les points forts
- Contrôles du préjudice, de l'ancrage en RAG et des appels de fonction dans un seul modèle
- Exactitude des critères personnalisés de 0.569 à 0.844 sur IFEval à contraintes multiples
- Apache 2.0 et sans accès restreint
- Les modes think et no-think échangent latence contre explication
Les points faibles
- Anglais uniquement
- À 8B, trop lent pour filtrer chaque message en ligne
- F1 de sécurité à peu près stable par rapport aux versions précédentes
- Le raisonnement peut être infidèle ou contenir du texte dangereux
Idéal pour
Les équipes anglophones qui veulent un seul juge ouvert pour la sécurité, l'ancrage de la recherche documentaire et les appels d'outils des agents, appliqué à un échantillon ou au trafic à risque.
Alternatives à Granite Guardian 4.1 8B
Granite Guardian 4.1 8B : questions fréquentes
- Granite Guardian 4.1 8B vaut-il le coup ?
- Un juge ouvert pour les applications en anglais qui couvre le préjudice, l'ancrage et les appels d'outils dans un seul modèle, même si, à 8B, il sert aux contrôles ponctuels plutôt qu'au filtrage en ligne de chaque message. Nous lui donnons 4.0 sur 5.
- Combien coûte Granite Guardian 4.1 8B ?
- Poids ouverts gratuits sous Apache 2.0, sans accès restreint sur Hugging Face ; auto-hébergement uniquement, aucun fournisseur d'inférence hébergée référencé.
- Quels sont les inconvénients de Granite Guardian 4.1 8B ?
- Anglais uniquement; à 8B, trop lent pour filtrer chaque message en ligne; f1 de sécurité à peu près stable par rapport aux versions précédentes; le raisonnement peut être infidèle ou contenir du texte dangereux.
- À qui s’adresse Granite Guardian 4.1 8B ?
- Les équipes anglophones qui veulent un seul juge ouvert pour la sécurité, l'ancrage de la recherche documentaire et les appels d'outils des agents, appliqué à un échantillon ou au trafic à risque.
- Combien coûte Granite Guardian 4.1 8B pour une équipe ou en production ?
- Aucun frais d'API ; un GPU qui sert un modèle de 8B. Le mode think coûte des tokens générés en plus à chaque contrôle : no-think pour le volume, think pour les audits.
- Granite Guardian 4.1 8B est-il sûr pour les données de l’entreprise ?
- Auto-hébergé, les prompts et documents restent donc sur votre matériel. Apache 2.0 autorise l'usage commercial sans accès restreint.
- Quelles sont les meilleures alternatives à Granite Guardian 4.1 8B ?
- Les alternatives les plus proches que nous avons testées sont Qwen3Guard, gpt-oss-safeguard et Shieldstral 1.0 3B.
Réponses vérifiées le 6 nov. 2026.
Vous éditez Granite Guardian 4.1 8B ? Affichez cette note sur votre site
