Étape 18 sur 22
Garde-fous
Filtrer entrées et sorties contre les injections, les fuites et les violations de règles. Les agents lisent du texte non fiable et effectuent de vraies actions. Un contrôle peu coûteux avant chaque étape attrape ce que le modèle principal laisse passer.
Par Sheela · Vérifié le 23 oct. 2026 · Notre méthode d’évaluation
Comment choisir
- Injection de prompt dans du contenu récupéré : filtrez-le avant qu'il n'entre dans le contexte.
- Règles de politique et de sujets : un framework de garde-fous combinant règles et modèle.
- Validation des appels d'outils risqués : un modèle de décision rapide ou un humain dans la boucle.
Ce qu’il faut regarder
Les questions qui départagent les options, par ordre d’importance.
01
Les risques qu'il détecte réellement
Associez chaque option aux risques auxquels vous faites face : injection de prompt et jailbreaks, fuites de données personnelles et du prompt système, contenu toxique ou contraire à vos règles, demandes hors sujet et usage dangereux des outils. Le Top 10 OWASP pour les applications LLM est une liste de contrôle utile ; LLM01 (injection de prompt), LLM02 (divulgation d'informations sensibles) et LLM06 (autonomie excessive) sont ceux que les garde-fous traitent le plus directement. Un outil qui ne note que la toxicité n'arrêtera pas une injection cachée dans une page web récupérée.
02
À quel endroit de la boucle il peut contrôler
Les contrôles d'entrée filtrent ce que l'utilisateur envoie ; les contrôles de sortie filtrent la réponse ; pour les agents, il faut aussi contrôler les documents récupérés, les entrées des outils et leurs résultats. NeMo Guardrails a des rails séparés pour l'entrée, la sortie, la recherche et l'exécution des outils, et Lakera Guard accepte chacun d'eux sous forme de requêtes distinctes. L'injection indirecte arrive par la recherche et les sorties d'outils : un garde-fou qui ne voit que le message de l'utilisateur rate l'attaque la plus courante contre les agents.
03
Les faux positifs, mesurés sur votre propre trafic
Chaque détecteur arbitre entre attaques manquées et requêtes bloquées à tort, et les chiffres de précision des fournisseurs sont mesurés sur leurs propres jeux de test. Lakera documente quatre niveaux de sévérité et utilise par défaut le plus strict ; la fiche de Prompt Guard 2 de Meta prévient que la précision baisse sur les prompts propres à une application. Avant la mise en ligne, faites passer par le garde-fou quelques centaines de requêtes réelles et inoffensives ainsi qu'un ensemble d'attaques connues, et notez le taux de blocage et le taux d'échec à chaque seuil.
04
Latence et coût par contrôle
Chaque contrôle fondé sur un modèle ajoute un aller-retour avant que l'utilisateur ne voie une réponse, et un agent peut en exécuter plusieurs par tour. Les petits classifieurs sont rapides : Laya annonce quelques millisecondes sur GPU et GLiNER2.5-Decide quelques centaines de millisecondes sur CPU, tandis que demander au LLM principal de se contrôler lui-même peut ajouter des secondes. Les API hébergées ajoutent du temps réseau et sont généralement facturées à la requête : comptez donc les requêtes par tour d'agent, pas par conversation.
05
Auto-hébergé ou API
Les garde-fous voient chaque prompt et chaque réponse : ils traitent donc vos données les plus sensibles. Les frameworks ouverts et les modèles à poids ouverts (NeMo Guardrails, Guardrails AI, GLiNER2.5-Decide, Laya) tournent dans votre infrastructure. Les services hébergés comme Jev ou Lakera Guard s'adoptent plus vite mais ajoutent un sous-traitant de données ; l'option auto-hébergée de Lakera exige une licence Enterprise.
06
Comment vous définissez les règles
Certaines options fournissent des détecteurs fixes (injection, données personnelles, modération) ; d'autres vous laissent définir vos propres étiquettes ou questions oui/non à chaque requête, ce qui convient aux règles métier comme « s'agit-il d'une demande de remboursement au-delà de la limite ». Les modèles de décision comme Jev et Laya sont souples, mais vous devez écrire et tester les questions. Les frameworks comme NeMo Guardrails ajoutent une logique de flux en Colang, puissante mais qui est un langage de plus à apprendre.
07
Maintenance et propriétaire
Cette catégorie se consolide vite. Guardrails AI a fermé son Hub hébergé en août 2026 et a été racheté par Harvey ; LLM Guard de Protect AI a été archivé en juillet 2026 ; Lakera appartient désormais à Check Point. Vérifiez la date de la dernière version et les intérêts du propriétaire, et gardez le garde-fou derrière votre propre interface pour pouvoir le remplacer.
Ce qui distingue les options
Les garde-fous se répartissent en trois familles. Les frameworks (NeMo Guardrails, Guardrails AI) enveloppent vos appels LLM dans un pipeline de contrôles et vous laissent brancher des détecteurs, des expressions régulières et outils de données personnelles aux classifieurs de sécurité comme Llama Guard ; ils couvrent le plus de terrain mais demandent de la configuration. Les API de filtrage hébergées (Lakera Guard) offrent des détecteurs maintenus derrière un seul endpoint, avec une sévérité réglable et aucun modèle à faire tourner, au prix d'un envoi du texte à un fournisseur. Les petits modèles de classification et de décision (GLiNER2.5-Decide, Laya, Jev) répondent à une question que vous définissez, comme « est-ce une tentative d'injection » ou « faut-il approuver cet appel d'outil », avec une probabilité à laquelle vous pouvez appliquer un seuil.
En pratique, les équipes les combinent : un classifieur rapide ou une API sur chaque entrée et chaque document récupéré, un framework ou un modèle de décision pour les règles métier et la validation des outils, et des autorisations d'outils au moindre privilège en dessous, car aucun garde-fou n'attrape toutes les attaques adaptatives.
7 outils comparés
Classés selon notre note. Ouvrez un avis pour voir les sources, les prix et le verdict complet.
| Outil | Note | Notre verdict | Idéal pour | Prix |
|---|---|---|---|---|
| NVIDIA NeMo Guardrailsdépôt | 4.0/5 | NeMo Guardrails est la couche de politique ouverte la plus large pour les agents, et il facture cette largeur en configuration, latence et un changelog plein de changements cassants. | Les équipes qui construisent des agents ou des assistants face au client ayant besoin d'une couche de politique configurable autour de chaque appel de modèle et d'outil. | Gratuit et open source sous Apache 2.0. Les modèles NemoGuard et les microservices NIM de NVIDIA sont distribués séparément. |
| Lakera Guard (Check Point AI Guardrails)outil | 4.0/5 | Lakera Guard est un filtre bien documenté contre l'injection de prompt, qui s'ajoute en un seul appel d'API, mais au-delà de 10 000 requêtes par mois, vous négociez avec l'équipe commerciale entreprise de Check Point. | Équipes qui veulent un filtre géré contre l'injection de prompt et les fuites de données devant leurs chatbots et agents, sans exploiter leurs propres classifieurs. | Community gratuit : 10 000 requêtes/mois, prompts de 8k tokens, SaaS uniquement. Enterprise sur devis : volume flexible, SaaS ou auto-hébergé, SSO, RBAC, intégration SIEM. Aucun prix publié au-delà de l'offre gratuite. |
| Jevmodèle | 3.8/5 | Jev a transformé les décisions typées en produit, et des modèles ouverts l'ont depuis dépassé en score comme en prix. | Les équipes qui veulent une API hébergée à bas coût pour le routage de texte, le tri et les portes oui/non sans faire tourner leurs propres GPU. | 0,042 $ par 1M de tokens en entrée (42 $ le milliard) ; les tokens de sortie sont gratuits. Même prix en long contexte. Limites entreprise via l'équipe commerciale. |
| Splunk Agent Observabilityoutil | 3.7/5 | Les petits modèles juges de Galileo permettent de noter à peu de frais chaque conversation d'agent, mais sous Splunk, le produit est devenu un achat d'entreprise précédé d'un appel commercial. | Les grandes organisations déjà sur Splunk Observability qui veulent noter chaque conversation d'agent et bloquer les actions dangereuses à l'exécution. | Agent Observability à partir de 100 $/mois pour 1,2M de spans par an, facturé annuellement, avec 500M de tokens Luna et 5 sessions de fine-tuning Luna par an ; tokens Luna supplémentaires et conservation prolongée sur devis. La Free Edition de Splunk Observability Cloud (jusqu'à 15 hôtes, sans expiration) inclut le traçage d'agents. Les anciennes offres Free (5 000 traces/mois) et Pro (100 $/mois facturés à l'année, 50 000 traces) de Galileo ne sont plus publiées. |
| GLiNER2.5-Decidemodèle | 3.6/5 | GLiNER2.5-Decide est un classificateur d'étiquettes rapide et honnête qui réussit bien sur les tâches de Fastino et reste loin derrière sur celles de tous les autres. | Les ingénieurs qui ont besoin de décisions bon marché de routage d'intention, de modération ou d'anti-spam sur CPU uniquement et peuvent affiner sur leurs propres étiquettes. | Poids et bibliothèque gratuits sous Apache 2.0. L'agent d'affinage hébergé de Fastino est un produit distinct. |
| Layamodèle | 3.4/5 | Très rapide et véritablement ouvert, mais proche du hasard sur les décisions difficiles à la sortie de la boîte : une base à affiner, pas un remplaçant de Jev. | Les équipes avec leurs propres données de décision étiquetées qui veulent un modèle minuscule, auto-hébergé, à affiner pour un routage ou des garde-fous rapides. | Poids et paquet Python gratuits sous Apache 2.0. Pas d'API payante hébergée ; vous le faites tourner vous-même. |
| Guardrails AIdépôt | 3.2/5 | Une bonne idée laissée sans propriétaire : le code Apache 2.0 tourne encore, mais personne ne fusionne les correctifs et les pièces hébergées ont disparu. | Les utilisateurs existants avec des validateurs déterministes qui peuvent épingler les versions et le patcher eux-mêmes. | Gratuit et open source sous Apache 2.0. Le registre Hub hébergé et l'inférence distante gratuite ont fermé le 25 août 2026. |
Côte à côte
Les caractéristiques qui comptent pour cette étape. Vérifiées le 23 oct. 2026 ; confirmez-les sur le site du fournisseur avant de vous engager.
| Outil | Type | Ce qu'il contrôle | Déploiement | Latence publiée | Licence |
|---|---|---|---|---|---|
| NVIDIA NeMo Guardrails | Framework de rails (YAML + Colang) | Entrée, sortie, recherche, outils, dialogue | Auto-hébergement : bibliothèque, serveur ou NIM | Dépend des rails utilisés | Apache 2.0 |
| Lakera Guard (Check Point AI Guardrails) | API de filtrage hébergée | Injection, données personnelles, modération, liens, outils | SaaS ; auto-hébergement sur Enterprise | Moins de 50 ms (selon le fournisseur) | Propriétaire |
| Jev | Modèle de décision hébergé | Oui/non, choix ou score que vous définissez | API uniquement | Médiane de 267–316 ms | Propriétaire |
| GLiNER2.5-Decide | Classifieur zero-shot (moins de 0.5B) | Étiquettes définies à chaque requête | Auto-hébergement, CPU ou GPU | 294 ms sur un CPU de bureau | Apache 2.0 |
| Laya | Modèle de décision ouvert (421M) | Oui/non, choix ou score que vous définissez | Auto-hébergement, CPU ou GPU | Médiane de 5,8 ms | Apache 2.0 |
| Guardrails AI | Bibliothèque de validateurs | Données personnelles, toxicité, structure, sur mesure | Auto-hébergement uniquement (Hub fermé) | Non publié | Apache 2.0 |
Connectez-le à votre agent
Des serveurs MCP qui permettent à des assistants comme Claude, ChatGPT et Cursor d’utiliser directement ces outils.
Où s’insère cette étape
- Discuter avec vos documents : nous commencerions par NVIDIA NeMo Guardrails.
- Agent de service client : nous commencerions par NVIDIA NeMo Guardrails.
- Agent de code : nous commencerions par Jev MCP.
- Assistant à mémoire longue : nous commencerions par NVIDIA NeMo Guardrails.
- Pipeline de génération d'images : nous commencerions par GLiNER2.5-Decide.
- Production vidéo : nous commencerions par GLiNER2.5-Decide.
- Agent vocal : nous commencerions par NVIDIA NeMo Guardrails.
- IA privée, sur l'appareil : nous commencerions par Laya MCP Server.
- Traitement de documents : nous commencerions par NVIDIA NeMo Guardrails.
- Votre propre modèle fine-tuné : nous commencerions par NVIDIA NeMo Guardrails.
- Automatisation de workflows : nous commencerions par Jev MCP.