Qu’est-ce que NVIDIA NeMo Guardrails ?
NeMo Guardrails enveloppe une application LLM dans des rails : les rails d'entrée vérifient les messages des utilisateurs, les rails de sortie vérifient les réponses, les rails de récupération vérifient le contenu RAG, les rails d'exécution vérifient les appels d'outils, et les rails de dialogue orientent les conversations le long de flux écrits en Colang, le langage de NVIDIA pour la logique de conversation (la version 1.0 est le défaut ; la 2.0 est prise en charge). La configuration est du YAML plus du Colang, extensible avec Python.
Les vérifications peuvent utiliser le LLM principal pour se relire, ou des modèles dédiés : les modèles NemoGuard de NVIDIA pour la sécurité de contenu, le contrôle de sujet et la détection de jailbreak, Llama Guard de Meta, et des services comme Cisco AI Defense, ActiveFence, F5 Guardrails et Microsoft Presidio pour les données personnelles. Il tourne comme bibliothèque Python, comme serveur avec un endpoint façon OpenAI, ou comme microservice Kubernetes de NVIDIA.
Il est sous licence Apache 2.0. La version 0.24.0 (26 août 2026) a étendu le moteur IORails plus rapide à 59 des 67 vérifications d'entrée et de sortie de la bibliothèque, et la 0.24.1 a suivi le 16 septembre 2026.
NVIDIA NeMo Guardrails vaut-il le coup ?
NeMo Guardrails est la boîte à outils ouverte la plus large pour contrôler une appli LLM à l'exécution. Elle couvre chaque point où les choses tournent mal : ce que l'utilisateur envoie, ce que la récupération renvoie, ce que les outils reçoivent et ce que le modèle répond. Les rails d'exécution pour les appels d'outils la rendent plus pertinente pour les agents que la plupart des rivaux, et le développement est soutenu, avec des commits la plupart des jours et trois versions mineures entre juillet et septembre 2026.
Il est utile d'être clair sur ce que les garde-fous attrapent. Les vérifications par classifieur comme Llama Guard 4 (un modèle de 12B qui étiquette texte et images contre 14 catégories de danger) et Prompt Guard 2 de Meta (détecteurs d'injection de 86M et 22M) attrapent bien le contenu nuisible manifeste et les patterns de jailbreak connus. Ils manquent les choses plus subtiles. La propre fiche de Meta dit que Prompt Guard 2 peut être battu par des attaques adaptatives et perd en exactitude sur les prompts spécifiques à une application, et les catégories de Llama Guard pour la diffamation, la propriété intellectuelle et les élections ont besoin de faits qu'il n'a pas. Une injection de prompt indirecte déterminée cachée dans un document récupéré peut encore passer. Les garde-fous réduisent le risque ; les permissions d'outils au moindre privilège restent la vraie défense.
La latence est le coût opérationnel, et la réponse de NVIDIA est IORails, un moteur qui fait tourner les vérifications d'entrée et de sortie NemoGuard en parallèle en mode non-streaming, avec un contrôle d'admission qui renvoie une réponse de surcharge plutôt que de mettre en file indéfiniment. Depuis la 0.24.0, il couvre 59 des 67 vérifications, mais les configurations hors de cet ensemble retombent silencieusement sur l'ancien moteur LLMRails sauf si vous passez require_iorails=True, et la vérification parallèle de la sortie en streaming a encore besoin de LLMRails. La version 0.24.0 à elle seule listait six changements cassants, alors épinglez les versions.
Un réglage par défaut surprend les gens. La bibliothèque envoie de la télémétrie anonyme à NVIDIA quand un objet rails démarre puis des battements de cœur périodiques ; NVIDIA dit que la charge contient les versions et les comptages de rails configurés, jamais les prompts ou les clés, et DO_NOT_TRACK=1 ou NEMO_GUARDRAILS_NO_USAGE_STATS=1 la désactive s'il est réglé avant le démarrage. Guardrails AI est plus léger pour la validation de sortie structurée ; celui-ci est plus proche d'un moteur de politique, et il demande le temps d'ingénierie qu'un moteur de politique mérite.
Là où il fait la différence
Un ingénieur plateforme dans une banque de détail qui fait tourner un assistant face au client
Bloquer les jailbreaks et les réponses hors sujet ou dangereuses avant qu'elles n'atteignent les clients
Faites tourner nemoguardrails server avec des rails d'entrée et de sortie adossés aux modèles NemoGuard de sécurité de contenu et de jailbreak, en utilisant IORails avec require_iorails=True pour que les vérifications tournent en parallèle. La bibliothèque est gratuite ; les coûts sont un GPU pour les classifieurs et un aller-retour de modèle ajouté par rail.
Une équipe d'agent qui donne à un LLM un accès en écriture à des API internes
Vérifier les arguments et les résultats des outils avant que l'agent n'agisse dessus
Les rails d'exécution inspectent ce que chaque outil reçoit et renvoie, et les rails de récupération peuvent masquer les données personnelles via Presidio avant que les morceaux n'atteignent le prompt. Cela réduit, mais ne ferme pas, le risque d'injection indirecte ; les identifiants d'API cadrés comptent encore plus.
Un responsable des risques IA chez un assureur qui a besoin de support fournisseur pour l'audit
Mettre un service de garde-fous supporté devant plusieurs applis internes
Développez les rails localement avec la bibliothèque ouverte, puis déployez les mêmes YAML et Colang sur le microservice NeMo Guardrails de NVIDIA sous NVIDIA AI Enterprise, listé à 4 500 $ par GPU par an pour les systèmes auto-gérés.
Avant de vous engager
- Mise en route
- pip install nemoguardrails sur Python 3.10 à 3.13, écrivez un dossier de config de YAML et Colang, puis nemoguardrails server --config ./config --port 8000 pour un endpoint /v1/chat/completions façon OpenAI.
- Intégrations
- Enveloppe LangChain ; NemoGuard, Llama Guard, Cisco AI Defense, ActiveFence, F5 Guardrails, Fiddler, Cleanlab et Presidio ; traçage OpenTelemetry vers votre propre backend ; microservice déployé par Helm pour Kubernetes.
- Données et confidentialité
- La télémétrie est activée par défaut et aussi écrite dans ~/.config/nemoguardrails/usage_stats.json ; désinscrivez-vous avec DO_NOT_TRACK=1. Les rails qui appellent des modèles hébergés envoient du texte à ces fournisseurs, et NVIDIA dit que ses endpoints build.nvidia.com sont pour l'évaluation seulement, pas la production ni les données personnelles. Aucun avis pour le paquet n'apparaît dans la base de données d'avis de GitHub.
- Coût à grande échelle
- La bibliothèque est gratuite sous Apache 2.0. Le vrai coût est l'inférence supplémentaire : chaque rail basé sur un modèle ajoute un appel par message, les rails d'auto-vérification utilisent votre LLM principal, et les classifieurs NemoGuard ont besoin de capacité GPU. NVIDIA AI Enterprise, qui couvre le microservice, est listé à 4 500 $ par GPU par an.
- Limites
- Environ 270 issues et pull requests ouvertes ; IORails prend en charge 59 des 67 vérifications et aucun rail de sortie en streaming parallèle ; les versions mineures portent des changements cassants ; les classifieurs manquent les injections adaptatives et indirectes.
Les points forts
- Couvre les vérifications d'entrée, de sortie, de récupération, d'outils et de dialogue
- Branche Llama Guard, NemoGuard, Presidio et des détecteurs commerciaux
- IORails fait tourner les vérifications NemoGuard en parallèle pour réduire la latence ajoutée
- Bibliothèque, serveur façon OpenAI ou microservice Kubernetes
Les points faibles
- La télémétrie anonyme vers NVIDIA est activée par défaut
- Changements cassants dans les versions mineures
- Colang ajoute une courbe d'apprentissage
- Les meilleurs détecteurs vous orientent vers les modèles NVIDIA
Idéal pour
Les équipes qui construisent des agents ou des assistants face au client ayant besoin d'une couche de politique configurable autour de chaque appel de modèle et d'outil.
Alternatives à NVIDIA NeMo Guardrails
NVIDIA NeMo Guardrails : questions fréquentes
- NVIDIA NeMo Guardrails vaut-il le coup ?
- NeMo Guardrails est la couche de politique ouverte la plus large pour les agents, et il facture cette largeur en configuration, latence et un changelog plein de changements cassants. Nous lui donnons 4.0 sur 5.
- Combien coûte NVIDIA NeMo Guardrails ?
- Gratuit et open source sous Apache 2.0. Les modèles NemoGuard et les microservices NIM de NVIDIA sont distribués séparément.
- Quels sont les inconvénients de NVIDIA NeMo Guardrails ?
- La télémétrie anonyme vers NVIDIA est activée par défaut; changements cassants dans les versions mineures; colang ajoute une courbe d'apprentissage; les meilleurs détecteurs vous orientent vers les modèles NVIDIA.
- À qui s’adresse NVIDIA NeMo Guardrails ?
- Les équipes qui construisent des agents ou des assistants face au client ayant besoin d'une couche de politique configurable autour de chaque appel de modèle et d'outil.
- Combien coûte NVIDIA NeMo Guardrails pour une équipe ou en production ?
- La bibliothèque est gratuite sous Apache 2.0. Le vrai coût est l'inférence supplémentaire : chaque rail basé sur un modèle ajoute un appel par message, les rails d'auto-vérification utilisent votre LLM principal, et les classifieurs NemoGuard ont besoin de capacité GPU. NVIDIA AI Enterprise, qui couvre le microservice, est listé à 4 500 $ par GPU par an.
- NVIDIA NeMo Guardrails est-il sûr pour les données de l’entreprise ?
- La télémétrie est activée par défaut et aussi écrite dans ~/.config/nemoguardrails/usage_stats.json ; désinscrivez-vous avec DO_NOT_TRACK=1. Les rails qui appellent des modèles hébergés envoient du texte à ces fournisseurs, et NVIDIA dit que ses endpoints build.nvidia.com sont pour l'évaluation seulement, pas la production ni les données personnelles. Aucun avis pour le paquet n'apparaît dans la base de données d'avis de GitHub.
- Quelles sont les meilleures alternatives à NVIDIA NeMo Guardrails ?
- Les alternatives les plus proches que nous avons testées sont Guardrails AI, vLLM Semantic Router et promptfoo.
Réponses vérifiées le 26 oct. 2026.