Qu’est-ce que safeagents ?
safeagents est un petit proxy placé entre un agent de code et l'API de son modèle. Chaque appel d'outil renvoyé par le modèle est contrôlé avant que Claude Code, OpenCode, Pi, Hermes ou tout harness à URL de base configurable ne le voie ; les appels bloqués sont remplacés par un avis texte, si bien que rien ne s'exécute. Il fonctionne avec OpenAI Chat Completions et Anthropic Messages, en streaming ou non.
Les contrôles se font en trois étapes : des règles sur la requête elle-même, comme des outils non déclarés ou des hôtes absents de la conversation ; des détecteurs d'atif-scan de Hugging Face pour des motifs comme la lecture de /proc/1/environ ou des jetons de compte de service Kubernetes ; et un modèle juge optionnel pour les appels suspects. Il est sous licence Apache-2.0 et s'installe comme outil uv.
safeagents vaut-il le coup ?
La plupart des outils de sécurité pour agents vivent dans un harness donné. safeagents travaille à la frontière de l'API : vous pointez l'URL de base de l'agent vers un proxy local, et chaque appel d'outil renvoyé par le modèle est inspecté avant que le harness ne l'exécute. Il est ainsi indépendant de l'agent et couvre Claude Code, OpenCode, Pi, Hermes et 13 agents avec guides de configuration, sur les API d'OpenAI comme d'Anthropic.
Les contrôles sont bien ordonnés. D'abord des règles peu coûteuses : bloquer les outils que la requête n'a jamais déclarés, et les appels dont les arguments contiennent un hôte absent de la conversation, sans compter les tours précédents du modèle lui-même. Ensuite, les détecteurs d'atif-scan pour des motifs connus d'évasion et d'exfiltration, comme la lecture de /proc/1/environ, curl --noproxy, les jetons de compte de service Kubernetes ou unshare. Seuls les appels suspects atteignent un modèle juge optionnel, qui voit ce que l'utilisateur a écrit et les constats mais jamais le raisonnement de l'agent, afin que celui-ci ne puisse pas plaider sa cause. Le juge peut ajouter des blocages mais jamais en lever.
Le surcoût est faible : le streaming n'ajoute pas de latence car un appel d'outil n'est retenu que jusqu'à ce que ses arguments soient complets, et atif-scan coûte environ 10 à 20 ms par appel sur un Mac à puce M. Les limites sont intrinsèques. Il repère ce que reconnaissent ses règles et détecteurs, donc une attaque inédite en shell ordinaire peut passer, et il ne fait rien contre ce qu'une commande autorisée fait ensuite. C'est une couche utile devant un bac à sable, pas un substitut. Un mode --log-only permet de voir ce qu'il bloquerait avant de l'activer.
Là où il fait la différence
Un développeur qui utilise Claude Code avec de larges droits sur le shell
Intercepter les commandes d'exfiltration ou d'évasion de conteneur avant qu'elles ne s'exécutent
Lancez safeagents devant api.anthropic.com en mode journal seul pendant une semaine, examinez le journal, puis activez le blocage ; pointez ANTHROPIC_BASE_URL vers le proxy local.
Une équipe plateforme qui évalue des agents sur des tâches de test
Empêcher les agents de récupérer les réponses publiées
Écrivez un plugin avec le RegexDetector d'atif-scan pour bloquer la lecture des fichiers de réponses, comme le montre l'exemple du README.
Avant de vous engager
- Mise en route
- Lancez le script d'installation (macOS, Linux, WSL ou PowerShell), puis safeagents start <URL de l'API> --log-only, et pointez l'URL de base de votre agent vers http://127.0.0.1:8787.
- Intégrations
- API OpenAI Chat Completions et Anthropic Messages ; Claude Code, OpenCode, Pi, Hermes et 13 agents avec guides ; détecteurs atif-scan ; plugins du Hugging Face Hub.
- Données et confidentialité
- Tourne en local et journalise dans ~/.safeagents/run ; les requêtes passent vers l'API de modèle choisie.
- Coût à grande échelle
- Gratuit ; un modèle juge optionnel est facturé par celui qui le sert.
- Limites
- Le seuil de blocage par défaut est la gravité élevée ; il ne contrôle que ce que connaissent ses règles et détecteurs.
Les points forts
- Fonctionne avec tout agent qui accepte une URL de base personnalisée
- Contrôles en couches, avec un juge qui ne peut qu'ajouter des blocages
- Pas de latence en streaming ; environ 10 à 20 ms par appel
- Mode journal seul avant activation
- Plugins pour des contrôles personnalisés
Les points faibles
- Fondé sur des motifs ; des attaques inédites peuvent passer
- N'isole pas les commandes qu'il autorise
- Le modèle juge ajoute un coût et de la configuration
Idéal pour
Développeurs et équipes qui font tourner des agents de code avec de vrais droits et veulent un contrôle peu coûteux et indépendant de l'agent sur les appels d'outils avant leur exécution.
safeagents : questions fréquentes
- safeagents vaut-il le coup ?
- safeagents ajoute une protection qui fonctionne avec n'importe quel agent de code en se plaçant sur la ligne de l'API, avec des choix de conception judicieux, même s'il filtre des motifs connus et ne remplace pas un bac à sable. Nous lui donnons 4.1 sur 5.
- Combien coûte safeagents ?
- Gratuit et open source (Apache 2.0) ; un modèle juge optionnel a son propre coût.
- Quels sont les inconvénients de safeagents ?
- Fondé sur des motifs ; des attaques inédites peuvent passer; n'isole pas les commandes qu'il autorise; le modèle juge ajoute un coût et de la configuration.
- À qui s’adresse safeagents ?
- Développeurs et équipes qui font tourner des agents de code avec de vrais droits et veulent un contrôle peu coûteux et indépendant de l'agent sur les appels d'outils avant leur exécution.
- Combien coûte safeagents pour une équipe ou en production ?
- Gratuit ; un modèle juge optionnel est facturé par celui qui le sert.
- safeagents est-il sûr pour les données de l’entreprise ?
- Tourne en local et journalise dans ~/.safeagents/run ; les requêtes passent vers l'API de modèle choisie.
Réponses vérifiées le 15 nov. 2026.