Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

safeagents

Le proxy local de Hugging Face qui inspecte chaque appel d'outil d'un agent de code et bloque les appels dangereux avant que le harness ne les exécute.

Avis de ReviewRamble editors · Mis à jour

Voir sur GitHub Open source

Partager cette page :XLinkedInFacebookRedditWhatsAppE-mail

Notre note

4.1/5

safeagents ajoute une protection qui fonctionne avec n'importe quel agent de code en se plaçant sur la ligne de l'API, avec des choix de conception judicieux, même s'il filtre des motifs connus et ne remplace pas un bac à sable.

Qu’est-ce que safeagents ?

safeagents est un petit proxy placé entre un agent de code et l'API de son modèle. Chaque appel d'outil renvoyé par le modèle est contrôlé avant que Claude Code, OpenCode, Pi, Hermes ou tout harness à URL de base configurable ne le voie ; les appels bloqués sont remplacés par un avis texte, si bien que rien ne s'exécute. Il fonctionne avec OpenAI Chat Completions et Anthropic Messages, en streaming ou non.

Les contrôles se font en trois étapes : des règles sur la requête elle-même, comme des outils non déclarés ou des hôtes absents de la conversation ; des détecteurs d'atif-scan de Hugging Face pour des motifs comme la lecture de /proc/1/environ ou des jetons de compte de service Kubernetes ; et un modèle juge optionnel pour les appels suspects. Il est sous licence Apache-2.0 et s'installe comme outil uv.

safeagents vaut-il le coup ?

La plupart des outils de sécurité pour agents vivent dans un harness donné. safeagents travaille à la frontière de l'API : vous pointez l'URL de base de l'agent vers un proxy local, et chaque appel d'outil renvoyé par le modèle est inspecté avant que le harness ne l'exécute. Il est ainsi indépendant de l'agent et couvre Claude Code, OpenCode, Pi, Hermes et 13 agents avec guides de configuration, sur les API d'OpenAI comme d'Anthropic.

Les contrôles sont bien ordonnés. D'abord des règles peu coûteuses : bloquer les outils que la requête n'a jamais déclarés, et les appels dont les arguments contiennent un hôte absent de la conversation, sans compter les tours précédents du modèle lui-même. Ensuite, les détecteurs d'atif-scan pour des motifs connus d'évasion et d'exfiltration, comme la lecture de /proc/1/environ, curl --noproxy, les jetons de compte de service Kubernetes ou unshare. Seuls les appels suspects atteignent un modèle juge optionnel, qui voit ce que l'utilisateur a écrit et les constats mais jamais le raisonnement de l'agent, afin que celui-ci ne puisse pas plaider sa cause. Le juge peut ajouter des blocages mais jamais en lever.

Le surcoût est faible : le streaming n'ajoute pas de latence car un appel d'outil n'est retenu que jusqu'à ce que ses arguments soient complets, et atif-scan coûte environ 10 à 20 ms par appel sur un Mac à puce M. Les limites sont intrinsèques. Il repère ce que reconnaissent ses règles et détecteurs, donc une attaque inédite en shell ordinaire peut passer, et il ne fait rien contre ce qu'une commande autorisée fait ensuite. C'est une couche utile devant un bac à sable, pas un substitut. Un mode --log-only permet de voir ce qu'il bloquerait avant de l'activer.

Là où il fait la différence

  • Un développeur qui utilise Claude Code avec de larges droits sur le shell

    Intercepter les commandes d'exfiltration ou d'évasion de conteneur avant qu'elles ne s'exécutent

    Lancez safeagents devant api.anthropic.com en mode journal seul pendant une semaine, examinez le journal, puis activez le blocage ; pointez ANTHROPIC_BASE_URL vers le proxy local.

  • Une équipe plateforme qui évalue des agents sur des tâches de test

    Empêcher les agents de récupérer les réponses publiées

    Écrivez un plugin avec le RegexDetector d'atif-scan pour bloquer la lecture des fichiers de réponses, comme le montre l'exemple du README.

Avant de vous engager

Mise en route
Lancez le script d'installation (macOS, Linux, WSL ou PowerShell), puis safeagents start <URL de l'API> --log-only, et pointez l'URL de base de votre agent vers http://127.0.0.1:8787.
Intégrations
API OpenAI Chat Completions et Anthropic Messages ; Claude Code, OpenCode, Pi, Hermes et 13 agents avec guides ; détecteurs atif-scan ; plugins du Hugging Face Hub.
Données et confidentialité
Tourne en local et journalise dans ~/.safeagents/run ; les requêtes passent vers l'API de modèle choisie.
Coût à grande échelle
Gratuit ; un modèle juge optionnel est facturé par celui qui le sert.
Limites
Le seuil de blocage par défaut est la gravité élevée ; il ne contrôle que ce que connaissent ses règles et détecteurs.

Les points forts

  • Fonctionne avec tout agent qui accepte une URL de base personnalisée
  • Contrôles en couches, avec un juge qui ne peut qu'ajouter des blocages
  • Pas de latence en streaming ; environ 10 à 20 ms par appel
  • Mode journal seul avant activation
  • Plugins pour des contrôles personnalisés

Les points faibles

  • Fondé sur des motifs ; des attaques inédites peuvent passer
  • N'isole pas les commandes qu'il autorise
  • Le modèle juge ajoute un coût et de la configuration

Idéal pour

Développeurs et équipes qui font tourner des agents de code avec de vrais droits et veulent un contrôle peu coûteux et indépendant de l'agent sur les appels d'outils avant leur exécution.

safeagents : questions fréquentes

safeagents vaut-il le coup ?
safeagents ajoute une protection qui fonctionne avec n'importe quel agent de code en se plaçant sur la ligne de l'API, avec des choix de conception judicieux, même s'il filtre des motifs connus et ne remplace pas un bac à sable. Nous lui donnons 4.1 sur 5.
Combien coûte safeagents ?
Gratuit et open source (Apache 2.0) ; un modèle juge optionnel a son propre coût.
Quels sont les inconvénients de safeagents ?
Fondé sur des motifs ; des attaques inédites peuvent passer; n'isole pas les commandes qu'il autorise; le modèle juge ajoute un coût et de la configuration.
À qui s’adresse safeagents ?
Développeurs et équipes qui font tourner des agents de code avec de vrais droits et veulent un contrôle peu coûteux et indépendant de l'agent sur les appels d'outils avant leur exécution.
Combien coûte safeagents pour une équipe ou en production ?
Gratuit ; un modèle juge optionnel est facturé par celui qui le sert.
safeagents est-il sûr pour les données de l’entreprise ?
Tourne en local et journalise dans ~/.safeagents/run ; les requêtes passent vers l'API de modèle choisie.

Réponses vérifiées le 15 nov. 2026.

Vous éditez safeagents ? Affichez cette note sur votre sitesafeagents noté 4.1 sur 5 par ReviewRamble