Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

safeagents

Hugging Faces lokaler Proxy, der jeden Tool-Aufruf eines Coding-Agenten prüft und gefährliche blockiert, bevor das Harness sie ausführt.

Getestet von ReviewRamble editors · Aktualisiert

Auf GitHub ansehen Open Source

Diese Seite teilen:XLinkedInFacebookRedditWhatsAppE-Mail

Unsere Bewertung

4.1/5

safeagents fügt eine Schutzschicht hinzu, die mit jedem Coding-Agenten funktioniert, weil sie an der API-Leitung sitzt, und seine Designentscheidungen sind solide, auch wenn es ein Filter für bekannte Muster ist, keine Sandbox.

Was ist safeagents?

safeagents ist ein kleiner Proxy zwischen einem Coding-Agenten und der API seines Modells. Jeder Tool-Aufruf, den das Modell zurückgibt, wird geprüft, bevor Claude Code, OpenCode, Pi, Hermes oder ein anderes Harness mit einstellbarer Basis-URL ihn sieht; blockierte Aufrufe werden durch einen Texthinweis ersetzt, sodass nichts ausgeführt wird. Es funktioniert mit OpenAI Chat Completions und Anthropic Messages, mit oder ohne Streaming.

Geprüft wird in drei Stufen: Regeln zur Anfrage selbst, etwa nicht deklarierte Tools oder Hosts, die im Gespräch nirgends vorkommen; Detektoren aus Hugging Faces atif-scan für Muster wie das Lesen von /proc/1/environ oder Kubernetes-Service-Account-Tokens; und ein optionales Richtermodell für verdächtige Aufrufe. Lizenz: Apache-2.0, installiert als uv-Tool.

Lohnt sich safeagents?

Die meisten Sicherheitswerkzeuge für Agenten leben in einem bestimmten Harness. safeagents arbeitet an der API-Grenze: Du richtest die Basis-URL des Agenten auf einen lokalen Proxy, und jeder Tool-Aufruf, den das Modell zurückgibt, wird geprüft, bevor das Harness ihn ausführt. Damit ist es agentenneutral und deckt Claude Code, OpenCode, Pi, Hermes und 13 Agenten mit Anleitungen ab, über die APIs von OpenAI und Anthropic.

Die Prüfungen sind durchdacht geordnet. Zuerst billige Regeln: Tools blockieren, die die Anfrage nie deklariert hat, und Aufrufe, deren Argumente einen Host enthalten, der im Gespräch nirgends vorkommt, wobei frühere Antworten des Modells nicht zählen. Dann atif-scan-Detektoren für bekannte Ausbruchs- und Exfiltrationsmuster wie das Lesen von /proc/1/environ, curl --noproxy, Kubernetes-Service-Account-Tokens oder unshare. Nur verdächtige Aufrufe erreichen ein optionales Richtermodell, das sieht, was der Nutzer geschrieben hat, und die Befunde, aber nie das Denken des Agenten, damit dieser nicht für sich argumentieren kann. Der Richter kann Blockaden hinzufügen, aber nie aufheben.

Der Mehraufwand ist gering: Streaming bringt keine Latenz, weil ein Tool-Aufruf nur zurückgehalten wird, bis seine Argumente vollständig sind, und atif-scan kostet auf einem Mac mit M-Chip etwa 10 bis 20 ms pro Aufruf. Die Grenzen liegen in der Natur der Sache. Es erkennt, was seine Regeln und Detektoren kennen, ein neuartiger Angriff in normaler Shell kann also durchrutschen, und es tut nichts gegen das, was ein erlaubter Befehl danach anrichtet. Es ist eine nützliche Schicht vor einer Sandbox, kein Ersatz. Ein Modus --log-only zeigt, was es blockieren würde, bevor du es scharf schaltest.

Wo es sich lohnt

  • Ein Entwickler, der Claude Code mit weitreichenden Shell-Rechten nutzt

    Exfiltrations- oder Container-Ausbruchsbefehle abfangen, bevor sie laufen

    Starte safeagents vor api.anthropic.com eine Woche lang im Nur-Protokoll-Modus, sieh das Protokoll durch und schalte dann scharf; setze ANTHROPIC_BASE_URL auf den lokalen Proxy.

  • Ein Plattformteam, das Agenten auf Benchmark-Aufgaben bewertet

    Agenten daran hindern, veröffentlichte Lösungen abzurufen

    Schreib ein Plugin mit atif-scans RegexDetector, das das Lesen von Lösungsdateien blockiert, wie im Beispiel des README.

Bevor du dich festlegst

Einrichtung
Installationsskript ausführen (macOS, Linux, WSL oder PowerShell), dann safeagents start <API-URL> --log-only und die Basis-URL des Agenten auf http://127.0.0.1:8787 richten.
Integrationen
OpenAI-Chat-Completions- und Anthropic-Messages-APIs; Claude Code, OpenCode, Pi, Hermes und 13 Agenten mit Anleitungen; atif-scan-Detektoren; Plugins vom Hugging Face Hub.
Daten und Datenschutz
Läuft lokal und protokolliert nach ~/.safeagents/run; Anfragen gehen an die gewählte Modell-API weiter.
Kosten im großen Maßstab
Kostenlos; ein optionales Richtermodell rechnet ab, wer es bereitstellt.
Grenzen
Standard-Blockschwelle ist hohe Schwere; prüft nur, was seine Regeln und Detektoren kennen.

Was gut ist

  • Funktioniert mit jedem Agenten, der eine eigene Basis-URL erlaubt
  • Gestufte Prüfungen, mit einem Richter, der nur Blockaden hinzufügen kann
  • Keine Streaming-Latenz; etwa 10 bis 20 ms pro Aufruf
  • Nur-Protokoll-Modus vor dem Scharfschalten
  • Plugins für eigene Prüfungen

Was nicht

  • Musterbasiert; neuartige Angriffe können durchrutschen
  • Isoliert erlaubte Befehle nicht
  • Richtermodell bringt Kosten und Einrichtung

Am besten für

Entwickler und Teams, die Coding-Agenten mit echten Rechten betreiben und eine günstige, agentenneutrale Prüfung von Tool-Aufrufen vor der Ausführung wollen.

safeagents: häufige Fragen

Lohnt sich safeagents?
safeagents fügt eine Schutzschicht hinzu, die mit jedem Coding-Agenten funktioniert, weil sie an der API-Leitung sitzt, und seine Designentscheidungen sind solide, auch wenn es ein Filter für bekannte Muster ist, keine Sandbox. Wir bewerten es mit 4.1 von 5.
Was kostet safeagents?
Kostenlos und Open Source (Apache 2.0); ein optionales Richtermodell verursacht eigene Kosten.
Welche Nachteile hat safeagents?
Musterbasiert; neuartige Angriffe können durchrutschen; Isoliert erlaubte Befehle nicht; Richtermodell bringt Kosten und Einrichtung.
Für wen eignet sich safeagents?
Entwickler und Teams, die Coding-Agenten mit echten Rechten betreiben und eine günstige, agentenneutrale Prüfung von Tool-Aufrufen vor der Ausführung wollen.
Was kostet safeagents für ein Team oder im Produktivbetrieb?
Kostenlos; ein optionales Richtermodell rechnet ab, wer es bereitstellt.
Ist safeagents sicher für Firmendaten?
Läuft lokal und protokolliert nach ~/.safeagents/run; Anfragen gehen an die gewählte Modell-API weiter.

Antworten geprüft am 15. Nov. 2026.

Du entwickelst safeagents? Zeig diese Bewertung auf deiner Websitesafeagents mit 4.1 von 5 bewertet auf ReviewRamble