safeagentsとは?
safeagentsは、コーディングエージェントとそのモデルのAPIの間に置く小さなプロキシです。モデルが返すツール呼び出しは、Claude Code、OpenCode、Pi、Hermesなど、ベースURLを設定できる実行環境に届く前にすべて確認され、止めた呼び出しはテキストの通知に置き換えられるので、何も実行されません。OpenAI Chat CompletionsとAnthropic Messagesで、ストリーミングの有無を問わず動きます。
確認は3段階です。宣言されていないツールや会話のどこにも出てこないホストといった、リクエスト自体についての規則。/proc/1/environの読み取りやKubernetesのサービスアカウントトークンのようなパターンを見つけるHugging Faceのatif-scanの検出器。そして疑わしい呼び出し向けの任意の判定モデルです。ライセンスはApache-2.0で、uvのツールとして導入します。
safeagentsは使う価値があるか?
エージェント向けの安全ツールの多くは、特定の実行環境の中にあります。safeagentsはAPIの境界で働きます。エージェントのベースURLをローカルのプロキシに向けると、モデルが返すツール呼び出しはすべて、実行環境が動かす前に検査されます。そのためエージェントを問わず、Claude Code、OpenCode、Pi、Hermes、それに設定ガイドのある13のエージェントを、OpenAIとAnthropicの両方のAPIでカバーします。
確認の順番はよく考えられています。まず手軽な規則で、リクエストが宣言していないツールや、会話のどこにも出てこないホストを引数に含む呼び出しを止めます。モデル自身の過去の発言は数に入れません。次にatif-scanの検出器で、/proc/1/environの読み取り、curl --noproxy、Kubernetesのサービスアカウントトークン、unshareといった既知の脱出や持ち出しのパターンを調べます。疑わしい呼び出しだけが任意の判定モデルに届き、判定モデルは利用者 が書いた内容と検出結果は見ますが、エージェントの推論は決して見ないので、エージェントは自分を弁護できません。判定モデルは止めることはできても、止めたものを解除することはできません。
負荷は小さく、ツール呼び出しは引数がそろうまで保留されるだけなのでストリーミングに遅延は加わらず、atif-scanはMチップのMacで呼び出し1回あたり約10〜20 msです。限界は本質的なものです。規則と検出器が知っているものは捕まえますが、普通のシェルによる新しい攻撃はすり抜けうるうえ、許可したコマンドがその後何をするかには関与しません。サンドボックスの前に置く有用な層であって、その代わりではありません。--log-onlyモードを使えば、実際に止める前に何を止めるかを確かめられます。
真価を発揮する場面
広いシェル権限でClaude Codeを使う開発者
持ち出しやコンテナ脱出のコマンドを実行前に捕まえる
1週間、api.anthropic.comの前でsafeagentsを記録だけのモードで動かし、記録を見てから止める設定にします。ANTHROPIC_BASE_URLをローカルのプロキシに向けてください。
ベンチマーク課題でエージェントを評価する基盤チーム
エージェントが公開された答えを取りに行くのを防ぐ
READMEの例にあるように、atif-scanのRegexDetectorで答えのファイルの読み取りを止めるプラグインを書きます。
導入前に確認すること
- 導入
- インストールスクリプト(macOS、Linux、WSL、PowerShell)を実行し、safeagents start <APIのURL> --log-onlyを実行して、エージェントのベースURLをhttp://127.0.0.1:8787に向けます。
- 連携
- OpenAI Chat CompletionsとAnthropic MessagesのAPI。Claude Code、OpenCode、Pi、Hermesとガイドのある13のエージェント。atif-scanの検出器。Hugging Face Hubのプラグイン。
- データとプライバシー
- ローカルで動作し、~/.safeagents/runに記録します。リクエストは選んだモデルのAPIにそのまま渡ります。
- 大規模利用時のコスト
- 無料。任意の判定モデルは、それを提供する側が課金します。
- 制限
- 既定の遮断しきい値は重大度「高」。規則と検出器が知っていることしか確認しません。
良い点
- 独自のベースURLを受け付けるどのエージェントでも動作
- 段階的な確認で、判定モデルは止めることしかできない
- ストリーミングの遅延なし、呼び出し1回あたり約10〜20 ms
- 本番の前に記録だけのモード
- 独自の確認を加えるプラグイン
気になる点
- パターンベースで、新しい攻撃はすり抜けうる
- 許可したコマンドは隔離しない
- 判定モデルには費用と設定が必要
おすすめの人
実際の権限を持つコーディングエージェントを動かし、実行前のツール呼び出しを、安価にエージェントを問わず確認したい開発者やチーム。
safeagents:よくある質問
- safeagentsは使う価値があるか?
- safeagentsはAPIの通り道に入ることで、どのコーディングエージェントでも使える防御を加えます。設計の選択は的確ですが、既知のパターンのフィルターであり、サンドボックスではありません。 評価は5点満点中4.1点です。
- safeagentsの料金は?
- 無料のオープンソース(Apache 2.0)。任意の判定モデルには別途費用がかかります。
- safeagentsの欠点は?
- パターンベースで、新しい攻撃はすり抜けうる; 許可したコマンドは隔離しない; 判定モデルには費用と設定が必要.
- safeagentsは誰に向いているか?
- 実際の権限を持つコーディングエージェントを動かし、実行前のツール呼び出しを、安価にエージェントを問わず確認したい開発者やチーム。
- チームや本番環境でsafeagentsを使うと費用はいくらか?
- 無料。任意の判定モデルは、それを提供する側が課金します。
- safeagentsは企業データを扱っても安全か?
- ローカルで動作し、~/.safeagents/runに記録します。リクエストは選んだモデルのAPIにそのまま渡ります。
回答確認日:2026年11月15日