本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

ヒューマンインザループ

ヒューマンインザループ(human-in-the-loop、HITL)とは、AI システムが決められた時点で一時停止し、人が次の手順を承認、修正、拒否する設計です。リスクのある操作や不確かな操作が自動で実行されないようにします。

別名: HITL, approval prompts

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

メールを送ったり、お金を使ったり、ファイルを削除したりできるエージェントには、実行前のチェックが必要です。ヒューマンインザループは、そうした時点に人を置きます。

仕組み

どの操作に承認が必要かはアプリケーションが決めます。よくあるきっかけは、シェルコマンドの実行、プロジェクトフォルダーの外への書き込み、決済 API の呼び出しなど副作用のある操作と、エージェントが行き詰まったときです。そうした時点でエージェントは止まり、何をするつもりかを示します。人が承認、編集、拒否し、エージェントは作業を続けます。

フレームワークはこれを直接サポートしています。LangGraph は実行を一時停止し、人が状態を確認したり編集したりしてから再開できます。コーディングエージェントは権限のルールを使います。たとえば Claude Code では、どのツールとコマンドを許可し、どれを拒否し、どれを事前に確認させるかをチームで設定できます。こうしたルールはエージェントの権限で扱っています。

例

サポートエージェントが返金の手続きを下書きします。決められた金額未満の返金はそのまま処理され、それより大きな返金はスタッフが承認をクリックするまで待ちます。

限界

確認が多すぎると、人は読まなくなり、習慣で「はい」をクリックするようになります。また、確認は操作を判断するのに十分な情報を示して初めて役に立ちます。承認はエージェントサンドボックスと組み合わせ、確認なしで実行される操作が封じ込められるようにしてください。そして、プロンプトインジェクションによって有害なリクエストがいつもの作業のように見せかけられることも忘れないでください。

関連用語

エージェントサンドボックス
エージェントサンドボックス(agent sandbox)とは、コンテナ、仮想マシン、オペレーティングシステムの制限などによる隔離された環境です。AI エージェントはその中でコードやコマンドを実行し、決められた範囲の外にあるファイル、ネットワーク、データには届きません。
ガードレール(AI)
ガードレール(guardrails)とは、言語モデルの周りに置く実行時のチェックです。入力と出力を調べ、ブロックしたり、書き換えたり、別の経路に回したりします。これにより、アプリケーションが話題から外れず、有害なコンテンツを避け、モデルだけでは確実に守れないルールに従うようにします。
エージェントの権限
エージェントの権限(agent permissions)とは、AI エージェントがどのツール、ファイル、コマンド、ネットワーク、アカウントを使えるか、どの操作に事前の人の承認が必要かを決めるルールです。誤ったり操作されたりしたエージェントが与える被害を限定します。
プロンプトインジェクション
プロンプトインジェクション(prompt injection)とは、ユーザーが入力した、あるいはWebページ、ファイル、ツールの結果に隠されたテキストが言語モデルに渡され、開発者が意図しない形でモデルの挙動を変える攻撃です。
エージェントフック
エージェントフック(agent hooks)とは、ツール呼び出しの直前やファイル編集の直後など、作業中の決まった時点でコーディングエージェントが自動的に実行する、ユーザー定義のコマンドやスクリプトです。エージェントの動作を確認、阻止、拡張するために使います。

出典