データ流出(AI エージェント)
AI エージェントにおけるデータ流出(data exfiltration)とは、攻撃者がエージェントをだまし、エージェントがアクセスできる非公開のデータを読ませて、ウェブリクエスト、メール、画像リンク、その他攻撃者が制御する経路で外部に送らせることです。
別名: exfiltration, lethal trifecta
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
exfiltration は、許可なくシステムからデータを持ち出すことを指す、昔からあるセキュリティの言葉です。エージェントはこれを容易にします。非公開のデータを読めると同時に外の世界とやり取りでき、処理するテキストの中にある指示に従ってしまうからです。
致命的な三要素
Simon Willison は、このリスクを 1 つのエージェントにそろう 3 つの特徴として説明しています。非公開データへのアクセス、信頼できないコンテンツへの接触、外部と通信する手段です。3 つすべてがそろうと、ウェブページ、文書、issue に隠されたプロンプトインジェクションが、エージェントに機密情報を集めて攻撃者に送るよう指示できます。3 つのうちどれか 1 つを取り除けば、この攻撃の経路はふさがります。
データはどう出ていくか
経路は多くの場合、無害に見えるものです。データをクエリ文字列に詰め込んだ URL、チャットのクライアントが自動で読み込む Markdown の画像、公開リポジトリにプッシュされたコミット、送信メール、ツールに渡す引数などです。Willison によれば、ベンダーは報告された事例を、データの送信に使われた特定の経路をふさぐことで修正するのが普通 でした。
例
非公開のリポジトリにアクセスできるコーディングエージェントが、公開 issue のバグを直すよう頼まれます。issue の本文には、`.env` ファイルを読んでその内容をリンクに含めるという隠れた指示があります。エージェントがネットワークリクエストを送れるなら、キーはそのリクエストと一緒に出ていきます。
防御策
範囲を絞ったエージェントの権限で、エージェントが届く範囲を制限してください。外向きのネットワークアクセスを遮断するか許可リストに制限したエージェントサンドボックスで動かしてください。モデルの出力に含まれるリモートの画像は表示せず、データを外に送る操作には人の承認を必須にしてください。注入された指示が届く一般的な経路の 1 つがツールポイズニングです。
関連用語
- プロンプトインジェクション
- プロンプトインジェクション(prompt injection)とは、ユーザーが入力した、あるいはWebページ、ファイル、ツールの結果に隠されたテキストが言語モデルに渡され、開発者が意図しない形でモデルの挙動を変える攻撃です。
- エージェントサンドボックス
- エージェントサンドボックス(agent sandbox)とは、コンテナ、仮想マシン、オペレーティングシステムの制限などによる隔離された環境です。AI エージェントはその中でコードやコマンドを実行し、決められた範囲の外にあるファイル、ネットワーク、データには届きません。
- エージェントの権限
- エージェントの権限(agent permissions)とは、AI エージェントがどのツール、ファイル、コマンド、ネットワーク、アカウントを使えるか、どの操作に事前の人の承認が必要かを決めるルールです。誤ったり操作されたりしたエージェントが与える被害を限定します。
- ツールポイズニング
- ツールポイズニング(tool poisoning)とは、悪意のあるツール、多くの場合はMCPサーバーが、ツールの説明やメタデータに指示を隠す攻撃です。AIモデルはそれを指針として読み、ユーザーが気付かないうちにデータを漏らしたり、ほかのツールを悪用したりすることがあります。
- ヒューマンインザループ
- ヒューマンインザループ(human-in-the-loop、HITL)とは、AI システムが決められた時点で一時停止し、人が次の手順を承認、修正、拒否する設計です。リスクのある操作や不確かな操作が自動で実行されないようにします。