本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

AI サプライチェーン攻撃

AI サプライチェーン攻撃(AI supply-chain attack)とは、AI アプリケーションを直接攻撃するのではなく、ダウンロードしたモデル、LoRA アダプター、データセット、Python パッケージ、MCP サーバー、エージェントスキルなど、アプリケーションが依存するものを通じて侵害する攻撃です。

別名: malicious package, poisoned skill, model supply-chain attack, poisoned model

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

現代の AI アプリは、他者が作った部品を組み合わせてできています。ハブから取得したモデルの重み、ファインチューニング用のアダプター、学習データ、推論ライブラリ、MCP サーバー、レジストリからインストールしたエージェントスキルなどです。どれもアプリと同じアクセス権で動きます。攻撃者がそのどれか 1 つでも支配すれば、システムの一部を支配することになります。

OWASP は LLM アプリケーション向けの Top 10 で、サプライチェーンを 3 番目のリスクに挙げています。機械学習ではリスクがコードや依存関係にとどまらず、第三者の事前学習済みモデルやデータにまで及ぶと指摘しています。

よくある形

モデル開発環境に取り込まれた、脆弱な、または悪意ある Python パッケージ。よく知られた名前でアップロードされた、改ざんされたモデルや偽のモデル。モデルにマージされる前にバックドアを仕込まれた LoRA アダプター。ファインチューニング中に隠れたトリガーを埋め込む、汚染された公開データセット。エージェントの場合は、うたい文句どおりに動きながら隠れた指示も含んでいるスキルや MCP サーバーです。ツールポイズニングはその MCP 版です。

ダウンロードする重みのファイル形式も重要です。重みを安全に保存するために設計された形式については safetensors をご覧ください。

防御策

OWASP は、供給元を審査すること、署名とファイルハッシュで検証できる情報源のモデルだけを使うこと、ソフトウェア部品表を管理すること、コンポーネントをスキャンしてパッチを当てること、第三者のモデルを自分の用途に合わせてレッドチーミングすることを勧めています。実務では、バージョンを固定し、スキルやサーバーをインストールする前に何にアクセスできるかを確認し、信頼できないコードはサンドボックスで実行します。Snyk Agent Scan などのスキャナーは、エージェントのコンポーネントに既知のリスクがないかを調べます。

関連用語

ツールポイズニング
ツールポイズニング(tool poisoning)とは、悪意のあるツール、多くの場合はMCPサーバーが、ツールの説明やメタデータに指示を隠す攻撃です。AIモデルはそれを指針として読み、ユーザーが気付かないうちにデータを漏らしたり、ほかのツールを悪用したりすることがあります。
エージェントスキル
エージェントスキル(agent skills)とは、指示、スクリプト、参考ファイルをまとめたフォルダーで、それぞれが SKILL.md ファイルで説明されています。AI エージェントはこれを見つけ、タスクに必要なときだけ読み込みます。
MCPサーバー
MCPサーバーとは、Model Context Protocolを通じてツール、データリソース、プロンプトテンプレートをAIアプリケーションに公開するプログラムです。MCPに対応したクライアントであれば、独自の統合コードなしで利用できます。
Safetensors
Safetensorsとは、Hugging Faceによるモデルの重みを保存するためのファイル形式です。Pythonのpickleファイルと異なり、読み込み時に隠れたコードが実行されることはなく、個々のテンソルをメモリマップで高速に読み込めます。
モデルの重み
モデルの重み(model weights)とは、ニューラルネットワーク内部の学習済みの数値で、学習中に決まり、入力を出力に変える方法を決定します。チェックポイントとは、その重みを含む保存済みのファイルまたはファイル群です。

出典