本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

PII redaction(個人情報のマスキング)

PII redaction(個人情報のマスキング)とは、テキストや画像をモデルに送る、ログに保存する、ほかの人に見せる前に、名前、電話番号、住所、カード番号などの個人を特定できる情報を検出し、削除または伏せ字にすることです。

別名: PII, personally identifiable information, PII masking, de-identification

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

個人を特定できる情報(PII)とは、単独で、またはほかのデータと組み合わせて特定の個人を識別できる情報です。何が該当し、どう保護するかについては、NISTのガイドSP 800-122がよく参照されます。AIアプリケーションはこうした情報を大量に扱います。サポートのチャット、アップロードされた文書、通話の書き起こし、デバッグ用に保存されるプロンプトのログなどです。

AIで開発するときに重要な理由

ホスト型モデルに送るプロンプトは、すべて自分のシステムの外に出ます。LLM observabilityツールが保存するトレースは、それぞれがもう1つのコピーです。先にPIIをマスキングすれば、プロバイダー、ログの閲覧者、攻撃者に見えるものを減らせ、個人データがファインチューニング用のデータセットに入るのも防げます。これはガードレールの入力側に自然に収まります。

仕組み

検出器がテキストをスキャンしてエンティティを探します。単純なものは、カード番号や国民ID番号などに対してパターンとチェックサムを使います。ほかに、パターンでは見逃す名前や地名を見つけるために、固有表現認識モデルを使うものもあります。見つかった箇所はそれぞれ置き換えられます。削除する、`<PERSON>`のようなラベルで伏せる、あるいはモデルが会話を追えるよう一貫したプレースホルダーや偽の値に差し替える、といった方法です。実際の値を最終的な回答に戻せるよう、安全な対応表を保持するシステムもあります。Microsoftのオープンソースで、現在はコミュニティプロジェクトとなっているPresidioは、テキストと画像のエンティティを検出して匿名化する、広く使われているツールキットです。

限界

検出は決して完璧ではありません。珍しい名前、誤字、自由形式の住所、文脈上の手がかりはすり抜け、強い設定にするとモデルに必要だった単語まで消えます。また、マスキングでは、データがどこで処理され保管されるかという問題は解決しません。データレジデンシーとゼロデータ保持をご覧ください。何がPIIに該当し、それをどう扱わなければならないかは適用される法律によって異なり、このページでは扱いません。

関連用語

ガードレール(AI)
ガードレール(guardrails)とは、言語モデルの周りに置く実行時のチェックです。入力と出力を調べ、ブロックしたり、書き換えたり、別の経路に回したりします。これにより、アプリケーションが話題から外れず、有害なコンテンツを避け、モデルだけでは確実に守れないルールに従うようにします。
データレジデンシー
データレジデンシー(data residency)とは、顧客のデータを EU など選んだ地理的な地域で保存し、多くの場合は処理もするための管理の仕組みです。データの所在地に関する法律、契約、顧客のルールを満たすために使います。
ゼロデータ保持(ZDR)
ゼロデータ保持(zero data retention、ZDR)とは、AIプロバイダーが、リクエストに応答した後に顧客のプロンプトと出力を保持しない取り決めです。通常は承認された顧客にだけ、対象となるAPIの機能に限って提供されます。
LLM observability(LLMオブザーバビリティ)
LLM observability(LLMオブザーバビリティ、可観測性)とは、本番環境でAIアプリケーションが行うこと、つまりプロンプト、応答、ツール呼び出し、レイテンシ、トークン使用量、コストを、検索できるトレースとして記録することです。これにより障害をデバッグし、システムの挙動を長期的に把握できます。

出典