Azure AI Content Safetyとは？
Azure AI Content Safetyは、モデルの前後で呼び出すMicrosoftの検査API群です。基本のチェックでは、テキストと画像を憎悪、性的な内容、暴力、自傷について複数の重大度で採点します。Prompt Shieldsは、ユーザーのメッセージと、メールやウェブページなど最大5件の文書の両方で、指示を覆そうとする試みを探します。そのほか、モデルの出力に含まれる歌詞や記事などの著作権のある文章を見つけるチェック、回答が出典に基づいているかを確かめるチェック、ユーザーの依頼に合わないエージェントのツール呼び出しを指摘するチェックがあります。
同じサービスがMicrosoft Foundryのガードレールを支えており、そこではモデルやエージェントのデプロイごとに有効にします。単体のAPIはどこでホストされたモデルにも使えます。Content Safety Studioは、設定を試し、ブロックリストを管理し、ブロック率を見るためのウェブコンソールです。
無料のF0プランでは毎月5,000件のテキストレコードと5,000枚の画像を扱えます。標準プランでは、East USでテキストレコード（最大1,000文字）が1,000件あたり$0.375、画像が1,000枚あたり$0.75です。根拠の検出やコンテナーなど、いくつかのプレビュー機能は2027年4月30日に提供を終えます。
Azure AI Content Safetyの料金は？
| プラン | 価格 | 内容 |
|---|---|---|
| Free (F0) | Free | 毎月5,000件のテキストレコードと5,000枚の画像、毎秒5リクエスト |
| Standard (S0) | $0.375 per 1,000 text records | 画像1,000枚あたり$0.75、10秒あたり1,000リクエスト |
| Commitment tier | $338/month | 毎月100万件（1M）のテキストレコード、Azureでホスト |
無料のF0：毎月5,000件のテキストレコードと5,000枚の画像。標準：テキストレコード（1件1,000文字）1,000件あたり$0.375、画像1,000枚あたり$0.75（East US）。コミットメントプランは100万件（1M）のテキストレコードで$338/月から。
Azure AI Content Safetyは使う価値があるか？
会社がすでにAzureで動いているなら、ホスト型のAIガードレールを足すには、たいてい新しい取引先の審査、新しい契約、新しいデ ータ処理者が必要になります。Content Safetyならその大半を省けます。使い慣れたのと同じキー、ロール、リージョンの選択肢を持つ、Azureのリソースの1つにすぎないからです。
たいていのチャットボットに必要な仕事はこなします。テキストと画像を4種類の害について採点し、モデルに指示を捨てさせようとする試みを見つけ、検索した文書に隠れた命令がないかをモデルが読む前に確かめます。各チェックの結果はアプリに返るだけで、ブロックするかどうかは自分で決めます。
価格は安く、公開されています。テキストレコードは最大1,000文字で、標準プランでは1,000件あたり$0.375なので、短いメッセージ100万件を検査しても$375です。無料プランは毎月5,000件で止まり、超過分を請求することはありません。
データの条件は珍しいほど明快です。Microsoftによれば、入力は保存されず、同社のモデルの学習に使われず、社員の目にも触れず、データは選んだリージョンにとどまります。ただし、Microsoftがグローバルやデータゾーンで処理する機能は例外です。保存されるのは自分のブロックリストだけです。
注意点：制限が厳しく、サービスの多くがまだプレビューです。Prompt Shieldsはプロンプトに10,000文字、文書には最大5件で合計10,000文字までなので、長い検索結果のページは分割が必要です。Prompt Shieldsと根拠、著作権のチェックは主に英語で学習しています。根拠の検出、マルチモーダル分析、迅速なカスタムカテゴリー、コンテナーは2027年4月30日に終了し、プレビュー版のAPIは新しい版が出てから90日で非推奨になります。
結論：Azureを中心に使う会社にとっては最初に入れるべき層 です。新しい錠を買う前に、すでにドアに付いている錠を使うのと同じです。Azureの外にいるチームや多くの言語を扱うチームには、GoogleのModel ArmorやQwen3Guardのようなオープンなモデルのほうが合います。
真価を発揮する場面
Azure OpenAIで保険金請求のチャットボットを作る、従業員300人の保険会社の開発者
顧客がボットにルールを破らせるのを防ぎ、返答を健全に保つ
デプロイでFoundryのガードレールを有効にします。ユーザープロンプトへの攻撃の検出は既定でオンなので、検索した約款の文章向けに文書への攻撃の検出もオンにします。ブロックする前に、注釈モードで誤検知を測るところから始めます。
Microsoft限定のセキュリティ方針のもとでAWSやGoogle Cloud上のエージェントを動かすエンジニア
エージェントが読む前に、ツールの出力やメールに隠れた指示がないか調べる
単体のPrompt Shields APIを、ユーザープロンプトと最大5件の文書で呼び出します。1回分は10,000文字以内に収め、attackDetectedが返った文書は捨てます。
児童生徒の投稿をモデレーションする小中高向け教育ソ フトの会社
性的、暴力的、憎悪的、自傷に関わるテキストと画像を除く
テキストと画像を分析APIに送り、選んだ重大度を超えたものをブロックします。テキストレコード100万件の月額は、標準プランで$375、コミットメントプランなら$338です。
導入前に確認すること
- 導入
- 対応リージョンにContent Safetyのリソースを作り、キーかマネージドIDを使ってREST APIかSDKを呼び出します。Studioでは先にサンプルデータでしきい値を試せます。
- 連携
- REST APIとSDK。Microsoft Foundryのガードレールにモデルとエージェントのデプロイ向けに組み込み済み。ブロックリスト、テスト、監視のためのContent Safety Studio。接続型と切断型のコンテナーはプレビュー。
- データとプライバシー
- Microsoftによれば、入力は保存されず、同社のモデルの学習や改善に使われず、人による確認にも回されません。データは選んだリージョンにとどまりますが、一部の機能はグローバルまたはデータゾーンでの処理が必要です。ブロックリストは自分のリージョンに暗号化して保存されます。顧客管理キーに対応しています。
- 大規模利用時のコスト
- East USの標準プランでテキストレコード1,000件あたり$0.375、画像1,000枚あたり$0.75です。テキストレコードは1,000文字なので、7,500文字は8件として請求されます。コミットメントプランは100万件（1M）のテキストレコードで$338/月からです。
- 制限
- S0では、モデレーションとPrompt Shieldsが10秒あたり1,000リクエスト、根拠の検出が毎秒50リクエストです。テキスト分析は10,000文字、画像は4 MBが上限です。児童の性的虐待画像の検出には使えません。
良い点
- 公開価格：標準プランでテキストレコード1,000件あたり$0.375
- Prompt Shieldsはユーザーのプロンプトだけでなく文書も確認
- 入力は保存も学習利用もされず、ほとんどのチェックはリージョン内で処理
- Entra ID、マネージドID、顧客管理キーに対応
気になる点
- Prompt Shieldsのプロンプトと文書は10,000文字が上限
- Prompt Shields、根拠、著作権のチェックは主に英語で学習
- いくつかのプレビュー機能は2027年4月30日に終了
- 無料プランは毎秒5リクエストまで
おすすめの人
すでにAzureを使っていて、新たな提供元を増やさずに、チャットボットやエージェント向けのホスト型モデレーションとプロンプトインジェクション検査を入れたいチーム。
Azure AI Content Safetyの代替
Azure AI Content Safety：よくある質問
- Azure AI Content Safetyは使う価値があるか？
- セキュリティチームがすでに承認した提供元による、安くて文書の整った検査で、データの約束はたいていのホスト型ガードより明快ですが、英語以外では頼りになりません。 評価は5点満点中4.1点です。
- Azure AI Content Safetyの料金は？
- 無料のF0：毎月5,000件のテキストレコードと5,000枚の画像。標準：テキストレコード（1件1,000文字）1,000件あたり$0.375、画像1,000枚あたり$0.75（East US）。コミットメントプランは100万件（1M）のテキストレコードで$338/月から。
- Azure AI Content Safetyの欠点は？
- Prompt Shieldsのプロンプトと文書は10,000文字が上限; Prompt Shields、根拠、著作権のチェックは主に英語で学習; いくつかのプレビュー機能は2027年4月30日に終了; 無料プランは毎秒5リクエストまで.
- Azure AI Content Safetyは誰に向いているか？
- すでにAzureを使っていて、新たな提供元を増やさずに、チャットボットやエージェント向けのホスト型モデレーションとプロンプトインジェクション 検査を入れたいチーム。
- チームや本番環境でAzure AI Content Safetyを使うと費用はいくらか？
- East USの標準プランでテキストレコード1,000件あたり$0.375、画像1,000枚あたり$0.75です。テキストレコードは1,000文字なので、7,500文字は8件として請求されます。コミットメントプランは100万件（1M）のテキストレコードで$338/月からです。
- Azure AI Content Safetyは企業データを扱っても安全か？
- Microsoftによれば、入力は保存されず、同社のモデルの学習や改善に使われず、人による確認にも回されません。データは選んだリージョンにとどまりますが、一部の機能はグローバルまたはデータゾーンでの処理が必要です。ブロックリストは自分のリージョンに暗号化して保存されます。顧客管理キーに対応しています。
- Azure AI Content Safetyの代わりになるものは？
- 当サイトでレビューした中で最も近い代替はGoogle Model Armor, Lakera Guard (Check Point AI Guardrails) 、 Amazon Bedrockです。
回答確認日：2026年11月6日
Azure AI Content Safetyの開発元の方へ：この評価をサイトに掲載できます
