Llama Guard 4とは？
Llama Guard 4は、Metaが2025年4月にLlama 4モデルとともに公開した、120億パラメーターの安全分類器です。これが最後のLlama Guardになりました。Metaは2025年4月以降Llamaモデルを出しておらず、2026年4月に主力をMuseモデルへ移しています。テキスト用のLlama Guard 3 8Bと画像用のLlama Guard 3 11B Visionという従来の2モデルを、複数画像のプロンプトも含めて両方を扱える1つに置き換えたものです。
Metaは事前学習済みのLlama 4 Scoutを刈り込んで密なモデルにし、各層の共有エキスパートだけを残したうえで、テキスト3に対し画像1ほどの比率の安全データでファインチューニングしました。ユーザーのプロンプトかモデルの応答のどちらかを調べ、"safe"か"unsafe"を書き、続けて違反したカテゴリーを挙げます。カテゴリーはMLCommonsの危険リストに沿ったS1からS13(暴力犯罪から選挙まで)に、テキストでのコードインタープリター悪用を扱うS14を加えたものです。
ウェイトはHugging Faceでアクセス制限付き、Llama 4 Community Licenseのもとで配布され、直近1か月で90,071回ダウンロードされました。DeepInfraがOpenRouter経由で入出力とも100万トークンあたり$0.18で提供しています。Groqは2026年3月5日にエンドポイントを止め、gpt-oss-safeguard-20bを勧めました。
Llama Guard 4の料金は？
| プラン | 価格 | 内容 |
|---|---|---|
| Weights | Free | 12B、BF16、Llama 4 Community License |
| DeepInfra | $0.18 per 1M tokens in and out | flex枠では$0.144 |
ウェイトはLlama 4 Community Licenseのもとで無料(Hugging Faceでアクセス制限あり)。ホスティングはOpenRouter経由のDeepInfraで、100万(1M)トークンあたり入力$0.18、出力$0.18(flex枠では$0.144)。
Llama Guard 4は使う価値があるか？
Llama Guard 4の強みは、1つのモデルで幅広く見られることです。テキストと複数の画像をまとめて読み、プロンプトと応答の両方にラベルを付け、多くの安全チームがすでに報告に使っているMLCommonsのカテゴリーを 使います。社内テストセットでのMetaの評価では、英語の応答で誤検知率11%のとき検出率69%と、Llama Guard 3より4ポイント高く、複数画像のプロンプトでは61%と20ポイント高くなっています。旧ビジョンモデルが画像を1枚しか見られなかったためです。
これらは控えめな数字で、しかもMetaによるものです。画像1枚では検出率41%、英語以外の7言語では43%で、こうした場面では安全でない内容の多くが素通りします。Metaは方針が異なるとして、競合する分類器との比較を公開していません。モデルカードは、名誉毀損、知的財産、選挙のように最新の事実が必要なカテゴリーには、固定データで学習した分類器以上のものが要ること、また主に画像3枚で検証したことも警告しています。
設計は固定的です。Guard 4は自分の14カテゴリーで判定します。gpt-oss-safeguardのように、新しく書いたポリシーを渡してそれに沿って推論させることはできません。それ自体もLLMなので、分類器を狙ったインジェクション攻撃にはPrompt Guard 2を使うようモデルカードは勧めています。
運用は軽く、BF16ウェイトは約24GBでGPU 1枚に載ります。Red HatのFP8版と4ビット版なら約15GBと11GBです。ライセンスにはLlama 4の条件が付き、利用規定はEUに本拠を置く企業にマルチモーダルの権利を与えません。画像のモデレーションが目的のモデルにとって、これは重い制約です。Groqが2026年3月にgpt-oss-safeguard-20bへ切り替えたことは、ホスティングの需要がどこへ移ったかをよく示しています。
真価を発揮する場面
写真付きメッセージのあるマッチングアプリのトラスト&セーフティ担当エンジニア
テキストと複数の画像を組み合わせたメッセージを、相手に届く前に検出する
メッセージ本文と添付写真を1回の呼び出しでGuard 4に送り、返ってきたSコードに応じて対処します。1件約500トークンのチェックを月1000万件行うと、DeepInfraでは入力に約$900かかり、出力は数トークンなのでわずかです。
コーディングアシスタントの裏でLlama 4 ScoutかMaverickを動かすプラットフォームチーム
コードインタープリターを悪用しようとする応答を止める
コードインタープリター悪用のS14を有効にしてモデルの応答をGuard 4にかけます。トークナイザーとビジョンエンコーダーはLlama 4と共通です。Guard 4自体もプロンプトインジェクションを受けうるので、Metaの勧めどおり入力側にはPrompt Guard 2を組み合わせます。
MLCommonsの分類に沿ってモデレーション結果を報告するコンプライアンス責任者
四半期レビュー用に、安全でないプロンプトのカテゴリー別件数をまとめる
安全でないプロンプトごとにGuard 4が挙げるカテゴリーを記録します。ラベルはMLCommonsの危険 項目と1対1で対応します。Meta自身の英語での検出率は69%なので、検出されたものと通ったものの両方を抜き取りで人が確認します。
導入前に確認すること
- 導入
- Hugging FaceでLlama 4のライセンスに同意し、Hugging Face Transformersでmeta-llama/Llama-Guard-4-12Bを読み込んで、会話をチャットテンプレートに通します。OpenRouterならダウンロードなしで呼び出せます。
- 連携
- Hugging Face Transformers。OpenRouter経由のDeepInfra。Red HatによるFP8と4ビットの量子化版。Metaのモデルカードはインジェクション攻撃対策としてPrompt Guard 2との併用を勧めています。
- データとプライバシー
- 自前で動かせば内容は手元のハードウェアに残ります。Llama 4 Community Licenseでは、月間ユーザー7億人超でMetaのライセンスが必要で、"Built with Llama"の表示が義務付けられ、利用規定はEUに住む個人と本拠を置く企業をマルチモーダルモデルの権利から除外しています。
- 大規模利用時のコスト
- 1件500トークンのチェックを月1000万件行うと、DeepInfraで約$900です。自前なら24GBのBF16モデルが40GB級以上のGPU 1枚で動き、約11GBの4ビット版は16GBのカードに収まります。
- 制限
- 出力はsafeかunsafeとカテゴリーのテキストで、較正されたスコアはない。カテゴリーは固定の14。英語と7言語。主に画像3枚で検証。事実に依存するカテゴリーに弱い。Groqのエンドポイントは2026年3月5日に終了。
良い点
- テキスト、画像1枚、複数画像を1つのモデルで扱える
- MLCommonsの標準カテゴリーS1からS13とコードインタープリター悪用
- 複数画像での検出率がLlama Guard 3より20ポイント高い(Meta)
- BF16で約24GB。ホスティングは100万トークンあたり$0.18
気になる点
- 画像1枚で検出率41%、英語以外のテキストで43%(Meta)
- カテゴリーは固定で、独自に書いたポリシーには従えない
- 他の分類器との比較は公開されていない
- EUに本拠を置く企業はライセンスのマル チモーダルの権利から除外
おすすめの人
EU域外で、既存のチャットモデルの前後に、MLCommonsの危険カテゴリーに沿ったテキストと画像の自前チェックを1つ置きたいチーム。
Llama Guard 4の代替
Llama Guard 4：よくある質問
- Llama Guard 4は使う価値があるか？
- Guard 4はテキストと画像を標準的な有害リストで検査する手軽な選択肢ですが、Meta自身のテストで安全でない英語の応答の約3分の1を見逃すことは受け入れる必要があります。 評価は5点満点中3.6点です。
- Llama Guard 4の料金は？
- ウェイトはLlama 4 Community Licenseのもとで無料(Hugging Faceでアクセス制限あり)。ホスティングはOpenRouter経由のDeepInfraで、100万(1M)トークンあたり入力$0.18、出力$0.18(flex枠では$0.144)。
- Llama Guard 4の欠点は？
- 画像1枚で検出率41%、英語以外のテキストで43%(Meta); カテゴリーは固定で、独自に書いたポリシーには従えない; 他の分類器との比較は公開されていない; EUに本拠を置く企業はライセンスのマルチモーダルの権利から除外.
- Llama Guard 4は誰に向いているか？
- EU域外で、既存のチャットモデルの前後に、MLCommonsの危険カテゴリーに沿ったテキストと画像の自前チェックを1つ置きたいチーム。
- チームや本番環境でLlama Guard 4を使うと費用はいくらか？
- 1件500トークンのチェックを月1000万件行うと、DeepInfraで約$900です。自前なら24GBのBF16モデルが40GB級以上のGPU 1枚で動き、約11GBの4ビット版は16GBのカードに収まります。
- Llama Guard 4は企業データを扱っても安全か？
- 自前で動かせば内容は手元のハードウェアに残ります。Llama 4 Community Licenseでは、月間ユーザー7億人超でMetaのライセンスが必要で、"Built with Llama"の表示が義務付けられ、利用規定はEUに住む個人と本拠を置く企業をマルチモーダルモデルの権利から除外しています。
- Llama Guard 4の代わりになるものは？
- 当サイトでレビューした中で最も近い代替はgpt-oss-safeguard, Qwen3Guard, Granite Guardian 4.1 8B, Shieldstral 1.0 3B 、 Llama Prompt Guard 2です。
回答確認日：2026年11月9日