Llama Guard 4의 개요
Llama Guard 4는 Meta가 2025년 4월 Llama 4 모델과 함께 공개한 120억 파라미터의 안전 분류기입니다. 마지막 Llama Guard이기도 합니다. Meta는 2025년 4월 이후 Llama 모델을 내놓지 않았고 2026년 4월 주력 계열을 Muse 모델로 옮겼습니다. 텍스트용 Llama Guard 3 8B와 이미지용 Llama Guard 3 11B Vision이라는 기존 두 모델을, 여러 이미지가 담긴 프롬프트까지 함께 처리하는 하나로 대체합니다.
Meta는 사전 학습된 Llama 4 Scout를 가지치기해 밀집 모델로 만들고 각 층의 공유 전문가만 남긴 뒤, 텍스트 3에 이미지 1 정도 비율의 안전 데이터로 파인튜닝했습니다. 사용자 프롬프트나 모델 응답 중 하나를 검사해 "safe" 또는 "unsafe"를 쓰고, 이어서 위반한 범주를 나열합니다. 범주는 MLCommons 위험 목록을 따른 S1~S13(폭력 범죄부터 선거까지)에, 텍스트에서의 코드 인터프리터 악용을 다루는 S14를 더한 것입니다.
웨이트는 Hugging Face에서 접근 승인을 받아야 하고 Llama 4 Community License로 배포되며, 최근 한 달간 90,071회 다운로드됐습니다. DeepInfra가 OpenRouter를 통해 입력과 출력 모두 100만 토큰당 $0.18에 제공합니다. Groq는 2026년 3월 5일 엔드포인트를 종료하고 gpt-oss-safeguard-20b를 권했습니다.
Llama Guard 4의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | 12B, BF16, Llama 4 Community License |
| DeepInfra | $0.18 per 1M tokens in and out | flex 등급 $0.144 |
Llama 4 Community License로 웨이트 무료(Hugging Face 접근 승인 필요). OpenRouter 경유 DeepInfra 호스팅: 100만(1M) 토큰당 입력 $0.18, 출력 $0.18(flex 등급 $0.144).
Llama Guard 4, 쓸 만한 가치가 있습니까?
Llama Guard 4의 강점은 모델 하나로 폭넓게 다룬다는 점입니다. 텍스트와 여러 이미지를 함께 읽고, 프롬프트와 응답 모두에 라벨을 붙이며, 많은 안전팀이 이미 보고에 쓰는 MLCommons 범주를 사용합니다. 내부 테스트 세트에 대한 Meta의 평가에서 영어 응답은 오탐률 11%에서 탐지율 69%로 Llama Guard 3보다 4포인트 높고, 여러 이미지 프롬프트는 61%로 20포인트 높습니다. 이전 비전 모델은 이미지를 한 장만 볼 수 있었기 때문입니다.
이 수치는 소박하며, 그것도 Meta의 수치입니다. 이미지 한 장일 때 탐지율은 41%, 영어 외 7개 언어에서는 43%라서, 이런 경우 안전하지 않은 콘텐츠의 대부분이 그대로 통과합니다. Meta는 정책이 다르다는 이유로 경쟁 분류기와의 비교를 공개하지 않습니다. 모델 카드는 명예훼손, 지식재산, 선거처럼 최신 사실이 필요한 범주에는 고정 데이터로 학습한 분류기 이상의 것이 필요하고, 주로 이미지 3장으로 검증했다고도 경고합니다.
설계는 고정돼 있습니다. Guard 4는 자신의 14개 범주로 판정하며, gpt-oss-safeguard처럼 새로 작성한 정책을 주고 그에 따라 추론하게 할 수는 없습니다. 그 자체도 LLM이라, 모델 카드는 분류기를 노린 인젝션 공격에는 Prompt Guard 2를 쓰라고 안내합니다.
운영은 가볍습니다. BF16 웨이트는 약 24GB로 GPU 한 장에 올라가고, Red Hat의 FP8과 4비트 빌드는 약 15GB와 11GB입니다. 라이선스에는 Llama 4 조건이 따라오고, 이용 정책은 EU에 본사를 둔 기업에 멀티모달 권리를 주지 않는데, 이미지 모더레이션이 존재 이유인 모델에는 무거운 제약입니다. Groq가 2026년 3월 gpt-oss-safeguard-20b로 갈아탄 것은 호스팅 수요가 어디로 옮겨 갔는지 잘 보여 줍니다.
제 역할을 하는 곳
사진 메시지를 주고받는 데이팅 앱의 트러스트 앤 세이프티 엔지니어
텍스트와 여러 이미지가 섞인 메시지를 상대에게 닿기 전에 걸러내기
메시지 본문과 첨부 사진을 한 번의 호출로 Guard 4에 보내고 돌아온 S 코드에 따라 조치합니다. 건당 약 500 토큰의 검사를 월 1000만 건 하면 DeepInfra에서 입력에 약 $900가 들고, 출력은 몇 토큰뿐이라 미미합니다.
코딩 어시스턴트 뒤에서 Llama 4 Scout나 Maverick을 운영하는 플랫폼팀
코드 인터프리터를 악용하려는 응답 차단
코드 인터프리터 악용인 S14를 켠 채 모델 응답을 Guard 4로 검사합니다. 토크나이저와 비전 인코더는 Llama 4와 같습니다. Guard 4 자체도 프롬프트 인젝션을 당할 수 있으므로, Meta 권고대로 입력 쪽에는 Prompt Guard 2를 함께 둡니다.
MLCommons 분류 체계에 따라 모더레이션 결과를 보고하는 컴플라이언스 책임자
분기 검토용으로 안전하지 않은 프롬프트의 범주별 건수 집계
안전하지 않은 프롬프트마다 Guard 4가 제시한 범주를 기록합니다. 라벨은 MLCommons 위험 항목과 일대일로 대응합니다. Meta 자체의 영어 탐지율이 69%이므로, 걸린 항목과 통과한 항목 모두 표본을 뽑아 사람이 검토합니다.
도입 전 확인할 점
- 설정
- Hugging Face에서 Llama 4 라이선스에 동의하고 Hugging Face Transformers로 meta-llama/Llama-Guard-4-12B를 불러와 대화를 채팅 템플릿에 통과시킵니다. OpenRouter로는 다운로드 없이 호출할 수 있습니다.
- 연동
- Hugging Face Transformers; OpenRouter 경유 DeepInfra; Red Hat의 FP8 및 4비트 양자화 빌드; Meta 모델 카드는 인젝션 공격 대응으로 Prompt Guard 2와 함께 쓰라고 권합니다.
- 데이터와 개인정보
- 직접 호스팅하면 콘텐츠는 내 하드웨어에 남습니다. Llama 4 Community License: 월간 사용자 7억 명 초과 시 Meta 라이선스가 필요하고 "Built with Llama" 표시가 의무이며, 이용 정책은 EU에 거주하는 개인과 본사를 둔 기업을 멀티모달 모델 권리에서 제외합니다.
- 대규모 사용 시 비용
- 건당 500 토큰 검사를 월 1000만 건 하면 DeepInfra에서 약 $900입니다. 직접 호스팅하면 24GB BF16 모델이 40GB급 이상 GPU 한 장에서 돌고, 약 11GB의 4비트 빌드는 16GB 카드에 들어갑니다.
- 제한
- 출력은 safe 또는 unsafe와 범주 텍스트이며 보정된 점수는 없음; 고정 범주 14개; 영어와 7개 언어; 주로 이미지 3장으로 검증; 사실 의존 범주에 약함; Groq 엔드포인트는 2026년 3월 5일 종료.
좋은 점
- 텍스트, 이미지 한 장, 여러 이미지를 모델 하나로 처리
- MLCommons 표준 범주 S1~S13과 코드 인터프리터 악용
- 여러 이미지 탐지율이 Llama Guard 3보다 20포인트 높음(Meta)
- BF16 약 24GB; 호스팅 100만 토큰당 $0.18
아쉬운 점
- 이미지 한 장 탐지율 41%, 영어 외 텍스트 43%(Meta)
- 범주 고정; 직접 작성한 정책은 따르지 못함
- 다른 분류기와의 비교 미공개
- EU에 본사를 둔 기업은 라이선스의 멀티모달 권리에서 제외
추천 대상
EU 밖에서 기존 채팅 모델 앞이나 뒤에 MLCommons 위험 범주에 따른 텍스트·이미지 자체 호스팅 검사를 하나 두려는 팀.
Llama Guard 4 대안
Llama Guard 4: 자주 묻는 질문
- Llama Guard 4, 쓸 만한 가치가 있습니까?
- Guard 4는 텍스트와 이미지를 표준 유해 목록으로 검사하는 손쉬운 선택이지만, Meta 자체 테스트에서 안전하지 않은 영어 응답의 약 3분의 1을 놓친다는 점은 감수해야 합니다. 평점은 5점 만점에 3.6점입니다.
- Llama Guard 4의 가격은 얼마입니까?
- Llama 4 Community License로 웨이트 무료(Hugging Face 접근 승인 필요). OpenRouter 경유 DeepInfra 호스팅: 100만(1M) 토큰당 입력 $0.18, 출력 $0.18(flex 등급 $0.144).
- Llama Guard 4의 단점은 무엇입니까?
- 이미지 한 장 탐지율 41%, 영어 외 텍스트 43%(Meta); 범주 고정; 직접 작성한 정책은 따르지 못함; 다른 분류기와의 비교 미공개; EU에 본사를 둔 기업은 라이선스의 멀티모달 권리에서 제외.
- Llama Guard 4에 적합한 사람은 누구입니까?
- EU 밖에서 기존 채팅 모델 앞이나 뒤에 MLCommons 위험 범주에 따른 텍스트·이미지 자체 호스팅 검사를 하나 두려는 팀.
- 팀이나 프로덕션 환경에서 Llama Guard 4의 비용은 얼마입니까?
- 건당 500 토큰 검사를 월 1000만 건 하면 DeepInfra에서 약 $900입니다. 직접 호스팅하면 24GB BF16 모델이 40GB급 이상 GPU 한 장에서 돌고, 약 11GB의 4비트 빌드는 16GB 카드에 들어갑니다.
- Llama Guard 4에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하면 콘텐츠는 내 하드웨어에 남습니다. Llama 4 Community License: 월간 사용자 7억 명 초과 시 Meta 라이선스가 필요하고 "Built with Llama" 표시가 의무이며, 이용 정책은 EU에 거주하는 개인과 본사를 둔 기업을 멀티모달 모델 권리에서 제외합니다.
- Llama Guard 4의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 gpt-oss-safeguard, Qwen3Guard, Granite Guardian 4.1 8B, Shieldstral 1.0 3B 및 Llama Prompt Guard 2입니다.
답변 확인일: 2026년 11월 9일.