Llama Prompt Guard 2의 개요
Llama Prompt Guard 2는 프롬프트 인젝션과 탈옥 시도를 표시하는 Meta의 작은 텍스트 분류기 한 쌍입니다. 86M 모델은 Microsoft의 다국어 기반 모델 mDeBERTa 위에 만들어졌고, DeBERTa-xsmall 기반의 22M 모델은 속도를 위한 선택지로, Meta에 따르면 정확도를 조금 잃는 대신 지연 시간과 연산 비용을 75% 줄입니다. 둘 다 무해 또는 악성 중 하나의 라벨을 점수와 함께 돌려줍니다.
한 번에 512토큰을 읽으므로 긴 문서는 조각으로 나눠 병렬로 검사해야 합니다. Meta는 영어, 프랑스어, 독일어, 힌디어, 이탈리아어, 포르투갈어, 스페인어, 태국어로 평가했지만 다국어 기반을 가진 것은 86M뿐입니다. 해를 끼치는지와 상관없이 이전 지시를 명시적으로 무력화하려는 프롬프트를 표시하므로, 사용자 메시지뿐 아니라 웹 페이지와 도구 출력 같은 신뢰할 수 없는 텍스트 검사에도 쓸 수 있습니다.
가중치는 Llama 4 Community License이며 Hugging Face에서 접근 신청이 필요합니다. 모델은 2025년 4월 Llama 4 컬렉션과 함께 공개되었고 Meta의 LlamaFirewall 프레임워크에 포함됩니다. 86M 모델은 지난 한 달 동안 101,122회 다운로드되었습니다.
Llama Prompt Guard 2의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내 용 |
|---|---|---|
| 86M | Free | 다국어 기반, 더 높은 정확도 |
| 22M | Free | 더 빠름: A100에서 512토큰당 19.3 ms |
Llama 4 Community License의 무료 오픈 웨이트이며 Hugging Face에서 접근 신청이 필요합니다. 직접 호스팅만 가능하고 86M과 22M 두 크기가 있습니다.
Llama Prompt Guard 2, 쓸 만한 가치가 있습니까?
Prompt Guard 2는 한 가지 일만 하고 실행 비용이 거의 들지 않습니다. 학습 분포 밖의 Meta 비공개 탈옥 평가 세트에서 86M 모델은 오탐률 1%일 때 공격의 97.5%를 잡아내며, 초대 Prompt Guard는 21.2%였습니다. 22M 모델은 88.7%를 잡습니다. A100에서 512토큰 기준 지연 시간은 86M이 92.4 ms, 22M이 19.3 ms입니다.
더 쓸모 있는 수치는 에이전트 결과입니다. AgentDojo에서 작업 완료율을 3% 희생할 때 86M은 공격의 81.2%를, 22M은 78.4%를 막습니다. ProtectAI와 Deepset의 오래된 공개 탐지기는 22.2%와 13.5%를 막습니다. Meta의 LlamaFirewall 논문에서는 도구 출력 앞에 86M을 두자 공격 성공률이 17.6%에서 7.5%로 떨어졌습니다.
한계는 모델 카드에 적혀 있습니다. 512토큰만 보므로 긴 검색 페이지는 잘라야 하고, 여러 조각에 나뉜 공격은 빠져나갈 수 있습니다. 해로움이 아니라 지시처럼 보이는 텍스트를 표시하므로 "ignore previous instructions"를 인용한 문서에도 반응합니다. Meta는 공격자가 분류기에 적응한다는 점과 정확도가 앱의 평소 트래픽 모습에 달려 있다는 점을 경고하며, 자체 데이터로 미세 조정할 것을 권합니다. 22M 모델은 영어 밖에서 눈에 띄게 약합니다.
엄밀한 의미의 오픈 소스도 아닙니다. Llama 4 Community License는 조건을 덧붙이고 다운로드에는 신청이 필요합니다. Apache나 MIT 가중치가 필요한 팀에게는 이 점이 벤치마크보다 중요합니다.
제 역할을 하는 곳
고객 지원 봇에 웹 검색을 추가하는 백엔드 엔지니어
가져온 모든 페이지가 모델에 닿기 전에 심어 둔 지시가 있는지 검사하기
각 페이지를 512토큰 조각으로 나누고 22M 모델로 병렬 채점한 뒤 악성으로 표시된 조각은 버리거나 격리합니다. GPU에서 조각당 약 19 ms이므로 검색 호출에 더해지는 부담은 작습니다.
여러 언어 사용자를 둔 유럽 보험사의 플랫폼 팀
프랑스어, 독일어, 이탈리아어, 스페인어 채팅의 탈옥 시도 차단하기
다국어 기반을 가진 86M 모델을 사용자 발화마다 돌립니다. Meta가 정확도는 트래픽에 달렸다고 경고하므로 임계값은 언어별로 실제 무해 메시지 수백 건으로 정합니다.
자사 제품에 대한 과거 공격을 라벨링해 둔 ML 엔지니어
프롬프트를 인용하는 기술 콘텐츠의 오탐 줄이기
모델 카드의 권고대로 자체 무해 및 악성 예시로 86M 모델을 미세 조정하고, 오탐 1%에서의 탐지율을 전후로 비교합니다.
도입 전 확인할 점
- 설정
- Hugging Face에서 Llama 4 라이선스에 동의한 뒤 meta-llama/Llama-Prompt-Guard-2-86M 또는 -22M을 Transformers의 text-classification 파이프라인으로 불러옵니다. 몇 분이면 첫 결과가 나옵니다.
- 연동
- Transformers. LlamaFirewall 안에서 PromptGuard 스캐너로 쓰이며, LlamaFirewall에는 OpenAI Agents SDK와 LangChain 예제가 있습니다.
- 데이터와 개인정보
- 직접 호스팅하므로 텍스트가 사용자의 서버 밖으로 나가지 않습니다. 가중치는 Llama 4 Community License이며 Meta 약관에 동의해야 받을 수 있습니다.
- 대규모 사용 시 비용
- API 요금이 없습니다. 두 모델 모두 보호하는 LLM에 비하면 작으며, 긴 문서는 512토큰 조각마다 한 번씩 처리 비용이 듭니다.
- 제한
- 무해 또는 악성의 이진 라벨만 제공, 512토 큰 컨텍스트, 적응형 공격에 취약, 22M 모델은 영어 밖에서 약함.
좋은 점
- Meta 탈옥 세트에서 오탐 1%일 때 97.5% 탐지(86M)
- 22M 모델은 A100에서 512토큰당 19.3 ms
- 유용성 3% 희생으로 AgentDojo 공격의 81.2% 차단(86M)
- 도구 호출마다 옆에서 돌릴 수 있을 만큼 작음
아쉬운 점
- 512토큰 창이라 긴 입력은 잘라야 함
- 유해한 콘텐츠가 아니라 지시처럼 보이는 텍스트를 표시
- 벤치마크가 Meta 자체 결과이며 일부는 비공개 세트
- Llama 4 Community License와 접근 신청이 필요한 다운로드
추천 대상
사용자 입력, 검색된 문서, 도구 결과에 주입된 지시를 빠르게, 직접 호스팅으로 검사하려는 팀.
Llama Prompt Guard 2 대안
Llama Prompt Guard 2: 자주 묻는 질문
- Llama Prompt Guard 2, 쓸 만한 가치가 있습니까?
- 어떤 에이전트 파이프라인이든 감당할 수 있는, 주입된 지시를 막는 저렴한 첫 번째 필터입니다. 다만 이것만으로 방어가 끝난다고 여겨서는 안 됩니다. 평점은 5점 만점에 4.2점입니다.
- Llama Prompt Guard 2의 가격은 얼마입니까?
- Llama 4 Community License의 무료 오픈 웨이트이며 Hugging Face에서 접근 신청이 필요합니다. 직접 호스팅만 가능하고 86M과 22M 두 크기가 있습니다.
- Llama Prompt Guard 2의 단점은 무엇입니까?
- 512토큰 창이라 긴 입력은 잘라야 함; 유해한 콘텐츠가 아니라 지시처럼 보이는 텍스트를 표시; 벤치마크가 Meta 자체 결과이며 일부는 비공개 세트; Llama 4 Community License와 접근 신청이 필요한 다운로드.
- Llama Prompt Guard 2에 적합한 사람은 누구입니까?
- 사용자 입력, 검색된 문서, 도구 결과에 주입된 지시를 빠르게, 직접 호스팅으로 검사하려는 팀.
- 팀이나 프로덕션 환경에서 Llama Prompt Guard 2의 비용은 얼마입니까?
- API 요금이 없습니다. 두 모델 모두 보호하는 LLM에 비하면 작으며, 긴 문서는 512토큰 조각마다 한 번씩 처리 비용이 듭니다.
- Llama Prompt Guard 2에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 텍스트가 사용자의 서버 밖으로 나가지 않습니다. 가중치는 Llama 4 Community License이며 Meta 약관에 동의해야 받을 수 있습니다.
- Llama Prompt Guard 2의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 GLiNER2.5-Decide, Shieldstral 1.0 3B 및 Laya입니다.
답변 확인일: 2026년 11월 6일.
Llama Prompt Guard 2 개발사입니까? 이 평점을 사이트에 표시하십시오
