Granite Guardian 4.1 8B의 개요
Granite Guardian 4.1 8B는 IBM Research의 위험 탐지 모델로, Granite 4.1 8B를 미세 조정해 2026년 4월에 공개되었습니다. 대화, 쉬운 말로 쓴 기준, 채점 방식을 주면 score 태그 안에 예 또는 아니오를 돌려줍니다. think 모드에서는 먼저 추론을 쓰고, no-think 모드에서는 바로 답합니다.
기본 제공 기준은 세 묶음입니다. 유해성(일반적 해악, 사회적 편향, 탈옥, 폭력, 비속어, 성적 콘텐츠, 비윤리적 행동), 검색 검사(문맥 관련성, 근거성, 답변 관련성), 에이전트 검사(함수 호출 환각)입니다. Bring Your Own Criteria로 형식이나 길이 요건 같은 새 규칙을 쓸 수 있지만, IBM은 이를 반드시 시험해야 한다고 말합니다.
가중치는 Apache 2.0이며 접근 신청이 필요 없습니다. Transformers, vLLM, SGLang, Docker Model Runner에서 실행되고, 커뮤니티의 양자화 버전 11개가 llama.cpp, Ollama, LM Studio에서 동작합니다. 학습과 평가는 영어로만 했습니다. 3.3 8B와 38M, 125M 크기의 혐오·욕설·비속어 분류기 같은 이전 버전도 Hugging Face에 남아 있습니다.
Granite Guardian 4.1 8B의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | Apache 2.0, 접근 신청 불필요 |
| Self-hosted | Free | 자체 GPU에서 BF16 8B |
Apache 2.0의 무료 오픈 웨이트이며 Hugging Face에서 접근 신청이 필요 없습니다. 직접 호스팅만 가능하고 호스팅 추론 제공업체는 없습니다.
Granite Guardian 4.1 8B, 쓸 만한 가치가 있습니까?
Granite Guardian의 장점은 깔끔한 라이선스 아래의 넓은 범위입니다. 대부분의 가드 모델은 유해 콘텐츠에서 멈추지만, 이 모델은 답변이 검색된 텍스트에 근거하는지, 에이전트의 함수 호출이 주어진 도구와 맞는지도 확인합니다. 모두 Apache 2.0이며 접근 신청도 없습니다.
IBM의 4.1 수치를 보면 어디에 공을 들였는지 알 수 있습니다. FC Reward Bench의 함수 호출 탐지는 버전 3.3의 0.74에서 no-think 모드 기준 0.79로 올랐습니다. 가장 많이 나아진 것은 사용자 정의 기준으로, IFEval 다중 제약 과제의 균형 정확도가 프롬프트만 쓸 때의 0.569에서 0.844로 올랐습니다. LLM-AggreFact의 근거성은 think 모드에서 0.76으로 3.3과 같았습니다. 안전성 자체는 거의 변하지 않았습니다. IBM은 no-think F1이 0.79로 이전 버전과 비슷하고, xstest 거절 지표는 0.44로 낮다고 보고합니다.
IBM은 비용에 대해 솔직합니다. 모델 카드는 이 모델을 모델 평가, 모니터링, 표본 검사처럼 지연 요구가 중간 정도인 용도에 두고, 지연 예산이 빠듯한 팀에는 38M 혐오·욕설·비속어 모델을 권합니다. think 모드는 검사마다 생성된 추론을 덧붙이며, IBM은 그 추론에 위험한 텍 스트가 들어 있거나 점수가 정해진 과정을 반영하지 않을 수 있다고 경고합니다.
가장 큰 실무상 한계는 영어 전용 학습입니다. 다국어 모더레이션이라면 Qwen3Guard가 119개 언어와 방언을 지원하고, 빠른 인젝션 선별이라면 Prompt Guard 2 같은 분류기가 호출당 훨씬 저렴합니다.
제 역할을 하는 곳
판례 요약에 대한 질문에 답하는 법률 출판사의 RAG 팀
검색된 구절이 뒷받침하지 않는 답변 표시하기
질문, 검색된 문맥, 답변을 근거성 기준과 함께 no-think 모드로 보내고, 예가 나오면 사람 검토로 넘깁니다. 트래픽 일부만 표본으로 돌리면 GPU 비용을 줄일 수 있습니다.
함수 호출로 회의를 예약하는 비서를 만드는 에이전트 개발자
지어낸 인수나 잘못된 함수를 쓰는 도구 호출 잡기
실행 전에 도구 스키마와 예정된 호출을 함수 호출 환각 기준과 함께 넘깁니다. IBM은 no-think 모드에서 이 검사가 FC Reward Bench 0.79라고 보고합니다.
영어권 커뮤니티 앱의 신뢰 및 안전 책임자
기본 유해 범주가 놓치는 내부 규칙 적용하기
규 칙을 Bring Your Own Criteria 프롬프트로 쓰고, IBM의 권고대로 라벨링된 표본으로 시험한 뒤, 모든 메시지가 아니라 신고된 게시물에 적용합니다.
도입 전 확인할 점
- 설정
- pip install transformers torch vllm 후 vllm serve ibm-granite/granite-guardian-4.1-8b를 실행합니다. 판정 프롬프트는 마지막 사용자 메시지에 넣고 think 또는 no-think 지시, 기준, 채점 방식을 담습니다.
- 연동
- Transformers, vLLM, SGLang, Docker Model Runner, llama.cpp·Ollama·LM Studio용 커뮤니티 GGUF 빌드, Colab과 Kaggle 노트북.
- 데이터와 개인정보
- 직접 호스팅하므로 프롬프트와 문서가 사용자의 하드웨어에 남습니다. Apache 2.0이라 접근 신청 없이 상업적으로 쓸 수 있습니다.
- 대규모 사용 시 비용
- API 요금이 없고 8B 모델을 GPU 한 대로 서비스합니다. think 모드는 검사마다 추가 토큰을 생성하므로 대량 처리에는 no-think, 감사에는 think가 맞습니다.
- 제한
- 영어 전용. 보정된 다중 클래스 라벨이 아니라 예 또는 아니오만 반환. 모델 카드에 컨텍스트 길이 표기 없음. IBM은 자사 프롬프트 템플릿만 쓰라고 권합니다.
좋은 점
- 유해성, RAG 근거성, 함수 호출 검사를 한 모델에서
- IFEval 다중 제약에서 사용자 정의 기준 정확도가 0.569에서 0.844로 상승
- Apache 2.0, 접근 신청 불필요
- think와 no-think 모드로 지연 시간과 설명을 맞바꿈
아쉬운 점
- 영어 전용
- 8B라 모든 메시지를 인라인으로 검사하기엔 느림
- 안전성 F1이 이전 버전과 거의 같음
- 추론이 부정확하거나 위험한 텍스트를 담을 수 있음
추천 대상
영어로 서비스하며 안전성, 검색 근거성, 에이전트 도구 호출을 하나의 공개 판정 모델로 표본 또는 고위험 트래픽에 적용하려는 팀.
Granite Guardian 4.1 8B 대안
Granite Guardian 4.1 8B: 자주 묻는 질문
- Granite Guardian 4.1 8B, 쓸 만한 가치가 있습니까?
- 영어 앱을 위해 유해성, 근거 확인, 도구 호출을 한 모델로 다루는 공개 판정 모델이지만, 8B라서 모든 메시지를 거치는 인라인 필터보다는 표본 검사에 맞습니다. 평점은 5점 만점에 4.0점입니다.
- Granite Guardian 4.1 8B의 가격은 얼마입니까?
- Apache 2.0의 무료 오픈 웨이트이며 Hugging Face에서 접근 신청이 필요 없습니다. 직접 호스팅만 가능하고 호스팅 추론 제공업체는 없습니다.
- Granite Guardian 4.1 8B의 단점은 무엇입니까?
- 영어 전용; 8B라 모든 메시지를 인라인으로 검사하기엔 느림; 안전성 F1이 이전 버전과 거의 같음; 추론이 부정확하거나 위험한 텍스트를 담을 수 있음.
- Granite Guardian 4.1 8B에 적합한 사람은 누구입니까?
- 영어로 서비스하며 안전성, 검색 근거성, 에이전트 도구 호출을 하나의 공개 판정 모델로 표본 또는 고위험 트래픽에 적용하려는 팀.
- 팀이나 프로덕션 환경에서 Granite Guardian 4.1 8B의 비용은 얼마입니까?
- API 요금이 없고 8B 모델을 GPU 한 대로 서비스합니다. think 모드는 검사마다 추가 토큰을 생성하므로 대량 처리에는 no-think, 감사에는 think가 맞습니다.
- Granite Guardian 4.1 8B에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 프롬프트와 문서가 사용자의 하드웨어에 남습니다. Apache 2.0이라 접근 신청 없이 상업적으로 쓸 수 있습니다.
- Granite Guardian 4.1 8B의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3Guard, gpt-oss-safeguard 및 Shieldstral 1.0 3B입니다.
답변 확인일: 2026년 11월 6일.
Granite Guardian 4.1 8B 개발사입 니까? 이 평점을 사이트에 표시하십시오
