Qwen3Guard의 개요
Qwen3Guard는 Alibaba Qwen 팀의 모더레이션 모델 제품군으로, 2025년 9월 Qwen3를 기반으로 공개되었습니다. 두 형태가 있고 각각 0.6B, 4B, 8B 크기로 나옵니다. Qwen3Guard-Gen은 프롬프트 전체나 프롬프트와 응답을 읽고 안전 라벨과 범주를 써 냅니다. Qwen3Guard-Stream은 분류 헤드를 더해 주 모델이 토큰을 생성하는 즉시 토큰마다 라벨을 붙이므로, 위험한 답변을 스트림 도중에 끊을 수 있습니다.
예 또는 아니오 대신 안전, 논란, 위험 세 라벨 중 하나를 돌려줍니다. 논란은 해로움이 문맥에 따라 달라지는 콘텐츠입니다. 엄격 모드에서는 위험으로, 완화 모드에서는 안전으로 처리합니다. 범주는 폭력적 콘텐츠, 비폭력 불법 행위, 성적 콘텐츠, 개인 정보, 자살 및 자해, 비윤리적 행위, 정치적으로 민감한 주제, 저작권 침해, 그리고 입력에만 해당하는 탈옥입니다. 응답 검사는 모델이 거절했는지도 알려 줍니다.
모델은 라벨이 달린 프롬프트와 응답 119만 건(1.19 million)으로 학습했고 119개 언어와 방언을 지원합니다. 가중치는 Apache 2.0이며 Hugging Face에서 접근 신청이 필요 없습니다. 8B Gen 모델은 지난 한 달 동안 110,997회 다운로드되었습니다.
Qwen3Guard의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Qwen3Guard-Gen | Free | 0.6B, 4B 또는 8B, 프롬프트나 응답 전체 |
| Qwen3Guard-Stream | Free | 0.6B, 4B 또는 8B, 토큰 단위 |
Apache 2.0의 무료 오픈 웨이트로, Hugging Face에서 접근 신청이 필요 없고 0.6B, 4B, 8B 크기가 있으며 직접 호스팅합니다. Alibaba Cloud는 이를 바탕으로 한 호스팅 서비스 AI Guardrails도 제공합니다.
Qwen3Guard, 쓸 만한 가치가 있습니까?
Qwen3Guard의 강점은 언어입니다. Qwen 팀의 기술 보고서에서 8B Gen 모델은 중국어 프롬프트 벤치마크 평균 F1이 85.1로 Llama Guard 4 12B의 44.1을 앞서고, 다국어 RTP-LX에서는 85.0으로 상대의 41.7을 앞섭니다. 영어에서는 프롬프트 평균 90.0, 응답 83.9로 WildGuard 7B의 85.8과 79.9를 앞섭니다. 단서가 하나 있습니다. Qwen의 평균은 벤치마크마다 엄격 모드와 완화 모드 중 나은 쪽을 택하므로 결과가 다소 유리하게 나옵니다.
실무에서 중요한 것은 세 단계 라벨이라는 설계입니다. 어린이 학습 앱과 성인 소설 플랫폼은 같은 경계선의 글을 두고 판단이 갈립니다. Qwen3Guard를 쓰면 한 모델을 공유하고, 논란을 차단할지만 다르게 정하면 됩니다.
Stream 버전도 눈여겨볼 이유입니다. 생성되는 토큰을 하나하나 채점하며, 보고서에 따르면 Gen 모델과의 차이는 F1 약 2포인트입니다. 위험한 응답 813건에서 첫 위험 문장을 정확히 짚은 비율은 약 86.0%였고, 추론 과정에서는 약 66.8%의 경우 처음 128토큰 안에 위험한 내용을 잡았습니다. 대가는 통합 작업입니다. Qwen3 토큰 ID를 읽으므로 다른 모델 계열은 출력을 다시 토큰화해야 하고, vLLM과 SGLang의 Stream 지원은 아직 진행 중입니다.
문서는 거칩니다. README의 응답 모더레이션 예제는 모델 이름이 틀렸고 정의되지 않은 변수를 출력하며, 벤치마크 표는 모델 카드에 이미지로만 있고, GitHub 저장소는 2025년 10월 이후 바뀌지 않았습니다. 모델은 견실하니 README보다 보고서를 읽을 생각을 하셔야 합니다.
제 역할을 하는 곳
아시아와 중남미에 사용자가 있는 메신저 앱의 신뢰 및 안전 팀
중국어, 인도네시아어, 스페인어, 포르투갈어로 된 사용자 프롬프트와 봇 답변 모더레이션하기
Qwen3Guard-Gen-4B를 vLLM으로 OpenAI 호환 엔드포인트 뒤에 두고 모든 발화를 통과시킵니다. 미성년자 계정에서는 논란을 위험으로, 나머지에서는 안전으로 처리합니다.
긴 답변을 스트리밍하는 Qwen3 기반 비서를 운영하는 엔지니어
위험한 답변을 아직 생성되는 동안 멈추기
생성된 토큰 ID를 하나씩 Transformers로 Qwen3Guard-Stream에 넘기고, 위험 라벨이 붙은 토큰이 나오면 전체 답변을 기다리지 않고 스트림을 닫습니다.
강화 학습으로 모델을 훈 련하는 연구자
무조건적인 거절에 보상하지 않으면서 안전한 답변에 보상하기
Qwen이 Gen-4B로 Qwen3-4B-SafeRL을 훈련했듯이 Gen의 안전 라벨과 거절 항목을 보상 신호로 씁니다. 더 작은 크기를 쓰면 보상 모델을 더 싸게 돌릴 수 있습니다.
도입 전 확인할 점
- 설정
- vllm serve Qwen/Qwen3Guard-Gen-4B --max-model-len 32768(vLLM 0.9.0+ 또는 SGLang 0.4.6.post1+)을 실행한 뒤 답변의 Safety와 Categories 줄을 파싱합니다. Stream에는 trust_remote_code를 켠 Transformers 4.51+가 필요합니다.
- 연동
- Gen용 Transformers, vLLM, SGLang, OpenAI 호환 엔드포인트. Alibaba Cloud의 호스팅 서비스 AI Guardrails가 이 기술로 동작합니다.
- 데이터와 개인정보
- 직접 호스팅하므로 텍스트가 사용자의 하드웨어에 남습니다. Apache 2.0이라 상업적으로 쓸 수 있습니다.
- 대규모 사용 시 비용
- API 요금이 없고 자체 GPU 비용만 냅니다. 0.6B가 가장 싸게 운영됩니다. Stream 비용은 답변 길이에 거의 비례해 늘지만, 길어지는 답변을 Gen으로 반복 검사하면 훨씬 비쌉니다.
- 제한
- 32,768토큰 서비스 예제 외에 컨텍스트 길이 표기가 없음, Stream은 Qwen3 토크나이저에 묶임, 범주가 고정됨.
좋은 점
- 119개 언어와 방언, Qwen 보고서에서 중국어와 다국어 성적이 높음
- 엄격 및 완화 모드를 갖춘 안전, 논란, 위험 라벨
- Stream 버전은 생성 중 토큰 단위로 모더레이션
- Apache 2.0, 접근 신청 불필요, 0.6B부터 8B까지
아쉬운 점
- Qwen의 평균은 벤치마크마다 나은 모드를 고름
- Stream은 Qwen3 토큰이 필요하고 vLLM·SGLang 지원은 아직 없음
- README 예제에 오류가 있음
- 범주가 고정되어 쉬운 말로 쓴 사용자 정책을 쓸 수 없음
추천 대상
여러 언어로 채팅이나 모델 출력을 모더레이션하며, 안전과 위험 사이에 조정 가 능한 중간 단계를 갖춘 공개 모델을 원하는 팀.
Qwen3Guard 대안
Qwen3Guard: 자주 묻는 질문
- Qwen3Guard, 쓸 만한 가치가 있습니까?
- 다국어 모더레이션에서 넘어서야 할 기준이 되는 공개 가드 모델로, 경계 사례를 두고 다툴 일을 줄여 주는 논란 라벨과 답변이 쓰이는 동안 검사하는 스트리밍 모드를 갖췄습니다. 평점은 5점 만점에 4.3점입니다.
- Qwen3Guard의 가격은 얼마입니까?
- Apache 2.0의 무료 오픈 웨이트로, Hugging Face에서 접근 신청이 필요 없고 0.6B, 4B, 8B 크기가 있으며 직접 호스팅합니다. Alibaba Cloud는 이를 바탕으로 한 호스팅 서비스 AI Guardrails도 제공합니다.
- Qwen3Guard의 단점은 무엇입니까?
- Qwen의 평균은 벤치마크마다 나은 모드를 고름; Stream은 Qwen3 토큰이 필요하고 vLLM·SGLang 지원은 아직 없음; README 예제에 오류가 있음; 범주가 고정되어 쉬운 말로 쓴 사용자 정책을 쓸 수 없음.
- Qwen3Guard에 적합한 사람은 누구입니까?
- 여러 언어로 채팅이나 모델 출력을 모더레이션하며, 안전과 위험 사이에 조정 가능한 중간 단계를 갖춘 공개 모델을 원하는 팀.
- 팀이나 프로덕션 환경에서 Qwen3Guard의 비용은 얼마입니까?
- API 요금이 없고 자체 GPU 비용만 냅니다. 0.6B가 가장 싸게 운영됩니다. Stream 비용은 답변 길이에 거의 비례해 늘지만, 길어지는 답변을 Gen으로 반복 검사하면 훨씬 비쌉니다.
- Qwen3Guard에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 텍스트가 사용자의 하드웨어에 남습니다. Apache 2.0이라 상업적으로 쓸 수 있습니다.
- Qwen3Guard의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Granite Guardian 4.1 8B, Shieldstral 1.0 3B 및 gpt-oss-safeguard입니다.
답변 확인일: 2026년 11월 6일.
Qwen3Guard 개발사입니까? 이 평점을 사이트에 표시하십시오
