gpt-oss-safeguard의 개요
gpt-oss-safeguard는 OpenAI의 오픈 웨이트 안전 분류기 한 쌍으로, gpt-oss를 미세 조정해 2025년 10월 29일에 공개되었습니다. 20b 모델은 21B 파라미터 중 3.6B가 활성이며 16 GB GPU에 들어갑니다. 120b는 117B 중 5.1B가 활성입니다. OpenAI가 자사 제품 안에서 쓰는 Safety Reasoner의 공개 버전입니다.
고정된 범주 대신 요청마다 직접 쓴 정책을 넣으면, 모델이 그 정책을 따져 본 뒤 라벨을 줍니다. 사고 과정 전체가 보이므로 검토자는 왜 표시되었는지 알 수 있습니다. 추론 강도는 낮음, 중간, 높음 중에서 골라 정확도와 지연 시간을 조정할 수 있습니다. 두 모델 모두 OpenAI의 harmony 프롬프트 형식으로 써야 합니다.
가중치는 Hugging Face에서 Apache 2.0으로 공개되며 접근 신청이 필요 없습니다. 온라인 안전 비영리 단체 ROOST와 함께 출시되었고, ROOST는 공개 안전 모델을 쓰는 실무자 커뮤니티를 운영합니다. 20b는 지난 한 달 동안 20,754회 다운로드되었습니다.
gpt-oss-safeguard의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| gpt-oss-safeguard-20b | Free | 21B 파라미터, 3.6B 활성, 16 GB GPU |
| gpt-oss-safeguard-120b | Free | 117B 파라미터, 5.1B 활성 |
Hugging Face에서 Apache 2.0의 무료 오픈 웨이트로 공개되며 직접 호스팅합니다. 20b는 16 GB GPU에 들어가고, 120b는 OpenAI의 다중 정책 테스트에서 더 높은 점수를 냅니다.
gpt-oss-safeguard, 쓸 만한 가치가 있습니까?
gpt-oss-safeguard는 모더레이션을 학습에서 글쓰기로 옮깁니다. 신뢰 및 안전 팀은 오전에 새 규칙을 공개하고 오후에 적용할 수 있으며, 결정마다 글로 된 근거가 붙습니다. 분류기 방식의 가드는 새 라벨 데이터 없이는 이렇게 할 수 없습니다.
OpenAI가 내놓은 수치는 수수하며, OpenAI도 이를 솔직히 인정합니다. 여러 정책에 걸친 모든 라벨이 맞아야 하는 내부 다중 정책 테스트에서 120b는 46.3%, 20b는 43.6%로 gpt-5-thinking의 43.2%를 앞서지만 OpenAI 내부 Safety Reasoner의 52.2%에는 못 미칩니다. 공개 데이터 ToxicChat에서는 20b가 F1 79.9%, 120b가 79.3%로 gpt-5-thinking의 81.0%에 조금 뒤집니다. 2022년 OpenAI 모더레이션 세트에서는 둘 다 82.9%입니다.
기술 보고서는 한계를 분명히 밝힙니다. 수만 건의 라벨 예시로 학습한 분류기가 복잡한 범주에서는 여전히 더 낫고, 모델은 기존 분류기보다 느리고 무거우며, 보이는 추론에는 실제로 적용된 정책과 맞지 않는 환각 내용이 섞일 수 있습니다. OpenAI 자체의 방식은 빠른 분류기를 먼저 돌리고 트래픽 일부만 추론 모델로 보내는 것입니다.
Mistral의 Shieldstral 3B도 실행 시점에 정책을 받고 Mistral 테스트에서 텍스트 안전 F1이 비슷하게 나옵니다. 이와 비교하면 gpt-oss-safeguard는 훨씬 크지만 추론을 보여 줍니다. 이 맞교환은 설명이 기다림만큼 값진 검토 대기열과 이의 제기에 어울립니다.
제 역할을 하는 곳
새로운 유형의 사기 매물을 마주한 마켓플레이스의 신뢰 및 안전 책임자
라벨 예시가 하나도 없는 상태에서 이번 주 안에 새 규칙 적용하기
규칙을 예시가 포함된 정책으로 쓰고, 표시된 매물에 추론 강도 중간으로 20b를 돌린 뒤, 판단이 엇갈린 경우의 근거를 읽고 문구를 다듬습니다.
사용자 이의 제기를 처리하는 모더레이션 운영팀
자동 결정마다 검토자에게 글로 된 이유 제공하기
이의가 제기된 건을 추론 강도 높음으로 120b에 다시 돌리고 사고 과정을 사건에 첨부합니다. 여기에 환각 내용이 있을 수 있다는 OpenAI의 경고를 기억해야 합니다.
빠른 분류기를 이미 운영 중인 플랫폼 엔지니어
모든 요청을 느리게 만들지 않으면서 경계선 콘텐츠 판단을 세밀하게 하기
분류기는 모든 트래픽에 그대로 두고 애매한 점수만 gpt-oss-safeguard로 보냅니다. OpenAI가 자사 시스템에 대해 설명하는 계층형 방식입니다.
도입 전 확인할 점
- 설정
- Hugging Face에서 openai/gpt-oss-safeguard-20b 또는 -120b를 받아 gpt-oss와 harmony 형식을 지원하는 엔진으로 서비스하고, OpenAI cookbook의 프롬프트 가이드에 따라 정책을 넣습니다.
- 연동
- gpt-oss와 같은 서비스 스택, OpenAI cookbook의 정책 작성 가이드, 정책과 피드백을 나누는 ROOST Model Community.
- 데이터와 개인정보
- 직접 호스팅하므로 콘텐츠가 사용자의 하드웨어에 남습니다. Apache 2.0이라 상업적으로 쓸 수 있습니다.
- 대규모 사용 시 비용
- API 요금이 없습니다. 20b는 16 GB GPU 한 대에서 돌아가며, 검사마다 추론 토큰을 생성하므로 추론 강도와 정책 길이에 따라 비용과 지연이 늘어납니다.
- 제한
- 텍스트 전용, 모델 카드에 컨텍스트 길이 표기 없음, harmony 형식 필수, OpenAI는 안전 분류 외의 용도에는 일반 gpt-oss를 권합니다.
좋은 점
- 쉬운 말로 쓴 정책을 재학습 없이 바꿀 수 있음
- 결정마다 추론이 보임
- 추론 강도 조정 가능: 낮음, 중간, 높음
- Apache 2.0, 접근 신청 불필요, 20b는 16 GB GPU에 들어감
아쉬운 점
- 전용 분류기보다 느리고 무거움
- 복잡한 범주에서는 대규모 라벨 데이터로 학습한 분류기에 뒤짐
- 추론이 환각일 수 있음
- harmony 프롬프트 형식에서만 동작
추천 대상
자체 정책을 쓰고 고치며, 결정마다 설명을 붙여야 하는 신뢰 및 안전 팀.
gpt-oss-safeguard 대안
gpt-oss-safeguard: 자주 묻는 질문
- gpt-oss-safeguard, 쓸 만한 가치가 있습니까?
- 학습 데이터에 라벨을 붙이는 속도보다 모더레이션 정책이 더 빨리 바뀔 때 알맞은 도구이며, 모든 메시지를 낮은 지연으로 검사하는 데는 맞지 않습니다. 평점은 5점 만점에 4.0점입니다.
- gpt-oss-safeguard의 가격은 얼마입니까?
- Hugging Face에서 Apache 2.0의 무료 오픈 웨이트로 공개되며 직접 호스팅합니다. 20b는 16 GB GPU에 들어가고, 120b는 OpenAI의 다중 정책 테스트에서 더 높은 점수를 냅니다.
- gpt-oss-safeguard의 단점은 무엇입니까?
- 전용 분류기보다 느리고 무거움; 복잡한 범주에서는 대규모 라벨 데이터로 학습한 분류기에 뒤짐; 추론 이 환각일 수 있음; harmony 프롬프트 형식에서만 동작.
- gpt-oss-safeguard에 적합한 사람은 누구입니까?
- 자체 정책을 쓰고 고치며, 결정마다 설명을 붙여야 하는 신뢰 및 안전 팀.
- 팀이나 프로덕션 환경에서 gpt-oss-safeguard의 비용은 얼마입니까?
- API 요금이 없습니다. 20b는 16 GB GPU 한 대에서 돌아가며, 검사마다 추론 토큰을 생성하므로 추론 강도와 정책 길이에 따라 비용과 지연이 늘어납니다.
- gpt-oss-safeguard에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 콘텐츠가 사용자의 하드웨어에 남습니다. Apache 2.0이라 상업적으로 쓸 수 있습니다.
- gpt-oss-safeguard의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Shieldstral 1.0 3B, Granite Guardian 4.1 8B 및 Qwen3Guard입니다.
답변 확인일: 2026년 11월 6일.
gpt-oss-safeguard 개발사입니까? 이 평점을 사이트에 표시하십시오
