gpt-oss-20b의 개요
gpt-oss-20b는 2025년 8월에 공개된 OpenAI의 오픈 웨이트 모델 두 개 중 작은 쪽입니다. 파라미터는 210억(21 billion)개이고 토큰당 36억(3.6 billion)개가 활성화됩니다. mixture-of-experts 가중치가 4비트 MXFP4로 배포되어 전체 체크포인트가 약 13.8GB이며, 16GB 메모리 안에서 돌아갑니다. 컨텍스트는 131,072토큰입니다.
텍스트 전용 추론 모델로, 시스템 프롬프트에서 low, medium, high effort를 지정합니다. 도구 사용을 기본 지원하고 사고 과정이 보이며, OpenAI의 harmony 프롬프트 형식에서만 올바르게 작동합니다. OpenAI는 추론, 수학, 건강 관련 테스트에서 o3-mini와 대등하다고 말합니다.
가중치는 Apache 2.0으로 무료이며, 사용 정책은 관련 법을 지키라는 한 문장뿐입니다. OpenAI는 자체 API에서 이 모델을 제공하지 않습니다. 사용자는 Ollama, LM Studio, llama.cpp, vLLM으로 직접 돌리거나 OpenRouter에 등록된 호스트를 통해 씁니다.
gpt-oss-20b의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | Apache 2.0 |
| OpenRouter | From $0.018 in / $0.09 out per 1M tokens | |
| Artificial Analysis listing | $0.07 in / $0.25 out per 1M tokens |
Apache 2.0 무료 가중치입니다. OpenRouter 호스팅은 100만(1M) 토큰당 입력 $0.018 / 출력 $0.09부터이며, Artificial Analysis는 $0.07 / $0.25로 표시합니다.
gpt-oss-20b, 쓸 만한 가치가 있습니까?
gpt-oss-20b는 소박한 하드웨어에서 비공개 텍스트 전용 추론을 할 때 여전히 합리적인 기본 선택입니다. 주된 이유는 빠르고 비용이 거의 들지 않기 때문입니다. Artificial Analysis는 초당 185 출력 토큰, 첫 토큰까지 0.82초를 측정했으며, 비슷한 모델 64개 중 속도 8위입니다. OpenRouter의 가장 저렴한 경로는 입력 100만 토큰당 $0.018입니다. 이 요율이면 답변 하나의 가격은 거의 느껴지지 않습니다.
지능은 같은 등급에서 중간 수준입니다. Artificial Analysis는 high effort 설정에 Intelligence Index 9점을 주며, 비슷한 크기의 오픈 모델 141개 중 50위로 중앙값 8을 조금 넘습니다. 지수 측정에 출력 토큰 7,000만(70 million)개를 써서 중앙값 8,200만(82 million)개보다 적었습니다. 많은 추론 모델과 달리 긴 사고 과정에 속도 이점을 낭비하지 않는다는 뜻입니다. 학습 데이터는 2024년 5월에 멈춰 있어 최근 내용에서는 그 한계가 드러납니다.
라이선스도 기업이 이 모델을 계속 쓰는 이유입니다. OpenAI의 사용 정책은 법을 지키라는 한 문장뿐이며, 법무팀과 확인해야 할 매출 기준이나 허용 사용 목록이 없습니다. 소비자용 하드웨어에서 파인튜닝도 할 수 있습 니다. Hugging Face 저장소는 출시 14개월 뒤인 지난달 다운로드 578만(5.78 million) 회를 기록했습니다.
제약은 설계상 고정되어 있습니다. 텍스트만 읽고, harmony 형식은 필수입니다. 노출되는 원본 사고 과정은 OpenAI의 표현으로 최종 사용자를 위한 것이 아니므로, 제품에는 모델과 화면 사이에 필터가 필요합니다. Gemma 4의 26B A4B는 Google 공식 4비트 빌드 기준 14.4GB로 비슷한 메모리 예산에 들어가면서 이미지와 영상 입력을 더합니다. 노트북 크기 모델의 자리는 그쪽으로 옮겨갔습니다.
제 역할을 하는 곳
16GB 노트북을 쓰는 로펌의 개발자
클라우드 API로 보내지 않고 고객 문서를 요약하고 질의
Ollama나 LM Studio에서 medium effort로 돌립니다. 기기 밖으로 나가는 것이 없고 토큰당 요금도 없습니다. 요약은 탄탄하지만 추론은 프런티어 API보다 약하며, 2024년 5월 이후의 지식은 없습니다.
월 100만 건의 티켓을 처리하는 SaaS 회사의 지원 운영 책임자
최소 비용으로 라우팅용 티켓 분류와 태깅
OpenRouter의 가장 저렴한 경로에서 티켓당 입력 1,000토큰, 출력 500토큰으로 100만 건을 처리하면 한 달에 약 $63입니다. low effort로 지연 시간을 줄이고, 어려운 건은 더 큰 모델로 보냅니다.
워크스테이션 GPU 한 장을 가진 ML 엔지니어
사내 도구에 맞춰 추론 모델을 파인튜닝하고 제품에 탑재
OpenAI는 20B를 소비자용 하드웨어에서 파인튜닝할 수 있다고 말하며, Apache 2.0이라 라이선스 협상 없이 결과물을 출시할 수 있습니다. 120B 모델은 같은 작업에 H100 노드 하나가 필요합니다.
도입 전 확인할 점
- 설정
- Ollama, LM Studio, llama.cpp에서 받거나 Hugging Face에서 다운로드합니다. Transformers의 채팅 템플릿은 harmony를 자동 적용하지만, model.generate를 직접 호출할 때는 직접 적용해야 합니다.
- 연동
- harmony 형식의 function calling, 브라우징, Python 도구 사용. vLLM, Ollama, LM Studio를 통한 OpenAI 호환 서버. Artificial Analysis가 추적하는 API 제공업체 5곳.
- 데이터와 개인정보
- 자체 호스팅이므로 프롬프트는 로컬에 머뭅니다. Apache 2.0은 상업적 사용과 파인튜닝을 허용하며, 사용 정책은 관련 법 준수만 요구합니다.
- 대규모 사용 시 비용
- 가중치는 무료이며 16GB GPU에 들어갑니다. OpenRouter 호스팅은 100만(1M) 토큰당 입력 $0.018, 출력 $0.09부터라 월 100만 건의 짧은 답변은 $100에 한참 못 미칩니다. Artificial Analysis는 지수 과제당 약 $0.01로 봅니다.
- 제한
- 131,072토큰 컨텍스트, 텍스트 전용, 지식 기준 2024년 5월, 추론 수준 세 단계. harmony 형식이 없으면 출력 품질이 떨어집니다.
좋은 점
- 16GB 안에서 돌아가며, 체크포인트는 약 13.8GB
- 한 문장짜리 사용 정책의 Apache 2.0
- Artificial Analysis 기준 초당 185토큰
- 호스팅은 입력 100만(1M) 토큰당 $0.018부터
아쉬운 점
- Intelligence Index 9점으로 같은 크기에서 중위권
- 텍스트 전용, 지식은 2024년 5월까지
- harmony 프롬프트 형식 없이는 제대로 작동하지 않습니다
- 원본 사고 과정은 사용자에게 보여주기 전에 필터링이 필요합니다
추천 대상
이미지 입력이 필요 없고, 노트북이나 소비자용 GPU 한 장에서 무료로, 비공개로, 빠르게 돌아가는 추론 모델을 원하는 개발자.
gpt-oss-20b 대안
gpt-oss-20b: 자주 묻는 질문
- gpt-oss-20b, 쓸 만한 가치가 있습니까?
- 출시 14개월이 지난 지금도 gpt-oss-20b는 호스팅하기에 가장 저렴한 쓸 만한 추론 모델입니다. 다만 같은 16GB에서 이제 Gemma 4가 더 많은 일을 합니다. 평점은 5점 만점에 3.8점입니다.
- gpt-oss-20b의 가격은 얼마입니까?
- Apache 2.0 무료 가중치입니다. OpenRouter 호스팅은 100만(1M) 토큰당 입력 $0.018 / 출력 $0.09부터이며, Artificial Analysis는 $0.07 / $0.25로 표시합니다.
- gpt-oss-20b의 단점은 무엇입니까?
- Intelligence Index 9점으로 같은 크기에서 중위권; 텍스트 전용, 지식은 2024년 5월까지; harmony 프롬프트 형식 없이는 제대로 작동하지 않습니다; 원본 사고 과정은 사용자에게 보여주기 전에 필터링이 필요합니다.
- gpt-oss-20b에 적합한 사람은 누구입니까?
- 이미지 입력이 필요 없고, 노트북이나 소비자용 GPU 한 장에서 무료로, 비공개로, 빠르게 돌아가는 추론 모델을 원하는 개발자.
- 팀이나 프로덕션 환경에서 gpt-oss-20b의 비용은 얼마입니까?
- 가중치는 무료이며 16GB GPU에 들어갑니다. OpenRouter 호스팅은 100만(1M) 토큰당 입력 $0.018, 출력 $0.09부터라 월 100만 건의 짧은 답변은 $100에 한참 못 미칩니다. Artificial Analysis는 지수 과제당 약 $0.01로 봅니다.
- gpt-oss-20b에 회사 데이터를 맡겨도 안전합니까?
- 자체 호스팅이므로 프롬프트는 로컬에 머뭅니다. Apache 2.0은 상업적 사용과 파인튜닝을 허용하며, 사용 정책은 관련 법 준수만 요구합니다.
- gpt-oss-20b의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 gpt-oss-120b, Gemma 4 및 Phi-4-Reasoning-Vision-15B입니다.
답변 확인일: 2026년 10월 22일.