gpt-oss-120b의 개요
gpt-oss-120b는 2025년 8월에 공개된 OpenAI의 오픈 웨이트 모델 두 개 중 큰 쪽입니다. 파라미터는 1,170억(117 billion)개지만 mixture-of-experts 설계를 써서 토큰마다 51억(5.1 billion)개만 활성화됩니다. 여기에 4비트(MXFP4) 가중치가 더해져 NVIDIA H100이나 AMD MI300X 같은 80GB GPU 한 장에서 돌아갑니다. 컨텍스트는 128K 토큰입니다.
텍스트 전용 추론 모델이며, 시스템 프롬프트에서 low, medium, high의 effort 설정을 지정합니다. function calling, 웹 브라우징, Python 실행, structured outputs를 기본 지원합니다. 프롬프트는 OpenAI의 harmony 형식으로 작성해야 합니다. 전체 사고 과정(chain of thought)은 디버깅용으로 노출되지만 최종 사용자에게 보여주기 위한 것은 아닙니다.
가중치는 Apache 2.0으로 무료입니다. 직접 운영하거나 Amazon Bedrock, OpenRouter, Ollama 클라우드 같은 호스트를 통해 씁니다. 2026년 10월 현재 OpenAI는 후속 모델을 내놓지 않았습니다. gpt-oss-safeguard 정책 모델은 별도 출시입니다.
gpt-oss-120b, 쓸 만한 가치가 있습니까?
gpt-oss-120b는 시간이 지나며 실용 도구가 됐습니다. 점수가 가장 좋은 오픈 모델은 아니지만, 조건이 가장 적고 도구가 가장 많은 모델입니다. Artificial Analysis는 high effort 설정에 Intelligence Index 12점을 줍니다. 40B~150B 파라미터 오픈 웨이트 모델 67개 중 11위이며, 중앙값은 8입니다. IBM의 dense 모델 Granite 4.2 30B는 약 4분의 1의 파라미터로 같은 지수에서 13점을 받습니다.
출시 당시 OpenAI 자체 수치는 강했습니다. 모델 카드 PDF에 따르면 high effort에서 SWE-bench Verified 62.4%, GPQA Diamond 약 80점이며, 모두 MXFP4 가중치로 측정했습니다. 자체 보고 수치입니다. 모델 카드에서 더 엄격한 수치는 Scale 리더보드의 SWE-Bench Pro 16.2이며, 이것이 오늘날 실제 저장소 작업을 다루는 수준에 더 가깝습니다.
이 모델이 계속 쓰이는 이유는 경제성입니다. 토큰당 활성 파라미터가 5.1B라 빠릅니다. Artificial Analysis는 제공업체 전체 중앙값으로 초당 225.5토큰을 기록했으며, 같은 등급 27개 중 4위입니다. 가격은 입력 100만 토큰당 $0.15, 출력 100만 토큰당 $0.60입니다. 자체 호스팅 시 Ollama 빌드는 65GB 다운로드이며, H100 한 장에 컨텍스트 여유를 두고 들어갑니다.
불편은 형식에 있습니다. 모델 카드는 OpenAI의 harmony 형식 밖에서는 모델이 "올바르게 작동하지 않는다"고 밝힙니다. Transformers 채팅 템플릿은 이를 적용하지만, generate를 직접 호출하는 코드나 오래된 템플릿을 쓰는 서빙 스택에서는 출력 품질이 떨어집니다. 컨텍스트는 128K까지이고, 이미지 입력이 없습니다. 20b는 소비자용 하드웨어에서 파인튜닝할 수 있지만 120b는 H100 노드 하나 전체가 필요합니다.
같은 등급에서 이 모델보다 위에 있는 10개 모델과 여전히 구별되는 점은 생태계입니다. Hugging Face는 지난달 다운로드를 거의 300만(3 million) 회, 파인튜닝 124개, 양자화 135개로 집계했습니다. 컴플라이언스 팀은 미국 연구소의 Apache 2.0 모델을 빠르게 승인할 수 있고, 엔지니어가 필요로 하는 양자화 버전은 이미 있을 가능성이 매우 높습니다.
제 역할을 하는 곳
프라이빗 클라우드에 H100 한 장을 가진 플랫폼 엔지니어
데이터를 외부에 보내지 않는 사내 어시스턴트 운영
vllm serve나 Ollama로 80GB 카드 한 장에서 MXFP4 가중치를 돌립니다. reasoning effort는 요청마다 시스템 프롬프트에서 지정합니다. 비용은 GPU 자체뿐이며, 토큰당 요금도 없고 네트워크 밖으로 나가는 것도 없습니다.
월 30만 건의 티켓을 처리하는 핀테크의 지원 운영 책임자
호스팅 엔드포인트로 답변 초안 작성과 티켓 태깅을 저렴하게 처리
티켓당 입력 2,000토큰, 출력 500토큰, Artificial Analysis가 제시한 100만 토큰당 $0.15/$0.60 요율이면 한 달에 약 $180입니다. Bedrock의 Batch와 Flex 등급을 쓰면 야간 작업 비용이 절반이 됩니다.
리걸테크 회사의 ML 팀
자사 계약서로 추론 모델을 파인튜닝해 고객에게 재배포
Apache 2.0은 둘 다 허용하며, 120b 파인튜닝에는 H100 노드 하나가 필요합니다. 튜닝한 모델도 harmony 형식과 128K 컨텍스트를 그대로 쓰므로 긴 계약서 묶음은 여전히 청킹이 필요합니다.
도입 전 확인할 점
- 설정
- ollama pull gpt-oss:120b(65GB 다운로드), LM Studio의 lms get, 또는 vllm serve를 씁니다. 시스템 프롬프트에 Reasoning: low, medium 또는 high를 지정합니다.
- 연동
- 로컬에서는 Transformers, vLLM, SGLang, Ollama, LM Studio, Docker Model Runner. OpenAI 호환 API로 Amazon Bedrock, OpenRouter 등 여러 호스트에서 쓸 수 있습니다.
- 데이터와 개인정보
- 라이선스에 사용 제한이 없는 Apache 2.0입니다. 자체 호스팅하면 프롬프트는 자사 하드웨어에 머뭅니다. 호스팅 이용 시 보관 정책은 각 제공업체 약관을 따르며, OpenRouter의 EU 전용 라우팅은 Business 또는 Enterprise 플랜이 필요합니다.
- 대규모 사용 시 비용
- 월 입력 10억(1B) 토큰, 출력 2억 5,000만(250M) 토큰이면 100만 토큰당 $0.15/$0.60 기준 약 $300입니다. Bedrock batch는 요율이 절반입니다. 자체 호스팅은 추론에 80GB GPU 한 장, 파인튜닝에 H100 노드 하나가 필요합니다.
- 제한
- 128K 컨텍스트, 텍스트 전용. harmony 형식 필수. 원본 사고 과정은 사용자에게 숨겨야 합니다. Artificial Analysis 기준 같은 등급 67개 중 11위입니다.
좋은 점
- 라이선스에 사용 제한이 없는 Apache 2.0
- MXFP4로 80GB H100 또는 MI300X 한 장에 들어갑니다
- 호스트 전체 중앙값 초당 약 225토큰
- Hugging Face에 파인튜닝 124개, 양자화 135개
아쉬운 점
- 같은 크기 등급의 오픈 모델 10개가 Artificial Analysis에서 더 높은 점수를 받습니다
- 128K 컨텍스트, 텍스트 전용
- harmony 프롬프트 형식을 벗어나면 조용히 망가집니다
- SWE-Bench Pro 16.2
추천 대상
성숙한 도구 지원과 함께, GPU 한 장에서 비공개로 돌릴 수 있는 관대한 라이선스의 추론 모델이 필요한 팀.
gpt-oss-120b 대안
gpt-oss-120b: 자주 묻는 질문
- gpt-oss-120b, 쓸 만한 가치가 있습니까?
- 출시 14개월이 지난 gpt-oss-120b는 더 이상 가장 강한 오픈 모델은 아닙니다. 그래도 80GB GPU 한 장에서 돌리는 추론 모델 가운데 라이선스가 가장 단순하고 지원이 가장 넓습니다. 평점은 5점 만점에 4.0점입니다.
- gpt-oss-120b의 가격은 얼마입니까?
- Apache 2.0 무료 가중치입니다. 호스팅 가격은 제공업체마다 다릅니다.
- gpt-oss-120b의 단점은 무엇입니까?
- 같은 크기 등급의 오픈 모델 10개가 Artificial Analysis에서 더 높은 점수를 받습니다; 128K 컨텍스트, 텍스트 전용; harmony 프롬프트 형식을 벗어나면 조용히 망가집니다; SWE-Bench Pro 16.2.
- gpt-oss-120b에 적합한 사람은 누구입니까?
- 성숙한 도구 지원과 함께, GPU 한 장에서 비공개로 돌릴 수 있는 관대한 라이선스의 추론 모델이 필요한 팀.
- 팀이나 프로덕션 환경에서 gpt-oss-120b의 비용은 얼마입니까?
- 월 입력 10억(1B) 토큰, 출력 2억 5,000만(250M) 토큰이면 100만 토큰당 $0.15/$0.60 기준 약 $300입니다. Bedrock batch는 요율이 절반입니다. 자체 호스팅은 추론에 80GB GPU 한 장, 파인튜닝에 H100 노드 하나가 필요합니다.
- gpt-oss-120b에 회사 데이터를 맡겨도 안전합니까?
- 라이선스에 사용 제한이 없는 Apache 2.0입니다. 자체 호스팅하면 프롬프트는 자사 하드웨어에 머뭅니다. 호스팅 이용 시 보관 정책은 각 제공업체 약관을 따르며, OpenRouter의 EU 전용 라우팅은 Business 또는 Enterprise 플랜이 필요합니다.
- gpt-oss-120b의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 gpt-oss-20b, DeepSeek-V4-Pro, Qwen3.8-Max 및 Kimi K3입니다.
답변 확인일: 2026년 10월 26일.
gpt-oss-120b 개발사입니까? 이 평점을 사이트에 표시하십시오
