Mellum2.1 Thinking의 개요
Mellum2.1 Thinking은 JetBrains의 최신 오픈 모델로, 6월에 오픈소스로 공개한 Mellum2의 다음 버전으로 2026년 10월 8일에 발표되었습니다. 파라미터 120억 개 중 토큰당 25억 개가 활성화되는 mixture-of-experts 모델이며, 컨텍스트는 131,072토큰입니다. 아키텍처는 Mellum2와 같고, JetBrains는 이번 버전을 강화 학습에 쏟았습니다. 실제 저장소 안에서 수백만 번의 샌드박스 실행을 하며 테스트가 통과하면 보상을 주었습니다. 텍스트 전용이며 답하기 전에 항상 추론합니다.
가중치는 Apache 2.0입니다. JetBrains는 BF16 가중치, vLLM에서 더 빠르게 디코딩하는 다중 토큰 예측 헤드, llama.cpp, Ollama, LM Studio용 GGUF 버전을 공개하며, 크기는 7.03 GB(MXFP4)와 8.07 GB(Q4_K_M)부터 24.31 GB(BF16)까지입니다. Hugging Face에서 메인 저장소는 좋아요 193개, 최근 30일 다운로드 11,306회이고, GGUF 저장소는 457,537회입니다.
JetBrains는 호스팅 API를 제공하지 않으며, 자체 하드웨어에서 돌리도록 만든 모델입니다.
Mellum2.1 Thinking의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | Apache 2.0 |
| GGUF builds | Free | MXFP4, Q4_K_M, Q6_K, Q8_0, BF16 |
Apache 2.0 무료 가중치. 호스팅 API 없음. 7.03 GB부터 시작하는 GGUF 버전은 로컬에서 실행.
Mellum2.1 Thinking, 쓸 만한 가치가 있습니까?
Mellum2.1 Thinking은 저장소 안에서 일하지 못하던 모델을 일할 수 있는 모델로 바꿨습니다. JetBrains 하네스에서 SWE-bench Verified는 2.0%에서 47.0%로, Terminal-Bench 2.1은 0.6%에서 17.4%로, SWE-bench Pro는 0.0%에서 28.0%로 올랐습니다. LiveCodeBench v6는 82.0으로 Qwen3.5-9B의 75.4, Gemma 4 E4B의 69.4를 앞섭니다.
그래도 에이전트 작업에서 체급 1위에는 못 미칩니다. 같은 표에서 Qwen3.5-9B는 SWE-bench Verified 50.0, Terminal-Bench 2.1 21.7, SWE-bench Pro 38.0을 기록했고, GPQA Diamond에서는 77.8 대 64.6으로 크게 앞섭니다. 모든 수치는 JetBrains가 모든 모델에 같은 오픈소스 하네스를 써서 직접 측정한 것입니다.
강점은 속도입니다. 토큰당 활성 파라미터가 25억 개뿐이라, JetBrains에 따르면 부하가 클 때 Qwen3.5-9B의 거의 두 배에 달하는 토큰을 처리하고, 다중 토큰 예측 헤드로 단일 요청은 약 1.6배 빨라집니다. Q4_K_M 버전은 8.07 GB로 12 GB 그래픽카드에 들어갑니다.
주의할 점: 이 모델은 서브 에이전트이지 팀장이 아닙니다. Terminal-Bench 17.4%는 긴 터미널 작업 대부분이 실패한다는 뜻이고, 컨텍스트는 131,072토큰에서 끝나며, 항상 추론하기 때문에 간단한 질문에도 시간이 걸립니다.
결론: Mellum2.1은 여러 개를 동시에 돌려 실패하는 테스트를 찾고, 수정안을 쓰고, 확인하게 하는 모델이며, 작업 계획은 더 큰 모델이 맡습니다. 로컬 코딩 어시스턴트를 하나만 둔다면 Qwen3.5-9B가 아직 조금 더 똑똑합니다.
제 역할을 하는 곳
멀티 에이전트 코딩 파이프라인을 만드는 엔지니어
원인을 찾고 수정안을 쓰는 저렴한 작업자를 여러 개 돌리기
vLLM과 MTP 헤드로 Mellum2.1을 서빙하고, 실패하는 테스트 추적 같은 좁은 작업을 맡기며 계획은 더 큰 모델에 넘깁니다. JetBrains에 따르면 부하 시 Qwen3.5-9B의 거의 두 배 토큰을 처리합니다.
클라우드 코딩 어시스턴트를 금지한 회사의 개발자
추론하는 코딩 모델을 노트북이나 워크스테이션 안에서만 쓰기
ollama run hf.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking-GGUF:Q4_K_M으로 12 GB GPU에 들어가는 8.07 GB 버전을 받습니다. 코드는 기기 밖으로 나가지 않고, Apache 2.0 라이선스라 상업적 사용도 가능합니다.
도입 전 확인할 점
- 설정
- Hugging Face에서 내려받아 vLLM으로 서빙하거나, GGUF 버전을 llama.cpp, Ollama, LM Studio에 불러옵니다. 권장 버전은 Q4_K_M입니다.
- 연동
- vLLM이나 Ollama를 통한 OpenAI 호환 엔드포인트. 도구 호출. JetBrains는 셸과 파일 도구를 갖춘 오픈소스 에이전트 하네스 Pi에서 평가했습니다.
- 데이터와 개인정보
- 호스팅 서비스가 없으므로 모든 것이 직접 관리하는 하드웨어에서 돌아갑니다. 학습에는 공개 RL 데이터셋과 JetBrains가 만든 과제를 썼습니다.
- 대규모 사용 시 비용
- 가중치는 무료입니다. 24.31 GB BF16 파일은 데이터센터 GPU 한 개에 들어가고, 8.07 GB Q4_K_M 버전은 12 GB 소비자용 카드에서 돌아갑니다.
- 제한
- 컨텍스트 131,072토큰, 모델 카드상 영어만 지원, 추론은 항상 켜짐. JetBrains는 HarmBench에서 유해 답변이 8.5%로, Mellum2의 21.5%에서 줄었다고 보고합니다.
좋은 점
- JetBrains 기준 SWE-bench Verified가 2.0%에서 47.0%로 상승
- 활성 파라미터 2.5B뿐이며, MTP 헤드로 요청당 약 1.6배 빠름
- Apache 2.0 라이선스
- 7.03 GB부터 시작하는 공식 GGUF 버전
아쉬운 점
- JetBrains 자체 표에서도 SWE-bench, Terminal-Bench, GPQA는 Qwen3.5-9B가 높음
- Terminal-Bench 2.1 17.4%
- 컨텍스트 131,072토큰
- 호스팅 API 없음
추천 대상
코딩 에이전트를 만들며 자체 하드웨어에서 빠르고 저렴한 서브 에이전트가 필요한 팀.
Mellum2.1 Thinking 대안
Mellum2.1 Thinking: 자주 묻는 질문
- Mellum2.1 Thinking, 쓸 만한 가치가 있습니까?
- 자체 GPU에서 도는 작고 빠른 코딩 에이전트로 일상적인 버그는 고치지만, 어려운 버그에서는 아직 Qwen3.5-9B가 조금 앞섭니다. 평점은 5점 만점에 3.8점입니다.
- Mellum2.1 Thinking의 가격은 얼마입니까?
- Apache 2.0 무료 가중치. 호스팅 API 없음. 7.03 GB부터 시작하는 GGUF 버전은 로컬에서 실행.
- Mellum2.1 Thinking의 단점은 무엇입니까?
- JetBrains 자체 표에서도 SWE-bench, Terminal-Bench, GPQA는 Qwen3.5-9B가 높음; Terminal-Bench 2.1 17.4%; 컨텍스트 131,072토큰; 호스팅 API 없음.
- Mellum2.1 Thinking에 적합한 사람은 누구입니까?
- 코딩 에이전트를 만들며 자체 하드웨어에서 빠르고 저렴한 서브 에이전트가 필요한 팀.
- 팀이나 프로덕션 환경에서 Mellum2.1 Thinking의 비용은 얼마입니까?
- 가중치는 무료입니다. 24.31 GB BF16 파일은 데이터센터 GPU 한 개에 들어가고, 8.07 GB Q4_K_M 버전은 12 GB 소비자용 카드에서 돌아갑니다.
- Mellum2.1 Thinking에 회사 데이터를 맡겨도 안전합니까?
- 호스팅 서비스가 없으므로 모든 것이 직접 관리하는 하드웨어에서 돌아갑니다. 학습에는 공개 RL 데이터셋과 JetBrains가 만든 과제를 썼습니다.
- Mellum2.1 Thinking의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Devstral Small 2, Qwen3.8-27B, gpt-oss-20b 및 Laguna S 2.1입니다.
답변 확인일: 2026년 11월 7일.