MiniCPM5-2B의 개요
MiniCPM5-2B는 중국의 오픈소스 그룹 OpenBMB가 만든 소형 언어 모델입니다. 2026년 9월 7일에 공개되었고 MiniCPM5-1B의 후속 모델입니다. 파라미터는 25억 2,000만(2.52 billion) 개이며 표준 Llama 방식 구조를 따르기 때문에 llama.cpp, Ollama, LM Studio, MLX, vLLM 같은 일반적인 도구가 별도 코드 없이 불러옵니다. 텍스트를 읽고 쓰며, 컨텍스트는 131,072 토큰입니다.
OpenBMB는 이 모델을 로컬 어시스턴트, 코딩 에이전트, 도구 사용을 위해 학습시켰습니다. 사후 학습에는 단계별 추론 예시 4,000억(400 billion) 토큰을 썼고, 이어서 강화 학습과 증류를 거쳤습니다. 최종 모델과 함께 base, 중간 학습, 파인튜닝 체크포인트, GGUF, MLX, 4비트 GPTQ 빌드, 생성 속도를 높이는 드래프트 모델, 그리고 에이전트 예시 500,000개를 포함한 학습 데이터 상당 부분을 공개했습니다.
모두 Apache 2.0 라이선스입니다.
MiniCPM5-2B, 쓸 만한 가치가 있습니까?
MiniCPM5-2B는 적어도 개발사의 수치로는 도구 호출과 짧은 코딩 수정에서 넘어서기 어려운 소형 모델입니다. OpenBMB의 표에서 34개 벤치마크 평균은 53.9로, 크기가 거의 두 배인 Qwen3.5-4B의 51.1보다 높습니다. 격차가 가장 큰 항목은 SWE-bench Verified(46.4 대 33.6), BFCL v4 함수 호출 테스트(66.6 대 56.8), NoLiMa 긴 컨텍스트 테스트(68.1 대 43.5)입니다. 대부분은 OpenBMB가 직접 측정했고, GPQA Diamond와 Terminal-Bench 수치만 Artificial Analysis에서 나왔습니다.
약점은 지식과 지구력입니다. MMLU-Pro(70.8 대 78.0)와 GPQA Diamond(70.2 대 77.1)에서는 4B 모델에 뒤집니다. 길고 여러 단계 로 이어지는 터미널 작업을 재는 Terminal-Bench 2.1에서는 8.6 대 25.8, SWE-bench Pro에서는 14.4 대 28.2입니다. 추론 기록 4,000억(400 billion) 토큰과 에이전트 예시 500,000개로 사후 학습한 모델다운 결과입니다. 다음 도구 호출은 잘하지만 수십 번의 호출에 걸쳐 계획을 유지하는 데는 약합니다.
로컬 실행을 내세우는 모델치고 모델 카드에는 배포를 판단할 수치가 부족합니다. 어떤 기기에 대해서도 메모리, 지연 시간, 초당 토큰 수를 밝히지 않았고, DSpark 드래프트 모델의 실측 속도 향상도 없습니다. 파일 크기가 그 공백을 일부 메웁니다. 공식 Q4_K_M GGUF는 1.56 GB, Q8_0은 2.68 GB이므로 크기로 보면 휴대폰과 평범한 노트북에서도 쓸 수 있습니다. 다만 OpenBMB는 실측 메모리 사용량을 공개하지 않았습니다.
Gemma 4의 소형 모델과 구별되는 점은 개방성입니다. Gemma 4 소형 모델은 같은 표에서 24.6과 31.2입니다. base, 중간 학습, 파인튜닝 체크포인트가 데이터 상당 부분과 함께 Apache 2.0으로 공개되어 있어, 자사 도구 스키마에 맞춰 튜닝하려는 팀은 문서화된 지점에서 시작할 수 있습니다. 모델 카드는 llama.cpp의 기본 min_p 값 0.05가 같은 말을 반복하게 만들 수 있다고 경고합니다. 기본 설정 그대로 불러오는 사람은 이 부분에서 걸리기 쉽습니다.
제 역할을 하는 곳
Android 또는 iOS 앱 안에 오프라인 어시스턴트를 넣는 모바일 개발자
입력하거나 말한 요청을 서버 왕복 없이 앱 자체 함수 호출로 바꾸기
1.56 GB Q4_K_M GGUF나 LiteRT-LM 빌드가 기기에서 실행되므로 호출당 비용이 없고 사용자 데이터는 휴대폰에 남습니다. 함수 호출이 가장 강한 분야입니다(BFCL v4 66.6). 도구 체인은 짧게 유지해야 합니다. 길고 여러 단계로 이어지는 작업에서 실패하기 때문입니다.
중급 GPU 한 대로 사내 코딩 도우미를 운영하는 플랫폼 엔지니어
사람이 보기 전에 CI에서 범위가 명확한 작은 버그를 분류하고 수정하기
minicpm5 도구 파서를 쓰는 vLLM 0.21이나 SGLang으로 5 GB BF16 가중치를 서빙합니다. SWE-bench Verified 46.4는 이 크기치고 높지만, SWE-bench Pro 14.4를 보면 단일 파일 수정에 쓰고 어려운 티켓은 더 큰 모델로 넘기는 편이 맞습니다.
소형 모델 사후 학습을 연구하는 대학 ML 연구실
적은 예산으로 최신 SFT, RL, 증류 방식을 재현하거나 요소별로 검증하기
단계별로 공개된 체크포인트와 UltraData SFT, 에이전트, RL 데이터셋으로 어느 지점에서든 파인튜닝하고 비교할 수 있습니다. 사용 제한이 없는 Apache 2.0입니다. 이 크기에서 이만큼 공개하는 연구소는 드뭅니다.
기술자들이 신호가 불안정한 곳에서 일하는 현장 서비스 회사의 운영 관리자
대충 적은 메모로 작업 일지를 채워 주는 노트북 어시스턴트를 기술자에게 제공하기
로컬에서 실행하면 API 비용이 없고, 고객 메모를 클라우드 모델로 보낼 때 필요한 데이터 보호 검토도 피할 수 있습니다. 대신 일반 지식은 4B 모델보다 약하므로 양식 채우기를 넘어서는 작업은 확인이 필요합니다.
도입 전 확인할 점
- 설정
- Transformers 5.6+, vLLM 0.21+, SGLang 0.5.16+, llama.cpp, LM Studio, Ollama, MLX에서 표준 Llama 모델로 불러옵니다. OpenBMB는 temperature 1.0, top_p 0.95, min_p 0을 권장합니다.
- 연동
- 도구 호출에는 SGLang이 권장 백엔드입니다(--tool-call-parser minicpm5). 공식 GGUF, 4비트 MLX, 4비트 GPTQ, LiteRT-LM 빌드와 speculative decoding용 DSpark 드래프트 모델이 있습니다.
- 데이터와 개인정보
- 코드와 가중치 모두 Apache 2.0이며 매출 상한이나 허용 사용 부록이 없습니다. 직접 호스팅만 가능하므로 프롬프트는 자체 하드웨어에 남습니다. 이 모델을 호스팅하는 Hugging Face 추론 제공자는 없습니다.
- 대규모 사용 시 비용
- 호스팅 가격이 없으므로 비용은 하드웨어입니다. BF16 가중치는 약 5 GB, Q8_0은 2.68 GB, Q4_K_M은 1.56 GB로 소비자용 GPU 한 대나 노트북에 컨텍스트 여유를 두고 들어갑니다. OpenBMB는 서버 규모를 정할 처리량 수치를 공개하지 않습니다.
- 제한
- 131,072 토큰 컨텍스트입니다. Terminal-Bench 2.1 8.6점과 SWE-bench Pro 14.4점은 긴 에이전트 작업이 약점임을 보여 주며, llama.cpp의 기본 min_p 0.05는 반복을 일으킬 수 있습니다.
좋은 점
- Apache 2.0이며 base, 중간 학습, SFT 체크포인트와 데이터를 공개
- BFCL v4 66.6, SWE-bench Verified 46.4(개발사 측정)
- Q4_K_M 기준 1.56 GB이며 일반적인 로컬 런타임에서 모두 실행
- 131K 토큰 컨텍스트
아쉬운 점
- MMLU-Pro와 GPQA Diamond에서 Qwen3.5-4B보다 약 7점 낮음
- Terminal-Bench 2.1 8.6점으로 긴 에이전트 작업에 약함
- 메모리, 지연 시간, 처리량 수치 미공개
- llama.cpp 기본 샘플링에서 같은 말을 반복
추천 대상
휴대폰, 노트북, 엣지 하드웨어에 도구 호출이나 코딩 도우미를 넣으려는 개발자, 그리고 문서화가 완전한 소형 모델 학습 과정을 원하는 연구자에게 맞습니다.
MiniCPM5-2B 대안
MiniCPM5-2B: 자주 묻는 질문
- MiniCPM5-2B, 쓸 만한 가치가 있습니까?
- 도구를 호출하고 코드를 고치는 능력은 4B 모델 수준인 2B 모델입니다. 다만 아는 것은 4B 모델보다 눈에 띄게 적습니다. 평점은 5점 만점에 4.0점입니다.
- MiniCPM5-2B의 가격은 얼마입니까?
- Apache 2.0에 따라 가중치와 학습 데이터가 무료입니다.
- MiniCPM5-2B의 단점은 무엇입니까?
- MMLU-Pro와 GPQA Diamond에서 Qwen3.5-4B보다 약 7점 낮음; Terminal-Bench 2.1 8.6점으로 긴 에이전트 작업에 약함; 메모리, 지연 시간, 처리량 수치 미공개; llama.cpp 기본 샘플링에서 같은 말을 반복.
- MiniCPM5-2B에 적합한 사람은 누구입니까?
- 휴대폰, 노트북, 엣지 하드웨어에 도구 호출이나 코딩 도우미를 넣으려는 개발자, 그리고 문서화가 완전한 소형 모델 학습 과정을 원하는 연구자에게 맞습니다.
- 팀이나 프로덕션 환경에서 MiniCPM5-2B의 비용은 얼마입니까?
- 호스팅 가격이 없으므로 비용은 하드웨어입니다. BF16 가중치는 약 5 GB, Q8_0은 2.68 GB, Q4_K_M은 1.56 GB로 소비자용 GPU 한 대나 노트북에 컨텍스트 여유를 두고 들어갑니다. OpenBMB는 서버 규모를 정할 처리량 수치를 공개하지 않습니다.
- MiniCPM5-2B에 회사 데이터를 맡겨도 안전합니까?
- 코드와 가중치 모두 Apache 2.0이며 매출 상한이나 허용 사용 부록이 없습니다. 직접 호스팅만 가능하므로 프롬프트는 자체 하드웨어에 남습니다. 이 모델을 호스팅하는 Hugging Face 추론 제공자는 없습니다.
- MiniCPM5-2B의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 SmolLM3-3B, Granite 4.2 및 Gemma 4입니다.
답변 확인일: 2026년 10월 22일.
MiniCPM5-2B 개발사입니까? 이 평점을 사이트에 표시하십시오
