MiniCPM-V 4.7 (35B-A3B and 1B)의 개요
MiniCPM-V 4.7은 OpenBMB 비전-언어 시리즈의 2026년 10월 릴리스이며 두 가지 크기로 나왔습니다. 35B-A3B는 시리즈 최초의 mixture-of-experts 모델입니다. 파라미터는 352억(35.2 billion) 개이고 토큰당 약 30억(3 billion) 개가 활성화되며, 전문가 256개 중 8개로 라우팅합니다. Qwen3.5와 Qwen3.6 언어 백본에 SigLIP2 비전 인코더를 붙였습니다. 1B(OpenBMB 자체 표에서는 1.3B, 비전 타워 포함 시 1.55B)는 휴대폰을 겨냥합니다. 두 모델 모두 단일 이미지, 여러 이미지, 동영상을 읽고 텍스트를 씁니다. 둘 다 텍스트 전용인 MiniCPM 5 2B와는 관계가 없습니다.
비전 인코더는 이미지 토큰을 초기에 압축하며, 개발자는 요청마다 4x 또는 16x 압축을 골라 세부 정보와 속도를 맞바꿉니다. OpenBMB는 새 런타임 기법인 Lookahead Expert Scheduling 덕분에 35B가 iPhone 17 Pro Max에서 3 GB 메모리로 초당 13토큰 넘게 실행된다고 말합니다. 다음 레이어에 필요한 전문가를 예측해 저장 장치에서 미리 불러오는 방식입니다. 이 수치는 독립적으로 측정되지 않았습니다.
두 크기 모두 Apache 2.0이며 출시 때부터 양자화 빌드가 있었습니다. 최근 30일 동안 35B는 Hugging Face에서 약 325,000회, GGUF는 275,000회, 1B GGUF는 약 107,000회 내려받아졌습니다.
MiniCPM-V 4.7 (35B-A3B and 1B), 쓸 만한 가치가 있습니까?
35B-A3B의 강점은 문서입니다. OpenBMB의 표에서 4x 압축 기준으로 OmniDocBench v1.6 94.24점을 기록해 Qwen3.6-35B-A3B의 80.17, Gemma 4 31B의 79.17을 앞섰고, OCRBench 는 91.20 대 86.00, CharXiv 차트 추론은 75.60으로 Qwen3.8-27B의 70.70보다 높습니다. MMBench(91.72 대 86.76)와 MMMU(80.22 대 77.44) 같은 일반 테스트에서도 앞섭니다. OpenBMB 측정과 공개 보고가 섞인 수치이며, 독립 리더보드 결과는 아직 찾지 못했습니다.
에이전트에 가장 필요한 영역에서는 집니다. 화면에서 인터페이스 요소를 찾는 ScreenSpot에서 Qwen3.8-27B는 93.31점, MiniCPM은 86.99점이며, MM-IFEval 지시 따르기에서는 Gemma 4 31B가 69.59 대 65.41로 앞섭니다. SimpleVQA에서는 Qwen3.6-35B-A3B가 근소하게 앞섭니다. MindStudio가 H100에서 직접 시험한 결과, 영어와 인도네시아어 손글씨는 깔끔하게 옮겼지만 우르두어 한 줄을 빠뜨렸고, 80개 언어로 번역할 때 문자가 다른 언어로 섞였습니다.
더 특이한 것은 1B입니다. 4x 압축 기준 MMBench 83.17, OCRBench 86.10으로 Qwen3.5 0.8B의 68.00과 79.10을 앞서고, ScreenSpot에서는 68.05로 크기가 거의 네 배인 Gemma 4 E2B의 20.26을 앞섭니다. 수학 비중이 큰 시각 테스트인 MathVision에서는 여전히 Gemma가 이깁니다(52.40 대 31.64). OmniDocBench에서는 1B가 이전 모델인 MiniCPM-V 4.6보다 약간 낮습니다. Q4_K_M 언어 파일은 0.67 GB에 불과하지만 비전 파일이 1.11 GB를 더합니다.
화제가 된 이유이자 검증해야 할 부분은 iPhone 주장입니다. 3 GB로 초당 13토큰이라는 수치는 OpenBMB가 포크한 llama.cpp가 플래시 저장 장치에서 전문가를 스트리밍하는 데 달려 있으며, 재현 결과를 공개한 곳은 없습니다. 일반 하드웨어에서 35B는 21.17 GB Q4_K_M GGUF와 1.12 GB 비전 파일로 구성되며, 24 GB GPU에는 컨텍스트를 적게 잡아야 들어갑니다.
제 역할을 하는 곳
스캔된 보험금 청구서를 디지털화하는 보험사의 데이터 엔지니어
양식의 PDF와 사진을 사내에서 구조화된 Markdown으로 바꾸기
vLLM으로 35B를 서빙하거나 24 GB GPU 한 대에서 21.17 GB Q4_K_M GGUF를 쓰고, 빽빽한 페이지에는 4x 압축을 씁니다. OpenBMB의 OmniDocBench와 OCRBench 우위가 이 작업에 맞습니다. MindStudio 테스트에서 빈틈이 있었던 손글씨와 비라틴 문자는 표본 검사가 필요합니다.
여행 앱의 iOS 개발자
휴대폰에서 오프라인으로 표지판, 메뉴, 티켓 읽기
OpenBMB의 iOS 앱 코드를 통해 Q4_K_M 1B(0.67 GB와 1.11 GB 비전 파일)를 앱에 넣습니다. OpenBMB 표에서 OCRBench 86.10점입니다. 작은 글씨보다 속도가 중요할 때는 16x 설정으로 이미지 토큰을 줄입니다.
주식 리서치 회사의 재무 분석 팀장
증권사 보고서의 차트와 표를 클라우드 API로 보내지 않고 요약하기
매출 상한 없이 상업적 사용을 허용하는 Apache 2.0으로 35B를 로컬에서 실행합니다. CharXiv 추론 75.60은 OpenBMB 비교표에서 1위이지만, MindStudio가 풀이 답에서 반올림 오류를 발견했으므로 추출한 수치는 확인해야 합니다.
도입 전 확인할 점
- 설정
- transformers 5.18 이상을 pip로 설치하고 AutoModelForImageTextToText로 불러오거나, OpenAI 호환 엔드포인트가 필요하면 `transformers serve`를 씁니다. GGUF 빌드는 mmproj 비전 파일과 함께 llama.cpp와 Ollama에서 실행됩니다. downsample_mode는 chat template과 generate 양쪽에 넘겨야 합니다.
- 연동
- 추론에는 SGLang, vLLM, llama.cpp, Ollama, OpenVINO, 파인튜닝에는 SWIFT와 LLaMA-Factory, speculative decoding에는 DSpark 드래프트 모델을 씁니다. Rockchip, Houmo, Intel, AMD, Arm 칩을 출시 당일부터 지원합니다. 도구 호출은 chat API로 작동합니다.
- 데이터와 개인정보
- 직접 호스팅하므로 이미지와 문서는 자체 하드웨어에 남습니다. Apache 2.0은 매출 상한 없이 상업적 사용, 수정, 재배포를 허용합니다.
- 대규모 사용 시 비용
- 가중치는 무료입니다. 35B는 전체 정밀도에서 약 68 GB VRAM(MindStudio 테스트에서는 H100 한 대), Q8_0에서 36.90 GB, Q4_K_M에서 21.17 GB가 필요합니다. 1B는 Q4_K_M 0.67 GB에 비전용 1.11 GB가 더해집니다. 호스팅 토큰당 가격은 공개되지 않았습니다.
- 제한
- 기본 GGUF 파일은 thinking이 꺼져 있습니다. thinking 빌드는 하위 폴더에 따로 있으며 출력 길이가 몇 배로 늘어납니다. 동영상 샘플링 기본값은 128프레임입니다. 3 GB iPhone 수치는 기본 llama.cpp가 아니라 OpenBMB 자체 런타임에 의존합니다.
좋은 점
- OmniDocBench v1.6 94.24로 Qwen3.6-35B-A3B보다 14점 높음(자체 보고)
- 1B는 휴대폰에서 실행되며 모든 항목에서 Qwen3.5 0.8B를 앞섬
- 두 크기 모두 Apache 2.0
- 4x 또는 16x 시각 토큰 압축 선택 가능
아쉬운 점
- ScreenSpot GUI 그라운딩에서 Qwen3.8-27B에 뒤짐
- iPhone 속도 주장은 미검증이며 OpenBMB의 llama.cpp 포크가 필요
- 벤치마크는 이미지로만 공개되고 자체 측정과 공개 측정이 섞임
- 독립 테스트 한 곳에서 드문 언어에 약했음
추천 대상
자체 하드웨어로 스캔 문서와 차트에서 텍스트와 표를 추출하는 팀, 그리고 2 GB 미만의 비전 모델이 필요한 모바일 개발자에게 맞습니다.
MiniCPM-V 4.7 (35B-A3B and 1B) 대안
MiniCPM-V 4.7 (35B-A3B and 1B): 자주 묻는 질문
- MiniCPM-V 4.7 (35B-A3B and 1B), 쓸 만한 가치가 있습니까?
- OpenBMB 자체 수치로 보면 35B 크기에서 문서와 차트 읽기에서 넘어서기 어려운 오픈 모델이며, 1B는 출시할 만한 보기 드문 휴대폰 크기 비전 모델입니다. 평점은 5점 만점에 4.0점입니다.
- MiniCPM-V 4.7 (35B-A3B and 1B)의 가격은 얼마입니까?
- 두 크기 모두 Apache 2.0 가중치가 무료입니다. 개발사의 호스팅 가격은 공개되지 않았으며 비용은 자체 하드웨어입니다.
- MiniCPM-V 4.7 (35B-A3B and 1B)의 단점은 무엇입니까?
- ScreenSpot GUI 그라운딩에서 Qwen3.8-27B에 뒤짐; iPhone 속도 주장은 미검증이며 OpenBMB의 llama.cpp 포크가 필요; 벤치마크는 이미지로만 공개되고 자체 측정과 공개 측정이 섞임; 독립 테스트 한 곳에서 드문 언어에 약했음.
- MiniCPM-V 4.7 (35B-A3B and 1B)에 적합한 사람은 누구입니까?
- 자체 하드웨어로 스캔 문서와 차트에서 텍스트와 표를 추출하는 팀, 그리고 2 GB 미만의 비전 모델이 필요한 모바일 개발자에게 맞습니다.
- 팀이나 프로덕션 환경에서 MiniCPM-V 4.7 (35B-A3B and 1B)의 비용은 얼마입니까?
- 가중치는 무료입니다. 35B는 전체 정밀도에서 약 68 GB VRAM(MindStudio 테스트에서는 H100 한 대), Q8_0에서 36.90 GB, Q4_K_M에서 21.17 GB가 필요합니다. 1B는 Q4_K_M 0.67 GB에 비전용 1.11 GB가 더해집니다. 호스팅 토큰당 가격은 공개되지 않았습니다.
- MiniCPM-V 4.7 (35B-A3B and 1B)에 회사 데이터를 맡겨도 안전합니까?
- 직접 호스팅하므로 이미지와 문서는 자체 하드웨어에 남습니다. Apache 2.0은 매출 상한 없이 상업적 사용, 수정, 재배포를 허용합니다.
- MiniCPM-V 4.7 (35B-A3B and 1B)의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3.8-27B, Gemma 4, PaddleOCR-VL-1.6, Phi-4-multimodal 및 MiniCPM5-2B입니다.
답변 확인일: 2026년 10월 28일.
MiniCPM-V 4.7 (35B-A3B and 1B) 개발사입니까? 이 평점을 사이트에 표시하십시오
