Granite 4.2의 개요
Granite 4.2는 2026년 8월 25일 공개된 IBM의 오픈 모델 제품군입니다. 3B, 8B, 30B의 세 가지 dense 크기로 나오며, 모두 텍스트를 받아 텍스트를 내놓습니다. 각 모델은 단계별로 생각하거나, 바로 답하거나, 짧게 추론하는 low-effort 모드를 쓸 수 있습니다.
모든 크기는 수학, 과학, 코딩, 도구 호출에 대해 강화학습으로 훈련됐습니다. 8B와 30B는 소프트웨어 엔지니어링, 터미널 작업, 웹 검색에 대한 에이전트 훈련도 받았습니다. IBM은 합성 코드 1조(1 trillion) 토큰을 추가했습니다. 기본으로 128K 토큰을 처리하며, 8B와 30B 카드에는 512K까지의 확장이 적혀 있습니다. 영어, 독일어, 스페인어, 프랑스어, 일본어, 아랍어, 한국어, 중국어를 포함해 12개 언어를 지원합니다.
가중치는 Apache 2.0으로 Hugging Face, Ollama, LM Studio에 있으며, watsonx, OpenRouter, Replicate, DeepInfra, CoreWeave 등에서 호스팅됩니다.
Granite 4.2, 쓸 만한 가치가 있습니까?
Granite 4.2는 탄탄하고 화려하지 않은 선택입니다. 깔끔한 라이선스의 dense 모델 세 개로, 크기에 비해 추론을 잘하며 제3자가 점수를 매기면 중위권에 자리합니다. Artificial Analysis는 30B에 Intelligence Index 13점을 줍니다. 4B~40B 파라미터 오픈 모델 141개 중 29위이며, 중앙값은 8입니다. 네 배 크기의 OpenAI gpt-oss-120b보다 1점 높습니다.
나머지는 IBM 카드에 있습니다. 모두 NVIDIA NeMo Evaluator 기반 하네스로 측정한 자체 보고 수치이며, 표에 경쟁 모델은 없습니다. 30B는 SWE-bench Verified 57, Terminal-Bench 2.1 29.24, AIME 2025 89.17에 이르고, 8B는 SWE-bench Verified 47.67입니다. 에이전트 기능에 대한 주장을 약하게 만드는 수치가 하나 있습니다. BFCL v4 도구 호출 테스트에서 8B는 추가 에이전트 훈련에도 52.39로, 3B의 52.41과 같은 수준입니다. 긴 컨텍스트는 30B에서 유지되고(128K에서 RULER 81.38) 3B에서는 약해집니다(55.30).
모델은 돌리기 쉽습니다. Ollama의 4비트 빌드는 2.2GB, 5.3GB, 18GB라 30B는 24GB 카드에, 8B는 노트북에 들어갑니다. vLLM은 0.20 이상 버전, 저장소의 커스텀 reasoning parser, qwen3_coder tool parser가 필요합니다. 512K 확장은 실제로는 찾기 어렵습니다. 카드의 서빙 예제는 131,072토큰에서 멈추고, 모든 Ollama 태그는 128K로 표시합니다.
호스팅하면 저렴하지만 말이 많습니다. Artificial Analysis가 추적하는 API 제공업체는 IBM 하나이며, 입력 100만 토큰당 $0.16, 출력 100만 토큰당 $0.65, 초당 67토큰으로 같은 등급 중앙값보다 느립니다. 30B는 지수를 완료하는 데 출력 토큰 100M개를 썼고 중앙값은 82M입니다. 그래서 non-thinking과 low-effort 전환이 주된 비용 조절 수단입니다.
텍스트 전용이므로 이미지와 오디오는 Gemma 4의 몫입니다. 그래도 이미 watsonx를 구매하는 회사라면 같은 가중치가 기존 계약 안에서 들어옵니다. 이는 어떤 리더보드 순위보다 짧은 조달 경로입니다.
제 역할을 하는 곳
온프레미스에서 에이전트를 운영하는 보험사의 플랫폼 팀
48GB GPU 한 장에서 도구 호출형 보험금 청구 어시스턴트 운영
30B의 8비트 빌드는 31GB라 48GB 카드에 컨텍스 트 여유가 남으며, BFCL v4에서 61.39를 기록합니다. Apache 2.0이라 라이선스 검토가 필요 없고, vLLM의 tool parser가 함수 호출을 처리합니다.
16GB 노트북을 쓰는 개발자
오프라인에서 로컬 코딩 어시스턴트 사용
8B의 4비트 버전은 5.3GB Ollama 다운로드입니다. IBM 기준 SWE-bench Verified 47.67은 작은 수정에는 쓸 만하지만 호스팅 코딩 모델에는 한참 못 미칩니다. 2.2GB인 3B는 간단한 질문에 맞습니다.
watsonx에서 AI 분류 기능의 가격을 산정하는 프로덕트 매니저
월 100만(1M) 건의 지원 요청을 분류하고 요약
요청당 입력 1,500토큰, 출력 800토큰이면 IBM의 $0.16/$0.65 요율로 한 달에 약 $760입니다. 일상적인 티켓에서 thinking을 끄면 청구액 대부분을 차지하는 출력 비중이 줄어듭니다.
도입 전 확인할 점
- 설정
- ollama run granite4.2로 8B를 받습니다. vLLM 0.20+는 저장소의 granite_thinking_parser 파일과 --tool-call-parser qwen3_coder가 필요합니다. SGLang 0.5.18+에서도 작동합니다.
- 연동
- Hugging Face, Ollama, LM Studio, watsonx, OpenRouter, Replicate, DeepInfra, CoreWeave. thinking 모드는 chat_template_kwargs로 지정합니다.
- 데이터와 개인정보
- Apache 2.0으로 상업 및 연구 용도에 사용 분야 제한 없이 열려 있습니다. 자체 호스팅하면 프롬프트는 자사 하드웨어에 머뭅니다.
- 대규모 사용 시 비용
- IBM API는 입력 100만 토큰당 $0.16, 출력 100만 토큰당 $0.65이며 캐시 적중 시 75% 할인됩니다. 자체 호스팅 시 30B는 4비트로 약 18GB, 8비트로 31GB가 필요합니다.
- 제한
- 실제로는 128K 컨텍스트입니다. 512K 확장은 레퍼런스 서빙 구성에 없습니다. 텍스트 전용. IBM API에서 초당 67토큰이며, thinking 시 장황합니다.
좋은 점
- 조건 없는 Apache 2.0
- dense 3B, 8B, 30B. 30B는 4비트로 24GB GPU에 들어갑니다
- thinking, non-thinking, low-effort 모드를 한 모델에서
- 30B는 Artificial Analysis에서 13점으로 gpt-oss-120b보다 높습니다
아쉬운 점
- 텍스트 전용
- 카드의 벤치마크는 IBM 자체 수치이며 경쟁 모델 비교가 없습니다
- BFCL 도구 호출에서 8B가 3B보다 나을 것이 없습니다
- thinking 모드에서 장황해 출력 비용이 늘어납니다
추천 대상
로컬이나 온프레미스 에이전트를 위해 작고 라이선스가 관대한 추론 모델을 원하는 기업과 개발자.
Granite 4.2 대안
Granite 4.2: 자주 묻는 질문
- Granite 4.2, 쓸 만한 가치가 있습니까?
- Granite 4.2는 리스크 위원회가 가장 빨리 승인할 오픈 모델 제품군입니다. 추론은 크기에 비해 좋지만 프런티어와는 거리가 멉니다. 평점은 5점 만점에 4.0점입니다.
- Granite 4.2의 가격은 얼마입니까?
- Apache 2.0 무료 가중치입니다. watsonx와 서드파티 호스팅은 별도로 과금됩니다.
- Granite 4.2의 단점은 무엇입니까?
- 텍스트 전용; 카드의 벤치마크는 IBM 자체 수치이며 경쟁 모델 비교가 없습니다; BFCL 도구 호출에서 8B가 3B보다 나을 것이 없습니다; thinking 모드에서 장황해 출력 비용이 늘어납니다.
- Granite 4.2에 적합한 사람은 누구입니까?
- 로컬이나 온프레미스 에이전트를 위해 작고 라이선스가 관대한 추론 모델을 원하는 기업과 개발자.
- 팀이나 프로덕션 환경에서 Granite 4.2의 비용은 얼마입니까?
- IBM API는 입력 100만 토큰당 $0.16, 출력 100만 토큰당 $0.65이며 캐시 적중 시 75% 할인됩니다. 자체 호스팅 시 30B는 4비트로 약 18GB, 8비트로 31GB가 필요합니다.
- Granite 4.2에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0으로 상업 및 연구 용도에 사용 분야 제한 없이 열려 있습니다. 자체 호스팅하면 프롬프트는 자사 하드웨어에 머뭅니다.
- Granite 4.2의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Gemma 4, gpt-oss-20b, Devstral Small 2 및 Falcon-H1R-7B입니다.
답변 확인일: 2026년 10월 22일.
Granite 4.2 개발사입니까? 이 평점을 사이트에 표시하십시오
