Granite Embedding Multilingual R2 (311M and 97M)의 개요
Granite Embedding Multilingual R2는 IBM이 2026년 4월 29일 Apache 2.0으로 공개한 소형 오픈 텍스트 임베딩 모델 두 종으로, 768차원 벡터의 granite-embedding-311m-multilingual-r2와 384차원의 granite-embedding-97m-multilingual-r2입니다. 임베딩 모델은 텍스트를 숫자로 바꿔 검색 시스템이 질문과 그에 답하는 구절을 짝지을 수 있게 합니다. 2024년 IBM 다국어 R1 모델을 대체하며 2025년의 영어 전용 R2 모델에 합류합니다.
둘 다 262,000토큰 어휘를 갖춘 ModernBERT 설계의 인코더 모델로, 최대 32,768토큰(R1의 512보다 64배)을 읽고 200개 이상의 언어를 다루며, 그중 52개 언어와 9개 프로그래밍 언어에는 추가 검색 학습을 했습니다. 311M은 벡터를 512, 384, 256, 128차원으로 줄일 수 있습니다. IBM은 모든 학습 데이터가 허용적 라이선스이며 내부 데이터 승인 검토를 거쳤다고 밝히며, PyTorch 가중치와 함께 ONNX와 OpenVINO 빌드도 제공합니다.
Granite Embedding Multilingual R2 (311M and 97M), 쓸 만한 가치가 있습니까?
Granite Embedding Multilingual R2의 강점은 리더보드 순위보다 데이터 출처와 긴 컨텍스트입니다. IBM은 311M이 다국어 MTEB 검색에서 65.2로 이전 R1보다 13포인트 높고, 97M은 60.3이라고 밝힙니다. IBM이 직접 정리한 500M(5억) 파라미터 미만 오픈 모델 표에서 311M은 Microsoft harrier-oss-v1-270m의 66.4에 이어 2위이며, Jina v5 text nano의 63.3과 EmbeddingGemma 300M의 62.5를 앞섭니다.
가장 분명한 강점은 긴 문서입니다. LongEmbed 벤치 마크에서 311M은 71.7로 Harrier 270M의 65.0, Jina nano의 63.6, EmbeddingGemma의 55.4를 앞서며, 32,768토큰 창을 생각하면 당연한 결과입니다. 코드와 영어에서는 약해, Jina의 nano 모델이 MTEB 코드에서 71.2로 Granite의 63.9를, 영어 검색에서 58.8로 52.6을 앞섭니다.
97M은 속도 중심의 선택지입니다. IBM 측정으로 H100 한 장에서 초당 2,534개 문서를 처리해 311M의 1,828개보다 빠르며, 거의 같은 속도의 multilingual-e5-small보다 9.4포인트 높습니다. 311M의 축소 벡터도 잘 버텨, 768차원에서 128차원으로 줄여도 IBM 표에서 다국어 검색은 63.9에서 62.5로만 떨어지고 저장 공간은 6분의 1이 됩니다.
주의할 점: 여기의 모든 비교는 IBM 팀이 수행한 IBM의 것이며, 처리량은 라이브러리 버전에 좌우됩니다. IBM은 Transformers 5.8.0이 ModernBERT의 언패딩 최적화를 없애 버전 4.57.6 대비 311M이 초당 2,960개에서 1,828개 문서로 떨어졌다고 적었습니다. Ollama는 아직 ModernBERT 모델을 실행하지 못하며, 텍스트 전용입니다.
결론: 학습 데이터 출처가 구매 심사 항목인 규제 산업 기업이라면 Granite R2는 쉽게 승인할 수 있는 선택입니다. 정확도만 중요하다면 Harrier의 소형 모델이 조금 더 낫고 역시 허용적 라이선스입니다.
제 역할을 하는 곳
유럽 보험사의 지식 관리 책임자
외부 API 없이 십여 개 언어로 된 긴 약관 검색하기
ONNX나 OpenVINO로 CPU 서버의 311M에서 최대 32,768토큰의 섹션 전체를 임베딩합니다. 모든 학습 데이터가 허용적 라이선스라는 IBM의 설명이 구매 심사를 줄여 줍니다.
사내 40개 팀의 RAG를 운영하는 플랫폼 엔지니어
수천만 개 청크 규모에서 벡터 저장 비용 억제하기
311M 벡터를 전체 768차원의 3분의 1인 256차원으로 잘라 저장합니다. IBM 표에서 다국어 검색 정확도 손실은 약 0.4포인트입니다.
온프레미스 문서 앱에 의미 검색을 추가하는 개발자
GPU 없는 고객 하드웨어에서도 빠르게 도는 임베딩 모델 탑재하기
97M 모델을 ONNX Runtime과 함께 묶습니다. 384차원, 9,700만 파라미터라 애플리케이션 옆에서 돌릴 만큼 작고, Apache 2.0이라 재배포도 가능합니다.
도입 전 확인할 점
- 설정
- pip install sentence-transformers 후 ibm-granite/granite-embedding-311m-multilingual-r2를 불러옵니다. 포함된 최적화 빌드를 쓰려면 backend='onnx' 또는 'openvino'를 지정합니다. FlashAttention 2는 선택 사항입니다.
- 연동
- Sentence Transformers, Transformers, ONNX Runtime(CPU, CUDA, TensorRT, DirectML), OpenVINO, vLLM 임베딩 엔드포인트, GGUF 변환 후 llama.cpp. Ollama는 미지원.
- 데이터와 개인정보
- Apache 2.0. IBM에 따르면 학습 데이터는 허용적 라이선스의 공개 쌍, IBM 내부 기술 데이터, IBM이 생성한 합성 데이터로 구성되며 모두 거버넌스 승인 절차를 거쳤습니다. 직접 호스팅하면 문서는 자체 하드웨어에 남습니다.
- 대규모 사용 시 비용
- 가중치는 무료이고 모델도 작습니다. IBM은 H100 한 장, 512토큰 기준 311M 초당 1,828개, 97M 2,534개 문서를 측정했으므로, 1,000만 개 청크 인덱스는 311M으로 약 1.5시간이 걸립니다.
- 제한
- 텍스트 전용. 입력당 32,768토큰. 벡터 축소는 311M만 지원. Transformers 5.8.0에서는 4.57.6보다 느림. 강화된 검색 학습은 200개 이상 언어 중 52개 언어 대상.
좋은 점
- Apache 2.0, IBM에 따르면 학습 데이터가 허용적 라이선스이며 승인됨
- 32,768토큰 컨텍스트, IBM 테스트에서 LongEmbed 71.7
- 97M은 H100 한 장에서 초당 2,534개 문서
- 311M 벡터는 적은 손실로 128차원까지 축소
- CPU와 Intel 하드웨어용 ONNX·OpenVINO 빌드
아쉬운 점
- 다국어 검색에서 Harrier 270M에 이은 2위(65.2 대 66.4)
- 코드와 영어 검색에서 Jina v5 nano보다 낮음
- 모든 벤치마크가 IBM 자체 수치
- Ollama 미지원
- 텍스트 전용
추천 대상
긴 문서 검색을 위해 데이터 출처가 분명한 소형 다국어 임베딩 모델이 필요한 기업.
Granite Embedding Multilingual R2 (311M and 97M) 대안
Granite Embedding Multilingual R2 (311M and 97M): 자주 묻는 질문
- Granite Embedding Multilingual R2 (311M and 97M), 쓸 만한 가치가 있습니까?
- Granite Embedding R2는 법무팀이 빠르게 승인할 소형 임베딩 모델이지만, 정확도에서는 Harrier 270M에 근소하게 밀립니다. 평점은 5점 만점에 3.9점입니다.
- Granite Embedding Multilingual R2 (311M and 97M)의 가격은 얼마입니까?
- Apache 2.0으로 무료. 모델 카드에 호스팅 엔드포인트가 없으므로 CPU나 GPU에서 직접 호스팅합니다.
- Granite Embedding Multilingual R2 (311M and 97M)의 단점은 무엇입니까?
- 다국어 검색에서 Harrier 270M에 이은 2위(65.2 대 66.4); 코드와 영어 검색에서 Jina v5 nano보다 낮음; 모든 벤치마크가 IBM 자체 수치; Ollama 미지원; 텍스트 전용.
- Granite Embedding Multilingual R2 (311M and 97M)에 적합한 사람은 누구입니까?
- 긴 문서 검색을 위해 데이터 출처가 분명한 소형 다국어 임베딩 모델이 필요한 기업.
- 팀이나 프로덕션 환경에서 Granite Embedding Multilingual R2 (311M and 97M)의 비용은 얼마입니까?
- 가중치는 무료이고 모델도 작습니다. IBM은 H100 한 장, 512토큰 기준 311M 초당 1,828개, 97M 2,534개 문서를 측정했으므로, 1,000만 개 청크 인덱스는 311M으로 약 1.5시간이 걸립니다.
- Granite Embedding Multilingual R2 (311M and 97M)에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0. IBM에 따르면 학습 데이터는 허용적 라이선스의 공개 쌍, IBM 내부 기술 데이터, IBM이 생성한 합성 데이터로 구성되며 모두 거버넌스 승인 절차를 거쳤습니다. 직접 호스팅하면 문서는 자체 하드웨어에 남습니다.
- Granite Embedding Multilingual R2 (311M and 97M)의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Harrier-OSS-v1 (270M, 0.6B, 27B), EmbeddingGemma 2, Jina Embeddings v5, Qwen3-Embedding and Qwen3-Reranker 및 all-MiniLM-L6-v2입니다.
답변 확인일: 2026년 11월 7일.