Was ist Granite Embedding Multilingual R2 (311M and 97M)?
Granite Embedding Multilingual R2 ist ein Paar kleiner offener Text-Embedding-Modelle von IBM, am 29. April 2026 unter Apache 2.0 veröffentlicht: granite-embedding-311m-multilingual-r2 mit Vektoren aus 768 Dimensionen und granite-embedding-97m-multilingual-r2 mit 384. Ein Embedding-Modell verwandelt Text in Zahlen, damit ein Suchsystem eine Frage den Passagen zuordnen kann, die sie beantworten. Sie ersetzen IBMs mehrsprachige R1-Modelle von 2024 und ergänzen die rein englischen R2-Modelle von 2025.
Beide sind Encoder-Modelle im ModernBERT-Design mit einem Vokabular von 262.000 Tokens, lesen bis zu 32.768 Tokens (64-mal die 512 von R1) und decken mehr als 200 Sprachen ab, mit zusätzlichem Retrieval-Training für 52 davon und für neun Programmiersprachen. Das 311M kann seine Vektoren auf 512, 384, 256 oder 128 Dimensionen kürzen. Laut IBM tragen alle Trainingsdaten freizügige Lizenzen und haben die interne Datenfreigabe durchlaufen, und neben den PyTorch-Gewichten gibt es ONNX- und OpenVINO-Builds.
Lohnt sich Granite Embedding Multilingual R2 (311M and 97M)?
Granite Embedding Multilingual R2 verdient seinen Platz durch Datenherkunft und langen Kontext, nicht durch den Leaderboard-Rang. IBM meldet 65,2 beim mehrsprachigen MTEB-Retrieval für das 311M, 13 Punkte über dem Vorgänger R1, und 60,3 für das 97M. In IBMs eigener Tabelle offener Modelle unter 500 Millionen Parametern liegt das 311M auf Platz zwei, hinter Microsofts harrier-oss-v1-270m mit 66,4 und vor Jina v5 text nano mit 63,3 und EmbeddingGemma 300M mit 62,5.
Lange Dokumente sind sein klarster Vorteil. Im Benchmark LongEmbed erreicht das 311M 71,7 gegenüber 65,0 für Harrier 270M, 63,6 für Jinas Nano und 55,4 für EmbeddingGemma, was zu seinem Fenster von 32.768 Tokens passt. Schwächer ist es bei Code und Englisch: Jinas Nano-Modell erzielt 71,2 bei MTEB Code gegenüber 63,9 für Granite und 58,8 beim englischen Retrieval gegenüber 52,6.
Das 97M ist die Tempo-Option. IBM misst es mit 2.534 Dokumenten pro Sekunde auf einer H100 gegenüber 1.828 für das 311M, und es liegt 9,4 Punkte über multilingual-e5-small bei fast gleichem Tempo. Die gekürzten Vektoren des 311M halten gut: Der Schritt von 768 auf 128 Dimensionen senkt das mehrsprachige Retrieval in IBMs Tabelle nur von 63,9 auf 62,5, bei einem Sechstel des Speichers.
Der Haken: Jeder Vergleich hier stammt von IBM, durchgeführt von IBMs Team, und der Durchsatz hängt von Bibliotheksversionen ab. IBM merkt an, dass Transformers 5.8.0 ModernBERTs Unpadding-Optimierung entfernt hat, was das 311M gegenüber Version 4.57.6 von 2.960 auf 1.828 Dokumente pro Sekunde drückte. Ollama führt ModernBERT-Modelle noch nicht aus, und es verarbeitet nur Text.
Unser Fazit: In regulierten Unternehmen, in denen die Herkunft der Trainingsdaten eine Frage für den Einkauf ist, ist Granite R2 ein leichtes Ja; wo nur Genauigkeit zählt, sind Harriers kleine Modelle etwas besser und ebenfalls freizügig lizenziert.
Wo es sich lohnt
Eine Leiterin Wissensmanagement bei einem europäischen Versicherer
Lange Versicherungsbedingungen in einem Dutzend Sprachen ohne externe API durchsuchen
Ganze Abschnitte mit bis zu 32.768 Tokens mit dem 311M auf einem CPU-Server über ONNX oder OpenVINO einbetten; IBMs Aussage, dass alle Trainingsdaten freizügig lizenziert sind, verkürzt die Prüfung durch den Einkauf.
Ein Plattform-Engineer, der RAG für 40 interne Teams betreibt
Die Kosten für Vektorspeicher über Dutzende Millionen Abschnitte niedrig halten
Vektoren des 311M auf 256 Dimensionen gekürzt speichern, ein Drittel der vollen 768, was in IBMs Tabelle etwa 0,4 Punkte Genauigkeit beim mehrsprachigen Retrieval kostet.
Ein Entwickler, der einer On-Premise-Dokumenten-App semantische Suche hinzufügt
Ein Embedding-Modell ausliefern, das auf Kundenhardware ohne GPU schnell läuft
Das 97M-Modell mit ONNX Runtime bündeln; mit 384 Dimensionen und 97 Millionen Parametern ist es klein genug, um neben der Anwendung zu laufen, und Apache 2.0 erlaubt die Weitergabe.
Bevor du dich festlegst
- Einrichtung
- pip install sentence-transformers und ibm-granite/granite-embedding-311m-multilingual-r2 laden; backend='onnx' oder 'openvino' übergeben, um die mitgelieferten optimierten Builds zu nutzen. FlashAttention 2 ist optional.
- Integrationen
- Sentence Transformers, Transformers, ONNX Runtime (CPU, CUDA, TensorRT, DirectML), OpenVINO, Embedding-Endpunkt von vLLM, llama.cpp nach GGUF-Konvertierung; nicht Ollama.
- Daten und Datenschutz
- Apache 2.0. Laut IBM stammen die Trainingsdaten aus freizügig lizenzierten öffentlichen Paaren, IBM-internen technischen Daten und von IBM erzeugten synthetischen Daten, alle durch einen Governance-Freigabeprozess. Selbst gehostet bleiben Dokumente auf deiner Hardware.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos und die Modelle klein; auf einer H100 maß IBM 1.828 Dokumente pro Sekunde für das 311M und 2.534 für das 97M bei 512 Tokens, ein Index mit 10 Millionen Abschnitten dauert mit dem 311M also etwa 1,5 Stunden.
- Grenzen
- Nur Text; 32.768 Tokens pro Eingabe; Vektorkürzung nur beim 311M; langsamer mit Transformers 5.8.0 als mit 4.57.6; das verstärkte Retrieval-Training deckt 52 der über 200 Sprachen ab.
Was gut ist
- Apache 2.0 mit Trainingsdaten, die laut IBM freizügig lizenziert und freigegeben sind
- Kontext von 32.768 Tokens; 71,7 bei LongEmbed in IBMs Tests
- Das 97M schafft 2.534 Dokumente pro Sekunde auf einer H100
- Vektoren des 311M lassen sich mit geringem Verlust auf 128 Dimensionen kürzen
- ONNX- und OpenVINO-Builds für CPU und Intel-Hardware
Was nicht
- Beim mehrsprachigen Retrieval Zweiter hinter Harrier 270M (65,2 gegenüber 66,4)
- Hinter Jina v5 nano bei Code und englischem Retrieval
- Alle Benchmarks stammen von IBM
- Nicht von Ollama unterstützt
- Nur Text
Am besten für
Unternehmen, die ein kleines mehrsprachiges Embedding-Modell mit klarer Datenherkunft für die Suche in langen Dokumenten brauchen.
Alternativen zu Granite Embedding Multilingual R2 (311M and 97M)
Granite Embedding Multilingual R2 (311M and 97M): häufige Fragen
- Lohnt sich Granite Embedding Multilingual R2 (311M and 97M)?
- Granite Embedding R2 ist das kleine Embedding-Modell, das eine Rechtsabteilung schnell freigibt, auch wenn Harriers 270M es bei der Genauigkeit knapp schlägt. Wir bewerten es mit 3.9 von 5.
- Was kostet Granite Embedding Multilingual R2 (311M and 97M)?
- Kostenlos unter Apache 2.0. Die Model Cards nennen keinen gehosteten Endpunkt; selbst auf CPU oder GPU hosten.
- Welche Nachteile hat Granite Embedding Multilingual R2 (311M and 97M)?
- Beim mehrsprachigen Retrieval Zweiter hinter Harrier 270M (65,2 gegenüber 66,4); Hinter Jina v5 nano bei Code und englischem Retrieval; Alle Benchmarks stammen von IBM; Nicht von Ollama unterstützt; Nur Text.
- Für wen eignet sich Granite Embedding Multilingual R2 (311M and 97M)?
- Unternehmen, die ein kleines mehrsprachiges Embedding-Modell mit klarer Datenherkunft für die Suche in langen Dokumenten brauchen.
- Was kostet Granite Embedding Multilingual R2 (311M and 97M) für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos und die Modelle klein; auf einer H100 maß IBM 1.828 Dokumente pro Sekunde für das 311M und 2.534 für das 97M bei 512 Tokens, ein Index mit 10 Millionen Abschnitten dauert mit dem 311M also etwa 1,5 Stunden.
- Ist Granite Embedding Multilingual R2 (311M and 97M) sicher für Firmendaten?
- Apache 2.0. Laut IBM stammen die Trainingsdaten aus freizügig lizenzierten öffentlichen Paaren, IBM-internen technischen Daten und von IBM erzeugten synthetischen Daten, alle durch einen Governance-Freigabeprozess. Selbst gehostet bleiben Dokumente auf deiner Hardware.
- Was sind die besten Alternativen zu Granite Embedding Multilingual R2 (311M and 97M)?
- Die nächsten Alternativen, die wir getestet haben, sind Harrier-OSS-v1 (270M, 0.6B, 27B), EmbeddingGemma 2, Jina Embeddings v5, Qwen3-Embedding and Qwen3-Reranker und all-MiniLM-L6-v2.
Antworten geprüft am 7. Nov. 2026.