Was ist Granite Speech 5.0 2B?
Granite Speech 5.0 2B ist ein Sprach-Sprachmodell von IBM, am 20. Oktober 2026 unter Apache 2.0 veröffentlicht, das Englisch, Französisch, Deutsch, Spanisch, Portugiesisch und Japanisch transkribiert und Sprache für diese Sprachen ins und aus dem Englischen übersetzt, dazu Englisch ins Italienische und Mandarin. Es ersetzt Granite Speech 4.1 2B bei gleicher Größe und wurde mit 390.000 Stunden Audio aus öffentlichen Korpora plus synthetischen Daten trainiert.
Es besteht aus einem Conformer-Sprachencoder mit 16 Schichten, einem kleinen Adapter und einem Sprachmodell Granite 4.0 1B und wird über Text-Prompts gesteuert: Ein Prompt verlangt Rohtext, ein anderer Satzzeichen und Großschreibung, ein weiterer nennt die Eingabesprache, und eine Schlüsselwortliste mit bis zu 2.000 Begriffen lenkt es auf Namen und Fachjargon. Es läuft in Transformers, vLLM, llama.cpp, Ollama als ibm/granite5-speech (ein Q8_0-Build mit 3,2 GB), mlx-audio auf Apple Silicon und LiteRT-LM auf Android.
Lohnt sich Granite Speech 5.0 2B?
Granite Speech 5.0 ist auf Englisch genau und ungewöhnlich gut bei den Wörtern, an denen generische Modelle scheitern. IBM meldet eine durchschnittliche englische WER von 5,06% auf den öffentlichen Kurzform-Sets des Open ASR Leaderboards mit Stand 21. Oktober 2026, Platz zwei unter den Modellen mit offenen Gewichten, bei 570-facher Echtzeit; der Vorgänger kam auf 5,33%. IBMs Grafik sieht Qwen3-ASR-1.7B mit 4,94% vorn, das ist also ein knapper zweiter Platz und kein neuer Spitzenreiter, und die Zahlen stammen aus IBMs eigenen Läufen.
Das besondere Merkmal ist Keyword-Biasing. Du hängst eine Liste mit bis zu 2.000 Begriffen an den Prompt, in jeder seiner Sprachen, und das Modell bevorzugt sie: Produktnamen, Medikamentennamen, Nachnamen von Kollegen. IBMs früheres Update 4.1 Plus senkte die WER bei gewichteten Wörtern mit Listen von 20 Begriffen von 11,79% auf 6,48%, und 5.0 erhöht die Listengröße.
Übersetzung ist der zweite Grund für dieses Modell. Ein Checkpoint transkribiert und übersetzt, ein deutsches Meeting kann also in einem Durchgang als englischer Text herauskommen. IBM meldet außerdem bessere Robustheit gegen Lärm, Hall und entfernte Mikrofone; auf dem Board FFASR für verrauschte Sprache führt IBMs Grafik es auf Platz vier von 42 mit 14,80% WER.
Der Haken: Im Kern ist es für kurze Stücke gemacht. IBM rät zu Segmenten von etwa 2 Minuten, längere Aufnahmen vorher per Sprachdetektor zerlegt, und GGUF-Quantisierungen mit weniger Bits verlieren ab etwa einer Minute an Genauigkeit, Q8_0 ist also die Untergrenze. Sechs Transkriptionssprachen sind wenig neben den 30 von Qwen3-ASR, und die Model Card des 2B bietet weder Zeitstempel noch Sprecherkennzeichnung; IBM packt diese in das separate Granite Speech 4.1 2B Plus.
Unser Fazit: Granite Speech 5.0 passt zu Unternehmensarbeit auf Englisch und in europäischen Sprachen, bei der sich ein Glossar mitgeben lässt, etwa bei medizinischen, juristischen oder Support-Gesprächen; für große Sprachabdeckung oder lange Aufnahmen am Stück passen andere offene Modelle besser.
Wo es sich lohnt
Ein Team für klinische Dokumentation in einem Klinikverbund
Ärztliche Diktate mit korrekt geschriebenen Medikamenten- und Eingriffsnamen transkribieren
Die Arzneimittelliste als Schlüsselwortliste mit bis zu 2.000 Begriffen bei jedem 2-Minuten-Segment mitgeben. Der Betrieb vor Ort unter Apache 2.0 hält Patientenaudio im Kliniknetz.
Ein Betriebsleiter bei einem deutsch-französischen Hersteller
Englische Protokolle aus Werkstattbesprechungen auf Französisch und Deutsch erhalten
Den Prompt für Übersetzung ins Englische nutzen, damit ein Durchgang englischen Text liefert; Aufnahmen vorher mit einem Sprachdetektor in 2-Minuten-Stücke teilen, wie IBM rät.
Ein Mobile-Entwickler, der eine Offline-Notiz-App baut
Transkription auf einem Android-Telefon ohne Netz ausführen
IBMs LiteRT-LM-Konvertierung ausliefern, eine einzelne 2,8-GB-Datei mit int8-Sprachmodell, deren Kontext 4.096 Tokens fasst, etwa 2 Minuten Audio plus Antwort.
Bevor du dich festlegst
- Einrichtung
- pip install transformers torchaudio soundfile und ibm-granite/granite-speech-5.0-2b laden, oder ollama run ibm/granite5-speech:2b audio.wav mit einem Prompt ausführen. Audio muss 16 kHz mono sein.
- Integrationen
- Transformers 4.52.1+, vLLM mit OpenAI-kompatiblem Server, llama.cpp llama-server mit /v1/audio/transcriptions, Ollama, mlx-audio 0.5.9+, LiteRT-LM 0.19.1; IBM empfiehlt in der Produktion die Kombination mit Granite Guardian.
- Daten und Datenschutz
- Apache 2.0, Trainingsdaten aus öffentlichen Korpora und von IBM erzeugten synthetischen Sets. Selbst gehostet bleibt das Audio auf deiner Hardware; der Hugging-Face-Endpunkt folgt den Bedingungen von Hugging Face.
- Kosten im großen Maßstab
- Kostenlose Gewichte; der Q8_0-Build hat 3,2 GB und passt auf kleine GPUs und Apple-Laptops. Bei IBMs gemessener 570-facher Echtzeit ergibt eine Million Minuten etwa 29 GPU-Stunden Rechenzeit ohne Overhead.
- Grenzen
- Sechs Transkriptionssprachen; Übersetzung ins Italienische und Mandarin nur aus dem Englischen; am besten unter etwa 2 Minuten pro Segment; Kontext von 4.096 Tokens im LiteRT-Build; keine Diarisierung oder Zeitstempel.
Was gut ist
- 5,06% durchschnittliche englische WER, Platz zwei unter offenen Modellen in IBMs Grafik vom Oktober
- Keyword-Biasing mit Listen von bis zu 2.000 Begriffen
- Transkribiert und übersetzt in einem Modell
- Apache 2.0; läuft in Ollama, llama.cpp, mlx-audio und auf Android
Was nicht
- Sechs Transkriptionssprachen
- Am besten mit Segmenten von etwa 2 Minuten; lange Aufnahmen müssen zerlegt werden
- Quantisierungen unter Q8_0 verlieren bei Clips über einer Minute an Genauigkeit
- Keine Zeitstempel oder Sprecherkennzeichnung in diesem Modell
- Benchmarks stammen von IBM selbst
Am besten für
Unternehmen, die Englisch und große europäische Sprachen mit einem Fachvokabular transkribieren, das sie vorab auflisten können.
Alternativen zu Granite Speech 5.0 2B
Granite Speech 5.0 2B: häufige Fragen
- Lohnt sich Granite Speech 5.0 2B?
- Granite Speech 5.0 ist das offene Transkriptionsmodell der Wahl, wenn Namen und Fachjargon mehr zählen als die Zahl der Sprachen. Wir bewerten es mit 4.0 von 5.
- Was kostet Granite Speech 5.0 2B?
- Kostenlos unter Apache 2.0. Ein Hugging Face Inference Endpoint ist verfügbar, der im Leerlauf auf null skaliert; die Stundenkosten hängen von der gewählten Hardware ab.
- Welche Nachteile hat Granite Speech 5.0 2B?
- Sechs Transkriptionssprachen; Am besten mit Segmenten von etwa 2 Minuten; lange Aufnahmen müssen zerlegt werden; Quantisierungen unter Q8_0 verlieren bei Clips über einer Minute an Genauigkeit; Keine Zeitstempel oder Sprecherkennzeichnung in diesem Modell; Benchmarks stammen von IBM selbst.
- Für wen eignet sich Granite Speech 5.0 2B?
- Unternehmen, die Englisch und große europäische Sprachen mit einem Fachvokabular transkribieren, das sie vorab auflisten können.
- Was kostet Granite Speech 5.0 2B für ein Team oder im Produktivbetrieb?
- Kostenlose Gewichte; der Q8_0-Build hat 3,2 GB und passt auf kleine GPUs und Apple-Laptops. Bei IBMs gemessener 570-facher Echtzeit ergibt eine Million Minuten etwa 29 GPU-Stunden Rechenzeit ohne Overhead.
- Ist Granite Speech 5.0 2B sicher für Firmendaten?
- Apache 2.0, Trainingsdaten aus öffentlichen Korpora und von IBM erzeugten synthetischen Sets. Selbst gehostet bleibt das Audio auf deiner Hardware; der Hugging-Face-Endpunkt folgt den Bedingungen von Hugging Face.
- Was sind die besten Alternativen zu Granite Speech 5.0 2B?
- Die nächsten Alternativen, die wir getestet haben, sind Qwen3-ASR (1.7B and 0.6B), Cohere Transcribe (03-2026), Parakeet TDT 0.6B v3, Whisper large-v3-turbo und ElevenLabs Scribe v2.
Antworten geprüft am 7. Nov. 2026.