Was ist Nemotron 3.5 ASR Streaming 0.6B?
Nemotron 3.5 ASR ist ein Streaming-Spracherkennungsmodell von NVIDIA mit 600 Millionen Parametern, am 4. Juni 2026 unter der freizügigen Lizenz OpenMDW-1.1 auf Hugging Face veröffentlicht. Es ist die mehrsprachige Erweiterung von NVIDIAs englischem Nemotron Speech Streaming und ergänzt einen Sprach-Prompt, sodass ein Checkpoint 40 Sprachvarianten abdeckt: 19, die NVIDIA als transkriptionsbereit einstuft, 13 mit breiter Abdeckung und 8, die vor dem Einsatz Fine-Tuning brauchen.
Es nutzt einen cache-fähigen FastConformer-Encoder mit RNN-T-Decoder, der den Encoder-Zustand zwischen Chunks behält, statt überlappendes Audio neu zu verarbeiten. Chunk-Größe und damit Latenz werden zur Laufzeit gewählt, aus 80, 160, 320, 560 oder 1.120 Millisekunden, ohne Neutraining. Die Ausgabe enthält Satzzeichen und Großschreibung, und mit Sprache auf auto hängt es ein Kennzeichen der erkannten Sprache an. Es läuft in NeMo, in Hugging Face Transformers ab 5.13.0 und in NVIDIAs C++-Laufzeit NeMo-Speech.cpp aus einer q8_0-GGUF-Datei.
Lohnt sich Nemotron 3.5 ASR Streaming 0.6B?
Nemotron 3.5 ASR ist ein Kapazitätswerkzeug für Live-Transkription. Auf einer H100 misst NVIDIA 240 gleichzeitige Echtzeit-Streams bei 80 ms, gegenüber 14 für das ältere Parakeet RNNT 1.1B, und 2.400 gegenüber 400 Streams bei 1.120 ms. Für eine Plattform für Sprachagenten oder Untertitel ist das der Unterschied zwischen einer GPU und einem Rack, und der Latenzregler erlaubt es, Verzögerung gegen Genauigkeit pro Deployment abzuwägen statt pro Modell.
Die Genauigkeit ist mittelmäßig, und NVIDIAs Tabellen sagen das auch. Auf FLEURS mit vorgegebener Sprache und 1,12-Sekunden-Chunks erreicht es 4,11% WER auf Spanisch, 7,91% auf Englisch, 8,31% auf Deutsch und 9,03% auf Französisch, im Schnitt 8,84% über die 19 transkriptionsbereiten Varianten; bei 80 ms steigt der Schnitt auf 10,38%. Offline-Modelle schneiden weit besser ab: NVIDIAs eigenes Nemotron 3.5 Transcribe liegt bei Artificial Analysis bei 3,4% AA-WER, kann aber nicht streamen. NVIDIA selbst empfiehlt für Englisch das rein englische Streaming-Modell.
Bei der Stufe mit breiter Abdeckung sollten Käufer genau hinsehen. Polnisch, Mandarin und Tschechisch landen bei 15,15% bis 20,41% Fehlern, Dänisch und Ungarisch bei 27,49% und 28,68%, im Schnitt 22,13%, also ungefähr jedes fünfte Wort falsch. Die 8 anpassungsbereiten Varianten, darunter Griechisch, Hebräisch und Thai, liefern ohne Fine-Tuning keine brauchbaren Transkripte; NVIDIA veröffentlicht dafür eine Anleitung.
Der Haken: Das ist Software nach NVIDIAs Maß. Unterstützt werden Linux und Jetson auf NVIDIA-GPUs, die Eingabe muss mono sein, und ein Teil der Trainingslabels wurde von einem Ensemble anderer Modelle einschließlich Whisper erzeugt, sodass gemeinsame systematische Fehler übernommen werden können. Sprecherkennzeichnung gibt es nicht.
Unser Fazit: Nemotron 3.5 ASR ist die Engine für Live-Untertitel auf Spanisch, Italienisch, Portugiesisch oder Hindi im großen Maßstab; für Aufnahmen, die ein paar Sekunden warten können, macht ein Offline-Modell spürbar weniger Fehler.
Wo es sich lohnt
Ein Plattform-Engineer bei einem Softwareanbieter für Contact Center
Agenten ein laufendes Transkript jedes Anrufs auf Spanisch, Portugiesisch und Englisch geben
Das Modell mit NeMos cache-fähigem Streaming-Skript bei 560 ms oder 1.120 ms Chunks betreiben; NVIDIA maß 2.400 parallele Streams pro H100 bei 1.120 ms. Gehostet bei DeepInfra kostet eine Million Minuten im Monat etwa 200 $.
Ein Entwickler, der einen Sprachagenten für eine indische Bank baut
Anrufer auf Hindi und Englisch schnell genug für einen natürlichen Sprecherwechsel erkennen
Bei 80 ms oder 160 ms mit target_lang=auto laufen lassen, damit jede Äußerung ein Sprachkennzeichen trägt; Hindi erreicht bei 80 ms 8,13% WER mit vorgegebener Sprache und 11,47% bei automatischer Erkennung.
Ein ML-Team bei einem griechischen Sender
Live-Nachrichten auf Griechisch untertiteln
Griechisch gehört zur anpassungsbereiten Stufe, also vor dem Livebetrieb Fine-Tuning mit hauseigenen Transkripten nach NVIDIAs Anleitung einplanen; ohne Anpassung transkribiert das Modell es nicht zuverlässig.
Bevor du dich festlegst
- Einrichtung
- NeMo von GitHub installieren (Python 3.11+, libsndfile und ffmpeg), nvidia/nemotron-3.5-asr-streaming-0.6b mit from_pretrained laden und das cache-fähige Streaming-Skript mit att_context_size und target_lang ausführen; oder die Pipeline von transformers 5.13.0.
- Integrationen
- NeMo, Hugging Face Transformers (offline und Streaming), NeMo-Speech.cpp mit einem q8_0-GGUF, NVIDIA Speech NIM; DeepInfra über OpenRouter als gehosteter Endpunkt.
- Daten und Datenschutz
- OpenMDW-1.1 erlaubt kommerzielle Nutzung. Selbst gehostet bleibt das Audio auf deiner Hardware. Das Training mischte öffentliche Datensätze, NVIDIAs proprietäre Riva-Daten und Labels, die von anderen ASR-Modellen erzeugt wurden.
- Kosten im großen Maßstab
- Selbst gehostet bewältigte eine H100 in NVIDIAs Test 2.400 Streams bei 1.120 ms Latenz. Gehostet bei DeepInfra für 0,00000333 $ pro Sekunde kostet eine Million Minuten etwa 200 $.
- Grenzen
- 32 Varianten sofort nutzbar, 8 weitere nach Fine-Tuning; Mono-Eingabe; Linux und NVIDIA-GPUs; keine Diarisierung; die Genauigkeit sinkt mit kleineren Chunks.
Was gut ist
- 240 Streams bei 80 ms und 2.400 bei 1.120 ms auf einer H100 in NVIDIAs Tests
- Latenz zur Laufzeit wählbar, von 80 bis 1.120 ms
- 40 Sprachvarianten in einem Modell mit automatischer Sprachkennzeichnung
- Freizügige Lizenz OpenMDW-1.1; GGUF-Build für NeMo-Speech.cpp
- Etwa 0,20 $ pro 1.000 Minuten gehostet
Was nicht
- 7,91% englische WER auf FLEURS in der langsamsten Einstellung
- Sprachen mit breiter Abdeckung im Schnitt bei 22,13% WER
- 8 Varianten brauchen Fine-Tuning, bevor sie funktionieren
- Nur Linux und NVIDIA-GPUs; Mono-Audio
- Keine Sprecherkennzeichnung
Am besten für
Plattformen, die viele gleichzeitige Live-Transkriptions- oder Sprachagenten-Sitzungen auf NVIDIA-GPUs betreiben.
Alternativen zu Nemotron 3.5 ASR Streaming 0.6B
Nemotron 3.5 ASR Streaming 0.6B: häufige Fragen
- Lohnt sich Nemotron 3.5 ASR Streaming 0.6B?
- Nemotron 3.5 ASR Streaming ist dafür gebaut, Hunderte Live-Untertitel auf einer GPU zu betreiben, und seine Genauigkeit ist der Preis dieser Dichte. Wir bewerten es mit 3.9 von 5.
- Was kostet Nemotron 3.5 ASR Streaming 0.6B?
- Kostenlos unter OpenMDW-1.1. Gehostet von DeepInfra auf OpenRouter für 0,00000333 $ pro Sekunde Audio, etwa 0,20 $ pro 1.000 Minuten.
- Welche Nachteile hat Nemotron 3.5 ASR Streaming 0.6B?
- 7,91% englische WER auf FLEURS in der langsamsten Einstellung; Sprachen mit breiter Abdeckung im Schnitt bei 22,13% WER; 8 Varianten brauchen Fine-Tuning, bevor sie funktionieren; Nur Linux und NVIDIA-GPUs; Mono-Audio; Keine Sprecherkennzeichnung.
- Für wen eignet sich Nemotron 3.5 ASR Streaming 0.6B?
- Plattformen, die viele gleichzeitige Live-Transkriptions- oder Sprachagenten-Sitzungen auf NVIDIA-GPUs betreiben.
- Was kostet Nemotron 3.5 ASR Streaming 0.6B für ein Team oder im Produktivbetrieb?
- Selbst gehostet bewältigte eine H100 in NVIDIAs Test 2.400 Streams bei 1.120 ms Latenz. Gehostet bei DeepInfra für 0,00000333 $ pro Sekunde kostet eine Million Minuten etwa 200 $.
- Ist Nemotron 3.5 ASR Streaming 0.6B sicher für Firmendaten?
- OpenMDW-1.1 erlaubt kommerzielle Nutzung. Selbst gehostet bleibt das Audio auf deiner Hardware. Das Training mischte öffentliche Datensätze, NVIDIAs proprietäre Riva-Daten und Labels, die von anderen ASR-Modellen erzeugt wurden.
- Was sind die besten Alternativen zu Nemotron 3.5 ASR Streaming 0.6B?
- Die nächsten Alternativen, die wir getestet haben, sind NVIDIA Nemotron 3.5 Transcribe, MAI-Transcribe-2-Streaming, Qwen3-ASR (1.7B and 0.6B), Parakeet TDT 0.6B v3 und Voxtral 3 (Transcribe and TTS).
Antworten geprüft am 7. Nov. 2026.