Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

NVIDIA Nemotron 3.5 Transcribe

NVIDIAs per Prompt steuerbares offenes Sprachmodell: Transkription in 40 Sprachen, Sprecherkennzeichnung und Übersetzung in einem Checkpoint.

Getestet von Andrew Miller · Aktualisiert

Unsere Bewertung

4.5/5

Ein offenes Sprachmodell, das bei der Genauigkeit mit den besten offenen Konkurrenten gleichzieht und Diarisierung, Übersetzung und eigenes Vokabular in einem Prompt bündelt, gehostet für 0,12 $ pro Stunde.

Was ist NVIDIA Nemotron 3.5 Transcribe?

Nemotron 3.5 Transcribe ist ein Offline-Sprachmodell von NVIDIA, am 28. Oktober 2026 auf Hugging Face, NGC und build.nvidia.com veröffentlicht. Es kombiniert einen ASR-Encoder mit 600M Parametern und einen Sprecher-Encoder mit 99M Parametern mit dem Sprachmodell Nemotron 3.5 Lightning, einem hybriden Mamba-Transformer-Mixture-of-Experts: 34 Milliarden Parameter insgesamt, etwa 4,3 Milliarden aktiv pro Token einschließlich des Audio-Encoders.

Ein einziger Checkpoint übernimmt Transkription in 40 Sprachen, wörtlichen oder bereinigten Text, sprecherzugeordnete Transkripte mit Zeitstempeln pro Wort, Übersetzung ins und aus dem Englischen, Spracherkennung, Vokabularhinweise im Prompt und englische Fragen und Antworten zu Audio. Es verarbeitet Aufnahmen bis zu einer Stunde und ist kein Streaming-Modell.

Die Gewichte stehen unter der Lizenz OpenMDW-1.1, die kommerzielle Nutzung erlaubt, in den Varianten BF16, FP8 und NVFP4. NVIDIA veröffentlichte außerdem Granary v2, 463.062 Stunden Sprachdaten in 48 Sprachen. DeepInfra hostet das Modell für 0,002 $ pro Audiominute.

Was kostet NVIDIA Nemotron 3.5 Transcribe?

TarifPreisWas enthalten ist
WeightsFreeOpenMDW-1.1, kommerzielle Nutzung erlaubt
DeepInfra API$0.002 per audio minuteBis zu 60 Minuten pro Anfrage

Offene Gewichte unter OpenMDW-1.1. DeepInfra: 0,002 $ pro Audiominute (0,12 $ pro Stunde); OpenRouter leitet zu DeepInfra weiter, etwa zum gleichen Preis.

Lohnt sich NVIDIA Nemotron 3.5 Transcribe?

Nemotron 3.5 Transcribe ist in unabhängigen Tests das stärkste offene Transkriptionsmodell und das erste offene, das den Großteil einer Pipeline für Besprechungsprotokolle in einem einzigen Aufruf erledigt. Artificial Analysis sieht es bei 2,8 % auf seinem AA-WER-Index, gleichauf an der Spitze der Open-Weight-Modelle mit Mistrals Voxtral Small (2,77 % zu seinen 2,81 %), bei etwa einem Sechstel der 24B aktiven Parameter von Voxtral. Im Open ASR Leaderboard von Hugging Face liegt es mit 5,33 % durchschnittlicher englischer WER auf Platz eins unter den offenen Modellen, vor Qwen3-ASR-1.7B mit 5,4.

Das Besondere ist der Prompt. Transkriptionsstil, Vokabularhinweise, Sprecher-Tags und Übersetzung werden in der Anweisung gewählt, und NVIDIAs eigene Zahlen für mehrere Sprecher (15,80 mittlere cpWER über vollständige Sitzungen von AMI, CALLHOME, Mixer 6 und NOTSOFAR-1, gegenüber 16,83 für das nächstbeste veröffentlichte System) sind selbst gemeldet, passen aber zu den externen Rankings. Die Anpassung an eine Domäne ist günstig: Auf dem medizinischen Sprachdatensatz von Eka Care sank die WER mit einem besseren Prompt von 30,8 % auf 23,8 % und nach etwa 14 GPU-Stunden Fine-Tuning auf einer GB300 auf 11,8 %.

Die Grenzen gehen klar aus der Modellkarte hervor. Es arbeitet nur offline, Live-Untertitel und Sprachagenten, die Zwischenergebnisse brauchen, benötigen also weiterhin ein Streaming-Modell wie Parakeet. Die Sprachunterstützung ist ungleich: 40 Sprachen für Transkription, 31 für Übersetzung und 13 für Sprecherkennzeichnung, wobei Mandarin, Arabisch und Bengalisch nur als "supported" eingestuft sind. Fragen zu Audio wurden auf Englisch trainiert. Geschlossene Modelle liegen insgesamt weiter vorn; Gemini 3.5 Transcribe steht im Open-ASR-Ranking bei 2,60 %.

Für Self-Hosting braucht es eine H100 mit 80GB für die BF16-Gewichte. NVIDIAs schnellste Serving-Werte, 2.238 Sekunden Audio pro Sekunde auf einer RTX PRO 6000, stammen aus seinem NIM-Build; der zum Start ausgelieferte offene vLLM-Weg ist nach NVIDIAs eigener Schätzung etwa halb so schnell. Zum Preis von DeepInfra kostet Transkription ein Drittel des historischen Tarifs der Whisper-API von OpenAI, gehostet ist also für die meisten Teams unter einigen tausend Stunden im Monat die vernünftige Standardwahl.

Wo es sich lohnt

  • Ein Data Engineer in einem Contact Center mit 300 Plätzen

    10.000 Stunden aufgezeichnete Anrufe im Monat transkribieren und Sprechern zuordnen

    Bei DeepInfra für 0,12 $ pro Stunde sind das etwa 1.200 $ im Monat, mit <spk:N>-Sprecher-Tags und Zeitstempeln pro Wort in einer Antwort. Produktnamen kommen als Kontextbegriffe in den Prompt statt in einen eigenen Biasing-Schritt.

  • Ein ML Engineer in einem Health-Tech-Startup

    Die Transkription an klinisches Vokabular anpassen

    NVIDIAs Beispiel mit Eka Care senkte die WER mit etwa 245 Stunden Daten und 14 GPU-Stunden auf einer GB300 von 30,8 % auf 11,8 %. Allgemeines Englisch wurde leicht schlechter (LibriSpeech clean von 1,54 % auf 1,69 %), teste also beides.

  • Eine Lokalisierungsproduzentin in einem europäischen Medienunternehmen

    Englische Transkripte und Übersetzungen von Interviews auf Tschechisch, Polnisch oder Deutsch erstellen

    Diese Sprachen sind für Transkription und Übersetzung in beide Richtungen als "leading" eingestuft. Einstündige Aufnahmen passen in eine Anfrage; Namen und Orte sollten weiterhin stichprobenartig am Audio geprüft werden, wie NVIDIA rät.

Bevor du dich festlegst

Einrichtung
Gehostet: ein Aufruf im OpenAI-Stil an DeepInfra oder OpenRouter (nvidia/nemotron-3.5-transcribe). Selbst gehostet: vLLM 0.32.0 mit dem NeMo-Speech-Plugin auf einer H100 80GB oder SGLang-Omni 0.2.0; Transformers funktioniert aus dem Quellcode.
Integrationen
vLLM, SGLang-Omni, Hugging Face Transformers, GGML auf RTX 5090 und RTX PRO 6000, NeMo Speech für Fine-Tuning; gehostet bei DeepInfra, Baseten und Simplismart.
Daten und Datenschutz
OpenMDW-1.1 erlaubt kommerzielle Nutzung. NVIDIA gibt an, dass keine Nutzerinteraktionen mit eingesetzten Produkten fürs Training verwendet wurden. DeepInfra gibt an, Audio und Transkripte nach einer Anfrage nicht zu speichern.
Kosten im großen Maßstab
1.000 Stunden Audio kosten bei DeepInfra 120 $, abgerechnet wird jede Minute einschließlich Stille. Self-Hosting braucht eine H100 mit 80GB (BF16) oder eine L40S mit 48GB (FP8).
Grenzen
Bis zu einer Stunde und 65.536 Tokens pro Anfrage, bis zu acht Sprecher; nur offline; Fragen zu Audio nur auf Englisch getestet; laut Modellkarte ist nicht garantiert, dass es über die einstündige Trainingsgrenze hinaus generalisiert.

Was gut ist

  • Bei Artificial Analysis mit 2,8 % AA-WER gleichauf an der Spitze der offenen Modelle, mit etwa 4B aktiven Parametern
  • Sprecherkennzeichnung, Zeitstempel pro Wort, Übersetzung und Vokabularhinweise in einem Checkpoint
  • 0,002 $ pro Audiominute bei DeepInfra
  • Lizenz OpenMDW-1.1 und veröffentlichte Fine-Tuning-Rezepte in NeMo Speech

Was nicht

  • Nur offline; keine Streaming-Zwischenergebnisse
  • Sprecherkennzeichnung in 13 Sprachen, Übersetzung in 31
  • Den schnellsten Serving-Weg gibt es vorerst nur mit NIM; offenes vLLM ist etwa halb so schnell
  • BF16-Gewichte brauchen eine GPU mit 80GB

Am besten für

Teams, die aufgezeichnete Anrufe, Besprechungen oder Medien in großem Umfang transkribieren und Sprecherkennzeichnung und Fachvokabular wollen, ohne mehrere Modelle zusammenzustückeln.

Alternativen zu NVIDIA Nemotron 3.5 Transcribe

NVIDIA Nemotron 3.5 Transcribe: häufige Fragen

Lohnt sich NVIDIA Nemotron 3.5 Transcribe?
Ein offenes Sprachmodell, das bei der Genauigkeit mit den besten offenen Konkurrenten gleichzieht und Diarisierung, Übersetzung und eigenes Vokabular in einem Prompt bündelt, gehostet für 0,12 $ pro Stunde. Wir bewerten es mit 4.5 von 5.
Was kostet NVIDIA Nemotron 3.5 Transcribe?
Offene Gewichte unter OpenMDW-1.1. DeepInfra: 0,002 $ pro Audiominute (0,12 $ pro Stunde); OpenRouter leitet zu DeepInfra weiter, etwa zum gleichen Preis.
Welche Nachteile hat NVIDIA Nemotron 3.5 Transcribe?
Nur offline; keine Streaming-Zwischenergebnisse; Sprecherkennzeichnung in 13 Sprachen, Übersetzung in 31; Den schnellsten Serving-Weg gibt es vorerst nur mit NIM; offenes vLLM ist etwa halb so schnell; BF16-Gewichte brauchen eine GPU mit 80GB.
Für wen eignet sich NVIDIA Nemotron 3.5 Transcribe?
Teams, die aufgezeichnete Anrufe, Besprechungen oder Medien in großem Umfang transkribieren und Sprecherkennzeichnung und Fachvokabular wollen, ohne mehrere Modelle zusammenzustückeln.
Was kostet NVIDIA Nemotron 3.5 Transcribe für ein Team oder im Produktivbetrieb?
1.000 Stunden Audio kosten bei DeepInfra 120 $, abgerechnet wird jede Minute einschließlich Stille. Self-Hosting braucht eine H100 mit 80GB (BF16) oder eine L40S mit 48GB (FP8).
Ist NVIDIA Nemotron 3.5 Transcribe sicher für Firmendaten?
OpenMDW-1.1 erlaubt kommerzielle Nutzung. NVIDIA gibt an, dass keine Nutzerinteraktionen mit eingesetzten Produkten fürs Training verwendet wurden. DeepInfra gibt an, Audio und Transkripte nach einer Anfrage nicht zu speichern.
Was sind die besten Alternativen zu NVIDIA Nemotron 3.5 Transcribe?
Die nächsten Alternativen, die wir getestet haben, sind Voxtral 3 (Transcribe and TTS), Parakeet TDT 0.6B v3, Whisper large-v3-turbo und MOSS-Transcribe-Diarize 0.9B.

Antworten geprüft am 31. Okt. 2026.