Qu’est-ce que Nemotron 3.5 ASR Streaming 0.6B ?
Nemotron 3.5 ASR est un modèle de reconnaissance vocale en streaming de 600 millions de paramètres signé NVIDIA, publié sur Hugging Face le 4 juin 2026 sous la licence permissive OpenMDW-1.1. C'est l'extension multilingue du modèle anglais Nemotron Speech Streaming de NVIDIA : il ajoute une consigne de langue pour qu'un seul checkpoint couvre 40 variantes de langue, dont 19 que NVIDIA juge prêtes pour la transcription, 13 à couverture large et 8 qui exigent un fine-tuning avant usage.
Il utilise un encodeur FastConformer avec cache et un décodeur RNN-T, qui conserve l'état de l'encodeur d'un segment à l'autre au lieu de retraiter de l'audio qui se chevauche. La taille des segments, donc la latence, se choisit à l'exécution parmi 80, 160, 320, 560 ou 1 120 millisecondes, sans réentraînement. La sortie comporte ponctuation et majuscules, et avec la langue en auto il ajoute une étiquette indiquant la langue entendue. Il tourne dans NeMo, dans Hugging Face Transformers 5.13.0 ou ultérieur, et dans le runtime C++ NeMo-Speech.cpp de NVIDIA à partir d'un fichier GGUF q8_0.
Nemotron 3.5 ASR Streaming 0.6B vaut-il le coup ?
Nemotron 3.5 ASR est un outil de capacité pour la transcription en direct. Sur un H100, NVIDIA mesure 240 flux simultanés en temps réel au réglage de 80 ms, contre 14 pour son ancien Parakeet RNNT 1.1B, et 2 400 flux contre 400 à 1 120 ms. Pour une plateforme d'agents vocaux ou de sous-titrage, c'est la différence entre un GPU et une baie entière, et le réglage de latence permet d'arbitrer entre délai et précision par déploiement plutôt que par modèle.
La précision est moyenne, et les tableaux de NVIDIA le disent. Sur FLEURS, langue fournie et segments de 1,12 seconde, il obtient 4,11 % de WER en espagnol, 7,91 % en anglais, 8,31 % en allemand et 9,03 % en français, soit une moyenne de 8,84 % sur ses 19 variantes prêtes pour la transcription ; à 80 ms, cette moyenne monte à 10,38 %. Les modèles hors ligne font bien mieux : le Nemotron 3.5 Transcribe de NVIDIA est à 3,4 % d'AA-WER chez Artificial Analysis, mais il ne fait pas de streaming. NVIDIA recommande elle-même le modèle de streaming anglais seul pour l'anglais.
C'est sur le niveau à couverture large que les acheteurs doivent lire attentivement. Le polonais, le mandarin et le tchèque se situent entre 15,15 % et 20,41 % d'erreur, le danois et le hongrois à 27,49 % et 28,68 %, pour une moyenne de 22,13 %, soit environ un mot sur cinq erroné. Les 8 variantes prêtes pour l'adaptation, dont le grec, l'hébreu et le thaï, ne produisent aucune transcription exploitable avant un fine-tuning ; NVIDIA publie un guide pour cela.
Le hic : c'est un logiciel taillé pour NVIDIA. Les plateformes prises en charge sont Linux et Jetson sur GPU NVIDIA, l'entrée doit être mono, et une partie des étiquettes d'entraînement a été générée par un ensemble d'autres modèles dont Whisper, si bien que leurs erreurs systématiques communes peuvent se transmettre. Il n'y a pas d'étiquettes de locuteur.
Notre avis : Nemotron 3.5 ASR est le moteur à placer sous du sous-titrage en direct en espagnol, italien, portugais ou hindi à grande échelle ; pour des enregistrements qui peuvent attendre quelques secondes, un modèle hors ligne fera nettement moins d'erreurs.
L à où il fait la différence
Un ingénieur plateforme d'un éditeur de logiciels pour centres de contact
Fournir aux conseillers une transcription en continu de chaque appel en espagnol, portugais et anglais
Servez le modèle avec le script de streaming avec cache de NeMo en segments de 560 ms ou 1 120 ms ; NVIDIA a mesuré 2 400 flux parallèles par H100 à 1 120 ms. Hébergé chez DeepInfra, un million de minutes par mois coûte environ 200 $.
Un développeur qui conçoit un agent vocal pour une banque indienne
Reconnaître des clients parlant hindi et anglais assez vite pour des tours de parole naturels
Faites-le tourner à 80 ms ou 160 ms avec target_lang=auto pour que chaque énoncé porte une étiquette de langue ; l'hindi obtient 8,13 % de WER à 80 ms avec la langue fournie et 11,47 % en détection automatique.
Une équipe ML d'une chaîne de télévision grecque
Sous-titrer des journaux en direct en grec
Le grec fait partie du niveau prêt pour l'adaptation : prévoyez un fine-tuning sur des transcriptions maison avec le guide de NVIDIA avant la mise à l'antenne ; tel quel, le modèle ne le transcrira pas de façon fiable.
Avant de vous engager
- Mise en route
- Installez NeMo depuis GitHub (Python 3.11+, libsndfile et ffmpeg), chargez nvidia/nemotron-3.5-asr-streaming-0.6b avec from_pretrained et lancez le script de streaming avec cache avec att_context_size et target_lang ; ou le pipeline de transformers 5.13.0.
- Intégrations
- NeMo, Hugging Face Transformers (hors ligne et streaming), NeMo-Speech.cpp avec un GGUF q8_0, NVIDIA Speech NIM ; DeepInfra via OpenRouter pour un endpoint hébergé.
- Données et confidentialité
- OpenMDW-1.1 autorise l'usage commercial. En auto-hébergement, l'audio reste sur votre matériel. L'entraînement a mêlé des jeux publics, des données propriétaires Riva de NVIDIA et des étiquettes générées par d'autres modèles d'ASR.
- Coût à grande échelle
- En auto-hébergement, un H100 a géré 2 400 flux à 1 120 ms de latence dans le test de NVIDIA. Chez DeepInfra, à 0,00000333 $ par seconde, un million de minutes coûte environ 200 $.
- Limites
- 32 variantes utilisables d'emblée, 8 de plus après fine-tuning ; entrée mono ; Linux et GPU NVIDIA ; pas de diarisation ; la précision baisse quand la taille des segments diminue.
Les points forts
- 240 flux à 80 ms et 2 400 à 1 120 ms sur un H100 dans les tests de NVIDIA
- Latence choisie à l'exécution, de 80 à 1 120 ms
- 40 variantes de langue dans un seul modèle avec étiquetage automatique de la langue
- Licence permissive OpenMDW-1.1 ; build GGUF pour NeMo-Speech.cpp
- Environ 0,20 $ pour 1 000 minutes en hébergé
Les points faibles
- 7,91 % de WER en anglais sur FLEURS au réglage le plus lent
- Les langues à couverture large sont en moyenne à 22,13 % de WER
- 8 variantes exigent un fine-tuning avant de fonctionner
- Linux et GPU NVIDIA uniquement ; audio mono
- Pas d'étiquettes de locuteur
Idéal pour
Les plateformes qui font tourner de nombreuses sessions simultanées de transcription en direct ou d'agents vocaux sur GPU NVIDIA.
Alternatives à Nemotron 3.5 ASR Streaming 0.6B
Nemotron 3.5 ASR Streaming 0.6B : questions fréquentes
- Nemotron 3.5 ASR Streaming 0.6B vaut-il le coup ?
- Nemotron 3.5 ASR Streaming est conçu pour faire tourner des centaines de sous-titrages en direct sur un seul GPU, et sa précision est le prix de cette densité. Nous lui donnons 3.9 sur 5.
- Combien coûte Nemotron 3.5 ASR Streaming 0.6B ?
- Gratuit sous OpenMDW-1.1. Hébergé par DeepInfra sur OpenRouter à 0,00000333 $ par seconde d'audio, soit environ 0,20 $ pour 1 000 minutes.
- Quels sont les inconvénients de Nemotron 3.5 ASR Streaming 0.6B ?
- 7,91 % de WER en anglais sur FLEURS au réglage le plus lent; les langues à couverture large sont en moyenne à 22,13 % de WER; 8 variantes exigent un fine-tuning avant de fonctionner; linux et GPU NVIDIA uniquement ; audio mono; pas d'étiquettes de locuteur.
- À qui s’adresse Nemotron 3.5 ASR Streaming 0.6B ?
- Les plateformes qui font tourner de nombreuses sessions simultanées de transcription en direct ou d'agents vocaux sur GPU NVIDIA.
- Combien coûte Nemotron 3.5 ASR Streaming 0.6B pour une équipe ou en production ?
- En auto-hébergement, un H100 a géré 2 400 flux à 1 120 ms de latence dans le test de NVIDIA. Chez DeepInfra, à 0,00000333 $ par seconde, un million de minutes coûte environ 200 $.
- Nemotron 3.5 ASR Streaming 0.6B est-il sûr pour les données de l’entreprise ?
- OpenMDW-1.1 autorise l'usage commercial. En auto-hébergement, l'audio reste sur votre matériel. L'entraînement a mêlé des jeux publics, des données propriétaires Riva de NVIDIA et des étiquettes générées par d'autres modèles d'ASR.
- Quelles sont les meilleures alternatives à Nemotron 3.5 ASR Streaming 0.6B ?
- Les alternatives les plus proches que nous avons testées sont NVIDIA Nemotron 3.5 Transcribe, MAI-Transcribe-2-Streaming, Qwen3-ASR (1.7B and 0.6B), Parakeet TDT 0.6B v3 et Voxtral 3 (Transcribe and TTS).
Réponses vérifiées le 7 nov. 2026.