¿Qué es Nemotron 3.5 ASR Streaming 0.6B?
Nemotron 3.5 ASR es un modelo de reconocimiento de voz en streaming de 600 millones de parámetros de NVIDIA, publicado en Hugging Face el 4 de junio de 2026 bajo la licencia permisiva OpenMDW-1.1. Es la extensión multilingüe del modelo Nemotron Speech Streaming en inglés de NVIDIA y añade una indicación de idioma para que un solo checkpoint cubra 40 variantes de idioma: 19 que NVIDIA considera listas para transcribir, 13 de cobertura amplia y 8 que necesitan ajuste fino antes de usarse.
Usa un codificador FastConformer con caché y un decodificador RNN-T, que conserva el estado del codificador entre fragmentos en lugar de reprocesar audio solapado. El tamaño del fragmento, y por tanto la latencia, se elige al ejecutarlo entre 80, 160, 320, 560 o 1.120 milisegundos sin reentrenar. La salida incluye puntuación y mayúsculas, y con el idioma en auto añade una etiqueta con el idioma que ha oído. Funciona en NeMo, en Hugging Face Transformers 5.13.0 o posterior y en el runtime en C++ NeMo-Speech.cpp de NVIDIA a partir de un archivo GGUF q8_0.
¿Merece la pena Nemotron 3.5 ASR Streaming 0.6B?
Nemotron 3.5 ASR es una herramienta de capacidad para la transcripción en directo. En una H100, NVIDIA mide que sostiene 240 flujos simultáneos en tiempo real con el ajuste de 80 ms, frente a 14 de su antiguo Parakeet RNNT 1.1B, y 2.400 flujos frente a 400 con 1.120 ms. Para una plataforma de agentes de voz o de subtítulos, es la diferencia entre una GPU y un rack, y el control de latencia te deja cambiar retraso por precisión en cada despliegue y no en cada modelo.
La precisión es mediocre, y las tablas de NVIDIA lo dicen. En FLEURS, con el idioma indicado y fragmentos de 1,12 segundos, marca un 4,11% de WER en español, un 7,91% en inglés, un 8,31% en alemán y un 9,03% en francés, con una media del 8,84% en sus 19 variantes listas para transcribir; a 80 ms esa media sube al 10,38%. Los modelos sin conexión lo hacen mucho mejor: el propio Nemotron 3.5 Transcribe de NVIDIA está en un 3,4% de AA-WER en Artificial Analysis, pero no admite streaming. La propia NVIDIA recomienda el modelo de streaming solo en inglés para trabajo en inglés.
El nivel de cobertura amplia es donde conviene leer con atención. Polaco, mandarín y checo quedan entre un 15,15% y un 20,41% de error, y danés y húngaro en un 27,49% y un 28,68%, con una media del 22,13%, es decir, aproximadamente una palabra de cada cinco mal. Las 8 variantes listas para adaptación, entre ellas griego, hebreo y tailandés, no producen transcripciones utilizables hasta que las ajustas; NVIDIA publica una guía de ajuste fino para ello.
La pega: es software a la medida de NVIDIA. Las plataformas admitidas son Linux y Jetson en GPU de NVIDIA, la entrada debe ser mono y parte de las etiquetas de entrenamiento las generó un conjunto de otros modelos, entre ellos Whisper, así que los errores sistemáticos que comparten pueden heredarse. No hay etiquetas de hablante.
Nuestra opinión: Nemotron 3.5 ASR es el motor que poner debajo de los subtítulos en directo en español, italiano, portugués o hindi a escala; para grabaciones que pueden esperar unos segundos, un modelo sin conexión cometerá bastantes menos errores.
Dónde se gana su sitio
Un ingeniero de plataforma en una empresa de software para centros de contacto
Dar a los agentes una transcripción en curso de cada llamada en español, portugués e inglés
Sirve el modelo con el script de streaming con caché de NeMo en fragmentos de 560 ms o 1.120 ms; NVIDIA midió 2.400 flujos en paralelo por H100 a 1.120 ms. Alojado en DeepInfra, un millón de minutos al mes cuesta unos 200 $.
Un desarrollador que crea un agente de voz para un banco indio
Reconocer a clientes que hablan hindi e inglés lo bastante rápido para un turno de palabra natural
Ejecútalo a 80 ms o 160 ms con target_lang=auto para que cada intervención lleve una etiqueta de idioma; el hindi marca un 8,13% de WER a 80 ms con el idioma indicado y un 11,47% con detección automática.
Un equipo de ML en una cadena de televisión griega
Subtitular informativos en directo en griego
El griego está en el nivel listo para adaptación, así que presupuesta un ajuste fino con transcripciones propias usando la guía de NVIDIA antes de salir en directo; tal cual, el modelo no lo transcribirá de forma fiable.
Antes de decidirte
- Puesta en marcha
- Instala NeMo desde GitHub (Python 3.11+, libsndfile y ffmpeg), carga nvidia/nemotron-3.5-asr-streaming-0.6b con from_pretrained y ejecuta el script de streaming con caché con att_context_size y target_lang; o el pipeline de transformers 5.13.0.
- Integraciones
- NeMo, Hugging Face Transformers (sin conexión y streaming), NeMo-Speech.cpp con un GGUF q8_0, NVIDIA Speech NIM; DeepInfra a través de OpenRouter para un endpoint alojado.
- Datos y privacidad
- OpenMDW-1.1 permite el uso comercial. Alojado por ti, el audio se queda en tu hardware. El entrenamiento mezcló conjuntos públicos, datos propietarios de Riva de NVIDIA y etiquetas generadas por otros modelos de ASR.
- Coste a escala
- Alojado por ti, una H100 manejó 2.400 flujos con 1.120 ms de latencia en la prueba de NVIDIA. En DeepInfra, a 0,00000333 $ por segundo, un millón de minutos cuesta unos 200 $.
- Límites
- 32 variantes utilizables de serie y 8 más tras ajuste fino; entrada mono; Linux y GPU de NVIDIA; sin diarización; la precisión cae al reducir el tamaño del fragmento.
Lo bueno
- 240 flujos a 80 ms y 2.400 a 1.120 ms en una H100 en las pruebas de NVIDIA
- Latencia elegida al ejecutar, de 80 a 1.120 ms
- 40 variantes de idioma en un modelo con etiquetado automático del idioma
- Licencia permisiva OpenMDW-1.1; build GGUF para NeMo-Speech.cpp
- Unos 0,20 $ por 1.000 minutos alojado
Lo malo
- 7,91% de WER en inglés en FLEURS con su ajuste más lento
- Los idiomas de cobertura amplia promedian un 22,13% de WER
- 8 variantes necesitan ajuste fino antes de funcionar
- Solo Linux y GPU de NVIDIA; audio mono
- Sin etiquetas de hablante
Ideal para
Plataformas que ejecutan muchas sesiones simultáneas de transcripción en directo o de agentes de voz en GPU de NVIDIA.
Alternativas a Nemotron 3.5 ASR Streaming 0.6B
Nemotron 3.5 ASR Streaming 0.6B: preguntas frecuentes
- ¿Merece la pena Nemotron 3.5 ASR Streaming 0.6B?
- Nemotron 3.5 ASR Streaming está hecho para mantener cientos de subtítulos en directo en una GPU, y su precisión es el precio de esa densidad. Le damos un 3.9 sobre 5.
- ¿Cuánto cuesta Nemotron 3.5 ASR Streaming 0.6B?
- Gratis bajo OpenMDW-1.1. Alojado por DeepInfra en OpenRouter a 0,00000333 $ por segundo de audio, unos 0,20 $ por 1.000 minutos.
- ¿Qué inconvenientes tiene Nemotron 3.5 ASR Streaming 0.6B?
- 7,91% de WER en inglés en FLEURS con su ajuste más lento; los idiomas de cobertura amplia promedian un 22,13% de WER; 8 variantes necesitan ajuste fino antes de funcionar; solo Linux y GPU de NVIDIA; audio mono; sin etiquetas de hablante.
- ¿Para quién es Nemotron 3.5 ASR Streaming 0.6B?
- Plataformas que ejecutan muchas sesiones simultáneas de transcripción en directo o de agentes de voz en GPU de NVIDIA.
- ¿Cuánto cuesta Nemotron 3.5 ASR Streaming 0.6B para un equipo o en producción?
- Alojado por ti, una H100 manejó 2.400 flujos con 1.120 ms de latencia en la prueba de NVIDIA. En DeepInfra, a 0,00000333 $ por segundo, un millón de minutos cuesta unos 200 $.
- ¿Es Nemotron 3.5 ASR Streaming 0.6B seguro para los datos de la empresa?
- OpenMDW-1.1 permite el uso comercial. Alojado por ti, el audio se queda en tu hardware. El entrenamiento mezcló conjuntos públicos, datos propietarios de Riva de NVIDIA y etiquetas generadas por otros modelos de ASR.
- ¿Cuáles son las mejores alternativas a Nemotron 3.5 ASR Streaming 0.6B?
- Las alternativas más cercanas que hemos analizado son NVIDIA Nemotron 3.5 Transcribe, MAI-Transcribe-2-Streaming, Qwen3-ASR (1.7B and 0.6B), Parakeet TDT 0.6B v3 y Voxtral 3 (Transcribe and TTS).
Respuestas comprobadas el 7 nov 2026.