O que é Nemotron 3.5 ASR Streaming 0.6B?
Nemotron 3.5 ASR é um modelo de reconhecimento de fala em streaming de 600 milhões de parâmetros da NVIDIA, publicado no Hugging Face em 4 de junho de 2026 sob a licença permissiva OpenMDW-1.1. É a extensão multilíngue do Nemotron Speech Streaming em inglês da NVIDIA e acrescenta um prompt de idioma para que um único checkpoint cubra 40 variantes de idioma: 19 que a NVIDIA considera prontas para transcrição, 13 de cobertura ampla e 8 que precisam de fine-tuning antes do uso.
Usa um codificador FastConformer com cache e um decodificador RNN-T, que guarda o estado do codificador entre blocos em vez de reprocessar áudio sobreposto. O tamanho do bloco, e portanto a latência, é escolhido na execução entre 80, 160, 320, 560 ou 1.120 milissegundos, sem retreinar. A saída inclui pontuação e maiúsculas, e com o idioma em auto ele acrescenta uma etiqueta com o idioma que ouviu. Roda no NeMo, no Hugging Face Transformers 5.13.0 ou posterior e no runtime em C++ NeMo-Speech.cpp da NVIDIA a partir de um arquivo GGUF q8_0.
Nemotron 3.5 ASR Streaming 0.6B vale a pena?
Nemotron 3.5 ASR é uma ferramenta de capacidade para transcrição ao vivo. Numa H100, a NVIDIA mede 240 fluxos simultâneos em tempo real no ajuste de 80 ms, contra 14 do antigo Parakeet RNNT 1.1B, e 2.400 fluxos contra 400 a 1.120 ms. Para uma plataforma de agentes de voz ou de legendas, é a diferença entre uma GPU e um rack, e o controle de latência permite trocar atraso por precisão a cada implantação, não a cada modelo.
A precisão é mediana, e as tabelas da NVIDIA dizem isso. No FLEURS, com o idioma informado e blocos de 1,12 segundo, ele marca 4,11% de WER em espanhol, 7,91% em inglês, 8,31% em alemão e 9,03% em francês, com média de 8,84% nas 19 variantes prontas para transcrição; a 80 ms essa média sobe para 10,38%. Modelos offline se saem muito melhor: o próprio Nemotron 3.5 Transcribe da NVIDIA tem 3,4% de AA-WER na Artificial Analysis, mas não faz streaming. A própria NVIDIA recomenda o modelo de streaming só em inglês para trabalho em inglês.
A faixa de cobertura ampla é onde o comprador deve ler com cuidado. Polonês, mandarim e tcheco ficam entre 15,15% e 20,41% de erro, e dinamarquês e húngaro em 27,49% e 28,68%, com média de 22,13%, ou seja, mais ou menos uma palavra errada em cada cinco. As 8 variantes prontas para adaptação, entre elas grego, hebraico e tailandês, não geram transcrições utilizáveis até passarem por fine-tuning; a NVIDIA publica um guia para isso.
O porém: é software feito sob medida para a NVIDIA. As plataformas suportadas são Linux e Jetson em GPUs NVIDIA, a entrada precisa ser mono e parte dos rótulos de treino foi gerada por um conjunto de outros modelos, incluindo o Whisper, então erros sistemáticos que eles compartilham podem ser herdados. Não há identificação de falantes.
Nossa opinião: Nemotron 3.5 ASR é o motor para colocar sob legendas ao vivo em espanhol, italiano, português ou hindi em escala; para gravações que podem esperar alguns segundos, um modelo offline vai errar bem menos.
Onde ele se destaca
Um engenheiro de plataforma numa empresa de software para centrais de atendimento
Dar aos atendentes uma transcrição contínua de cada ligação em espanhol, português e inglês
Sirva o modelo com o script de streaming com cache do NeMo em blocos de 560 ms ou 1.120 ms; a NVIDIA mediu 2.400 fluxos paralelos por H100 a 1.120 ms. Hospedado na DeepInfra, um milhão de minutos por mês custa cerca de US$ 200.
Um desenvolvedor criando um agente de voz para um banco indiano
Reconhecer clientes falando hindi e inglês rápido o bastante para uma troca de turnos natural
Rode a 80 ms ou 160 ms com target_lang=auto para que cada fala venha com etiqueta de idioma; o hindi marca 8,13% de WER a 80 ms com o idioma informado e 11,47% com detecção automática.
Uma equipe de ML numa emissora grega
Legendar telejornais ao vivo em grego
O grego está na faixa pronta para adaptação, então reserve orçamento para fine-tuning com transcrições próprias seguindo o guia da NVIDIA antes de ir ao ar; sem isso, o modelo não vai transcrevê-lo de forma confiável.
Antes de decidir
- Configuração
- Instale o NeMo pelo GitHub (Python 3.11+, libsndfile e ffmpeg), carregue nvidia/nemotron-3.5-asr-streaming-0.6b com from_pretrained e rode o script de streaming com cache com att_context_size e target_lang; ou o pipeline do transformers 5.13.0.
- Integrações
- NeMo, Hugging Face Transformers (offline e streaming), NeMo-Speech.cpp com um GGUF q8_0, NVIDIA Speech NIM; DeepInfra via OpenRouter para um endpoint hospedado.
- Dados e privacidade
- OpenMDW-1.1 permite uso comercial. Auto-hospedado, o áudio fica no seu hardware. O treino misturou conjuntos públicos, dados proprietários Riva da NVIDIA e rótulos gerados por outros modelos de ASR.
- Custo em escala
- Auto-hospedado, uma H100 aguentou 2.400 fluxos com 1.120 ms de latência no teste da NVIDIA. Na DeepInfra, a US$ 0,00000333 por segundo, um milhão de minutos custa cerca de US$ 200.
- Limites
- 32 variantes utilizáveis de cara e mais 8 após fine-tuning; entrada mono; Linux e GPUs NVIDIA; sem diarização; a precisão cai conforme o bloco diminui.
O que é bom
- 240 fluxos a 80 ms e 2.400 a 1.120 ms numa H100 nos testes da NVIDIA
- Latência escolhida na execução, de 80 a 1.120 ms
- 40 variantes de idioma num modelo, com etiqueta automática de idioma
- Licença permissiva OpenMDW-1.1; build GGUF para NeMo-Speech.cpp
- Cerca de US$ 0,20 por 1.000 minutos hospedado
O que não é
- 7,91% de WER em inglês no FLEURS no ajuste mais lento
- Idiomas de cobertura ampla têm média de 22,13% de WER
- 8 variantes precisam de fine-tuning antes de funcionar
- Só Linux e GPUs NVIDIA; áudio mono
- Sem identificação de falantes
Ideal para
Plataformas que rodam muitas sessões simultâneas de transcrição ao vivo ou de agentes de voz em GPUs NVIDIA.
Alternativas ao Nemotron 3.5 ASR Streaming 0.6B
Nemotron 3.5 ASR Streaming 0.6B: perguntas frequentes
- Nemotron 3.5 ASR Streaming 0.6B vale a pena?
- Nemotron 3.5 ASR Streaming foi feito para rodar centenas de legendas ao vivo numa GPU, e a precisão é o preço dessa densidade. Damos nota 3.9 de 5.
- Quanto custa Nemotron 3.5 ASR Streaming 0.6B?
- Gratuito sob OpenMDW-1.1. Hospedado pela DeepInfra no OpenRouter a US$ 0,00000333 por segundo de áudio, cerca de US$ 0,20 por 1.000 minutos.
- Quais são as desvantagens de Nemotron 3.5 ASR Streaming 0.6B?
- 7,91% de WER em inglês no FLEURS no ajuste mais lento; idiomas de cobertura ampla têm média de 22,13% de WER; 8 variantes precisam de fine-tuning antes de funcionar; só Linux e GPUs NVIDIA; áudio mono; sem identificação de falantes.
- Para quem Nemotron 3.5 ASR Streaming 0.6B é indicado?
- Plataformas que rodam muitas sessões simultâneas de transcrição ao vivo ou de agentes de voz em GPUs NVIDIA.
- Quanto custa Nemotron 3.5 ASR Streaming 0.6B para uma equipe ou em produção?
- Auto-hospedado, uma H100 aguentou 2.400 fluxos com 1.120 ms de latência no teste da NVIDIA. Na DeepInfra, a US$ 0,00000333 por segundo, um milhão de minutos custa cerca de US$ 200.
- Nemotron 3.5 ASR Streaming 0.6B é seguro para dados da empresa?
- OpenMDW-1.1 permite uso comercial. Auto-hospedado, o áudio fica no seu hardware. O treino misturou conjuntos públicos, dados proprietários Riva da NVIDIA e rótulos gerados por outros modelos de ASR.
- Quais são as melhores alternativas ao Nemotron 3.5 ASR Streaming 0.6B?
- As alternativas mais próximas que analisamos são NVIDIA Nemotron 3.5 Transcribe, MAI-Transcribe-2-Streaming, Qwen3-ASR (1.7B and 0.6B), Parakeet TDT 0.6B v3 e Voxtral 3 (Transcribe and TTS).
Respostas verificadas em 7 de nov. de 2026.