O que é Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
O Nemotron 3.5 Bolt é a família de modelos abertos da NVIDIA para rodar agentes em hardware local. O membro maior, Bolt 74B-A9B 24GB, apareceu no Hugging Face em 15 de outubro de 2026, junto com o Nemotron 3.5 Super VL. Ele é o Super VL comprimido: uma busca de arquitetura reduziu o modelo pai de 120B a 74 bilhões de parâmetros, com 9 bilhões ativos por token, roteando para 9 especialistas em vez de 22, antes de um retreino com 120 bilhões de tokens e aprendizado por reforço para uso de ferramentas. Seus especialistas são armazenados a 2,0625 bits por peso, então o GGUF tem 22,02 GB mais um arquivo de visão de 1,73 GB. Ele lê texto, imagens e vídeo mp4 de até dois minutos e tem contexto de 256K tokens.
O membro menor, Bolt E4B 4GB, veio em 23 de outubro. Ele não deriva do Super VL: a NVIDIA fez o pós-treino do Gemma-4-E4B-it do Google com aprendizado por reforço para uso de ferramentas em vários turnos, seguimento de instruções e respostas faladas curtas. Ele tem 8 bilhões de parâmetros (4 bilhões efetivos), aceita só texto e tem 64K tokens de entrada e de saída. Seu arquivo Q4_K_M ocupa 6,18 GB em disco; os 4GB da NVIDIA se referem ao pico de memória nas cargas de trabalho-alvo, que ela mediu entre 3,1 e 5,0 GB.
Os dois estão sob a licença OpenMDW-1.1 da NVIDIA, que permite uso comercial; o E4B também está sujeito aos termos Apache 2.0 do Gemma 4.
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) vale a pena?
O Bolt 74B-A9B carrega a família e tem o número independente que falta à maioria dos modelos locais. A Artificial Analysis lhe dá 21,4 no seu Intelligence Index, quarto entre os modelos com menos de 100B parâmetros e 1,5 ponto atrás do Nemotron 3 Ultra, um modelo de 550B. A tabela da própria NVIDIA é mais lisonjeira: 50,98 no Terminal-Bench 2.1 contra 44,38 do Qwen3.6-35B-A3B, e 66,75 no BrowseComp contra 48,74. Mesmo ali ele não está à frente em tudo: o Gemma 4 26B-A4B o supera na precisão do AA-Omniscience (22,17 a 16,90) e o Qwen fica ligeiramente à frente no PinchBench.
O nome exagera o hardware. O arquivo de 22 GB e o codificador de visão de 1,73 GB não deixam espaço para cache em uma placa de 24 GB, e a própria tabela de implantação da NVIDIA pede uma GPU dedicada de 32 GB com contexto de 65.536 tokens, ou 48 GB para os 262.144 tokens completos. As GPUs suportadas são só Ada Lovelace e Blackwell, e todos os números de velocidade vêm de um laptop RTX Spark com 128 GB de memória.
Ele também é mais lento e mais prolixo que os rivais. O blog da NVIDIA informa 84 tokens por segundo com o drafter especulativo, contra 96,63 do Qwen3.6-35B-A3B e 100,56 do Gemma 4, e 600,80 segundos em uma tarefa de agente que os outros terminam em cerca de 454 e 481. A Artificial Analysis contou 82.000 tokens de saída por tarefa do índice, 1,8 vez o Super VL. Sua vantagem é a precisão para um dado tamanho de memória, não a velocidade.
O E4B é outra aposta: um fine-tune do Gemma 4 para assistentes de voz e de dispositivos. A NVIDIA informa 84,79 no IHEval, um teste de hierarquia de instruções, contra 67,04 do Gemma original, mas o Qwen3.5 4B o supera no Tau2-Bench (75,06 a 55,10) e na recuperação com 64K tokens. Em uma RTX 5070, ela mediu 548 ms até o primeiro token e 133,4 tokens por segundo; em uma Jetson Orin Nano, a espera é de 5,8 segundos, lenta demais para fala ao vivo. Todas as pontuações do E4B são da própria NVIDIA, rodadas no seu harness NeMo Gym.
Onde ele se destaca
Um desenvolvedor com uma GPU de workstation NVIDIA de 32 GB
Rodar localmente um agente de navegação e terminal com capturas de tela no contexto
Use a receita de 28 GB da NVIDIA: llama.cpp compilado do código-fonte, contexto de 65.536 tokens, KV cache q8_0 e o drafter DFlash de 1 GB. A NVIDIA informa 66,75 no BrowseComp e 50,98 no Terminal-Bench 2.1, mas conte com execuções mais longas que as do Qwen3.6-35B-A3B.
Uma equipe de robótica que constrói um assistente falante em Jetson
Dar a um dispositivo respostas faladas e com uso de ferramentas sem ida e volta à nuvem
Rode o build Q4_K_M do E4B com o modo conversacional ligado e um orçamento de raciocínio. A NVIDIA mediu de 4,2 a 5,0 GB de memória e de 13 a 15,5 tokens por segundo em uma Jetson Orin Nano, com 5,8 segundos até o primeiro token, então uma Jetson AGX Orin ou uma placa RTX serve melhor para fala ao vivo.
Um líder de produto em uma empresa de software para PC
Lançar um assistente no dispositivo sob uma licença que o jurídico aprove
A OpenMDW-1.1 concede direitos sem restrição, sem teto de receita nem política de uso; só a redistribuição exige incluir a licença e os avisos. O E4B acrescenta os termos Apache 2.0 do Gemma 4. O porém é o hardware: os dois miram apenas GPUs NVIDIA.
Antes de decidir
- Configuração
- Compile o llama.cpp mais recente do código-fonte com CUDA, baixe o GGUF de 22,02 GB, o arquivo de visão de 1,73 GB e o drafter de 1 GB, e inicie o llama-server com a receita de 28 GB ou 32 GB da NVIDIA. O E4B roda a partir de um contêiner CUDA pronto do llama.cpp, com um arquivo de 6,18 GB.
- Integrações
- Chat completions compatível com OpenAI, com chamadas de ferramenta, saída JSON e uma chave enable_thinking. O E4B acrescenta modo conversacional, um orçamento de raciocínio em tempo de execução e chamadas de ferramenta assíncronas; existem drafters DFlash para os dois.
- Dados e privacidade
- Self-hosting, então os dados ficam locais. A OpenMDW-1.1 permite uso comercial sem teto de receita; os direitos terminam se você processar alguém por patente ou direito autoral no modelo. A NVIDIA publica seus datasets de pré e pós-treino, mas lista muitas fontes como privadas.
- Custo em escala
- Os pesos são gratuitos e a Artificial Analysis não lista preço por uso para o 74B. Hardware: uma GPU de 32 GB para 65K de contexto ou de 48 GB para 262K no 74B; o E4B tem pico de 3,1 a 5,0 GB nos testes da NVIDIA, de uma RTX 5070 a uma Jetson Orin.
- Limites
- 74B: só Ada Lovelace e Blackwell, Windows e Linux, vídeo de até dois minutos, alto consumo de tokens. E4B: só texto, contexto de 64K e 5,8 segundos até o primeiro token em uma Jetson Orin Nano.
O que é bom
- 21,4 no índice da Artificial Analysis, quarto abaixo de 100B
- Entrada de imagem e de vídeo de dois minutos em um arquivo de 22 GB
- OpenMDW-1.1: uso comercial, sem teto de receita
- E4B: 548 ms até o primeiro token em uma RTX 5070 (NVIDIA)
O que não é
- O 74B precisa de uma GPU de 32 GB, apesar do nome
- Mais lento que o Qwen3.6-35B-A3B e o Gemma 4 nos próprios testes da NVIDIA
- 82K tokens de saída por tarefa do índice da AA
- O E4B fica atrás do Qwen3.5 4B no Tau2-Bench e em contexto longo
Ideal para
Engenheiros com uma GPU NVIDIA de 32 GB ou mais, ou um RTX ou DGX Spark, que querem um modelo local multimodal competente para agentes, e fabricantes de dispositivos que constroem assistentes de voz em Jetson ou RTX.
Alternativas ao Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB): perguntas frequentes
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) vale a pena?
- O 74B leva uma pontuação entre as cinco melhores abaixo de 100B a uma única GPU de workstation, mas os 24GB do nome são um orçamento de pesos, não a placa de que você precisa. Damos nota 3.9 de 5.
- Quanto custa Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- Pesos abertos gratuitos sob OpenMDW-1.1. Nenhum preço de API por uso publicado para nenhum dos dois; o E4B tem um endpoint no build.nvidia.com.
- Quais são as desvantagens de Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- O 74B precisa de uma GPU de 32 GB, apesar do nome; mais lento que o Qwen3.6-35B-A3B e o Gemma 4 nos próprios testes da NVIDIA; 82K tokens de saída por tarefa do índice da AA; o E4B fica atrás do Qwen3.5 4B no Tau2-Bench e em contexto longo.
- Para quem Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) é indicado?
- Engenheiros com uma GPU NVIDIA de 32 GB ou mais, ou um RTX ou DGX Spark, que querem um modelo local multimodal competente para agentes, e fabricantes de dispositivos que constroem assistentes de voz em Jetson ou RTX.
- Quanto custa Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) para uma equipe ou em produção?
- Os pesos são gratuitos e a Artificial Analysis não lista preço por uso para o 74B. Hardware: uma GPU de 32 GB para 65K de contexto ou de 48 GB para 262K no 74B; o E4B tem pico de 3,1 a 5,0 GB nos testes da NVIDIA, de uma RTX 5070 a uma Jetson Orin.
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) é seguro para dados da empresa?
- Self-hosting, então os dados ficam locais. A OpenMDW-1.1 permite uso comercial sem teto de receita; os direitos terminam se você processar alguém por patente ou direito autoral no modelo. A NVIDIA publica seus datasets de pré e pós-treino, mas lista muitas fontes como privadas.
- Quais são as melhores alternativas ao Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- As alternativas mais próximas que analisamos são Nemotron 3.5 Super VL, Gemma 4, Underdog Saluki 27B 1.0 e Qwen3.8-27B.
Respostas verificadas em 28 de out. de 2026.