Qu’est-ce que Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) ?
Nemotron 3.5 Bolt est la famille de modèles ouverts de NVIDIA pour faire tourner des agents sur du matériel local. Le membre le plus grand, Bolt 74B-A9B 24GB, est apparu sur Hugging Face le 15 octobre 2026 aux côtés de Nemotron 3.5 Super VL. C'est Super VL compressé : une recherche d'architecture a réduit le parent 120B à 74 milliards de paramètres avec 9 milliards actifs par token, routant vers 9 experts au lieu de 22, avant un réentraînement sur 120 milliards de tokens et un apprentissage par renforcement pour l'usage d'outils. Ses experts sont stockés à 2,0625 bits par poids, si bien que le GGUF fait 22,02 GB plus un fichier de vision de 1,73 GB. Il lit le texte, les images et la vidéo mp4 jusqu'à deux minutes et a un contexte de 256K tokens.
Le membre plus petit, Bolt E4B 4GB, a suivi le 23 octobre. Il n'est pas du tout dérivé de Super VL : NVIDIA a post-entraîné le Gemma-4-E4B-it de Google par apprentissage par renforcement pour l'usage d'outils multi-tour, le suivi d'instructions et les courtes réponses parlées. Il a 8 milliards de paramètres (4 milliards effectifs), prend du texte uniquement, et a 64K tokens en entrée et en sortie. Son fichier Q4_K_M fait 6,18 GB sur le disque ; les 4GB de NVIDIA renvoient à la mémoire de pointe dans ses charges de travail cibles, qu'il a mesurée à 3,1 à 5,0 GB.
Les deux sont sous la licence OpenMDW-1.1 de NVIDIA, qui autorise l'usage commercial ; E4B est aussi lié aux conditions Apache 2.0 de Gemma 4.
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) vaut-il le coup ?
Bolt 74B-A9B porte la famille, et il a le chiffre indépendant qui manque à la plupart des modèles locaux. Artificial Analysis le note 21,4 sur son Intelligence Index, quatrième parmi les modèles de moins de 100B de paramètres et 1,5 point derrière Nemotron 3 Ultra, un modèle de 550B. Le propre tableau de NVIDIA est plus flatteur : 50,98 sur Terminal-Bench 2.1 contre 44,38 pour Qwen3.6-35B-A3B, et 66,75 sur BrowseComp contre 48,74. Il n'est pas devant partout même là : Gemma 4 26B-A4B le bat sur la précision AA-Omniscience (22,17 contre 16,90) et Qwen le devance de justesse sur PinchBench.
Le nom sur-vend le matériel. Le fichier de 22 GB et l'encodeur de vision de 1,73 GB ne laissent aucune place au cache sur une carte de 24 GB, et le propre tableau de déploiement de NVIDIA demande un GPU discret de 32 GB avec un contexte de 65 536 tokens, ou 48 GB pour les 262 144 tokens complets. Les GPU pris en charge sont Ada Lovelace et Blackwell uniquement, et chaque chiffre de vitesse vient d'un portable RTX Spark avec 128 GB de mémoire.
Il est aussi plus lent et plus bavard que ses rivaux. Le blog de NVIDIA rapporte 84 tokens par seconde avec le drafter spéculatif, contre 96,63 pour Qwen3.6-35B-A3B et 100,56 pour Gemma 4, et 600,80 secondes sur une tâche d'agent que les autres terminent en environ 454 et 481. Artificial Analysis a compté 82 000 tokens de sortie par tâche de l'index, 1,8 fois Super VL. Son avantage est la précision à une taille de mémoire, pas la vitesse.
E4B est un pari différent : un fine-tune de Gemma 4 pour les assistants vocaux et d'appareils. NVIDIA rapporte 84,79 sur IHEval, un test de hiérarchie d'instructions, contre 67,04 pour l'original Gemma, mais Qwen3.5 4B le bat sur Tau2-Bench (75,06 contre 55,10) et sur le rappel à 64K tokens. Sur une RTX 5070, il a mesuré 548 ms jusqu'au premier token et 133,4 tokens par seconde ; sur un Jetson Orin Nano, l'attente est de 5,8 secondes, trop lente pour la parole en direct. Chaque score E4B est celui de NVIDIA, exécuté dans son harnais NeMo Gym.
Là où il fait la différence
Un développeur avec un GPU de station de travail NVIDIA de 32 GB
Faire tourner un agent de navigation et de terminal en local avec des captures d'écran dans le contexte
Utiliser la recette de 28 GB de NVIDIA : llama.cpp compilé depuis les sources, un contexte de 65 536 tokens, un cache KV q8_0 et le drafter DFlash de 1 GB. NVIDIA rapporte 66,75 sur BrowseComp et 50,98 sur Terminal-Bench 2.1, mais attendez-vous à des exécutions plus longues que Qwen3.6-35B-A3B.
Une équipe robotique qui construit un assistant parlant sur Jetson
Donner à un appareil des réponses parlées et à usage d'outils sans aller-retour cloud
Faire tourner la version Q4_K_M d'E4B avec le mode conversationnel activé et un budget de réflexion. NVIDIA a mesuré 4,2 à 5,0 GB de mémoire et 13 à 15,5 tokens par seconde sur un Jetson Orin Nano, avec 5,8 secondes jusqu'au premier token, si bien qu'un Jetson AGX Orin ou une carte RTX convient mieux à la parole en direct.
Un chef de produit dans une entreprise de logiciels PC
Livrer un assistant sur l'appareil sous une licence que le juridique validera
OpenMDW-1.1 accorde des droits sans restriction, sans plafond de revenus ni politique d'usage ; seule la redistribution exige l'inclusion de la licence et des mentions. E4B ajoute les conditions Apache 2.0 de Gemma 4. Le hic est le matériel : les deux visent les GPU NVIDIA uniquement.
Avant de vous engager
- Mise en route
- Compilez le dernier llama.cpp depuis les sources avec CUDA, téléchargez le GGUF de 22,02 GB, le fichier de vision de 1,73 GB et le drafter de 1 GB, et lancez llama-server avec la recette de 28 GB ou 32 GB de NVIDIA. E4B tourne depuis un conteneur CUDA llama.cpp préconstruit avec un fichier de 6,18 GB.
- Intégrations
- Chat completions compatibles OpenAI avec appels d'outils, sortie JSON et un commutateur enable_thinking. E4B ajoute un mode conversationnel, un budget de réflexion au runtime et l'appel d'outils asynchrone ; des drafters DFlash existent pour les deux.
- Données et confidentialité
- Auto-hébergé, si bien que les données restent en local. OpenMDW-1.1 autorise l'usage commercial sans plafond de revenus ; les droits prennent fin si vous poursuivez sur un brevet ou un droit d'auteur dans le modèle. NVIDIA publie ses jeux de données de pré- et post-entraînement mais liste beaucoup de sources comme privées.
- Coût à grande échelle
- Les poids sont gratuits et Artificial Analysis ne liste aucun prix à l'usage pour le 74B. Matériel : un GPU de 32 GB pour un contexte de 65K ou 48 GB pour 262K sur le 74B ; E4B culmine à 3,1 à 5,0 GB sur les tests de NVIDIA, d'une RTX 5070 à un Jetson Orin.
- Limites
- 74B : Ada Lovelace et Blackwell uniquement, Windows et Linux, vidéo jusqu'à deux minutes, usage élevé de tokens. E4B : texte uniquement, contexte de 64K, et 5,8 secondes jusqu'au premier token sur un Jetson Orin Nano.
Les points forts
- 21,4 sur l'index d'Artificial Analysis, quatrième sous 100B
- Entrée d'image et de vidéo de deux minutes dans un fichier de 22 GB
- OpenMDW-1.1 : usage commercial, pas de plafond de revenus
- E4B : 548 ms jusqu'au premier token sur une RTX 5070 (NVIDIA)
Les points faibles
- Le 74B a besoin d'un GPU de 32 GB, malgré le nom
- Plus lent que Qwen3.6-35B-A3B et Gemma 4 sur les propres tests de NVIDIA
- 82K tokens de sortie par tâche de l'index AA
- E4B derrière Qwen3.5 4B sur Tau2-Bench et le long contexte
Idéal pour
Les ingénieurs avec un GPU NVIDIA de 32 GB ou plus, ou un RTX ou DGX Spark, qui veulent un modèle d'agent multimodal local capable, et les fabricants d'appareils qui construisent des assistants vocaux sur Jetson ou RTX.
Alternatives à Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) : questions fréquentes
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) vaut-il le coup ?
- Le 74B place un score du top cinq sous 100B sur un seul GPU de station de travail, mais les 24 Go de son nom sont un budget de poids, pas la carte dont vous avez besoin. Nous lui donnons 3.9 sur 5.
- Combien coûte Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) ?
- Poids ouverts gratuits sous OpenMDW-1.1. Aucun prix d'API à l'usage publié pour l'un ou l'autre modèle ; E4B a un endpoint build.nvidia.com.
- Quels sont les inconvénients de Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) ?
- Le 74B a besoin d'un GPU de 32 GB, malgré le nom; plus lent que Qwen3.6-35B-A3B et Gemma 4 sur les propres tests de NVIDIA; 82K tokens de sortie par tâche de l'index AA; e4B derrière Qwen3.5 4B sur Tau2-Bench et le long contexte.
- À qui s’adresse Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) ?
- Les ingénieurs avec un GPU NVIDIA de 32 GB ou plus, ou un RTX ou DGX Spark, qui veulent un modèle d'agent multimodal local capable, et les fabricants d'appareils qui construisent des assistants vocaux sur Jetson ou RTX.
- Combien coûte Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) pour une équipe ou en production ?
- Les poids sont gratuits et Artificial Analysis ne liste aucun prix à l'usage pour le 74B. Matériel : un GPU de 32 GB pour un contexte de 65K ou 48 GB pour 262K sur le 74B ; E4B culmine à 3,1 à 5,0 GB sur les tests de NVIDIA, d'une RTX 5070 à un Jetson Orin.
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) est-il sûr pour les données de l’entreprise ?
- Auto-hébergé, si bien que les données restent en local. OpenMDW-1.1 autorise l'usage commercial sans plafond de revenus ; les droits prennent fin si vous poursuivez sur un brevet ou un droit d'auteur dans le modèle. NVIDIA publie ses jeux de données de pré- et post-entraînement mais liste beaucoup de sources comme privées.
- Quelles sont les meilleures alternatives à Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) ?
- Les alternatives les plus proches que nous avons testées sont Nemotron 3.5 Super VL, Gemma 4, Underdog Saluki 27B 1.0 et Qwen3.8-27B.
Réponses vérifiées le 28 oct. 2026.