¿Qué es Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
Nemotron 3.5 Bolt es la familia de modelos abiertos de NVIDIA para ejecutar agentes en hardware local. El miembro mayor, Bolt 74B-A9B 24GB, apareció en Hugging Face el 15 de octubre de 2026 junto con Nemotron 3.5 Super VL. Es Super VL comprimido: una búsqueda de arquitectura redujo el modelo padre de 120B a 74.000 millones de parámetros, con 9.000 millones activos por token y enrutamiento a 9 expertos en lugar de 22, antes de volver a entrenarlo con 120.000 millones de tokens y con aprendizaje por refuerzo para el uso de herramientas. Sus expertos se almacenan a 2,0625 bits por peso, así que el GGUF ocupa 22,02 GB más un archivo de visión de 1,73 GB. Lee texto, imágenes y vídeo mp4 de hasta dos minutos y tiene un contexto de 256K tokens.
El miembro menor, Bolt E4B 4GB, llegó el 23 de octubre. No deriva de Super VL en absoluto: NVIDIA hizo el postentrenamiento de Gemma-4-E4B-it de Google con aprendizaje por refuerzo para el uso de herramientas en varios turnos, el seguimiento de instrucciones y las respuestas habladas breves. Tiene 8.000 millones de parámetros (4.000 millones efectivos), solo admite texto y tiene 64K tokens de entrada y de salida. Su archivo Q4_K_M ocupa 6,18 GB en disco; los 4GB de NVIDIA se refieren al pico de memoria en sus cargas de trabajo objetivo, que midió entre 3,1 y 5,0 GB.
Ambos están bajo la licencia OpenMDW-1.1 de NVIDIA, que permite el uso comercial; E4B también está sujeto a los términos Apache 2.0 de Gemma 4.
¿Merece la pena Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
Bolt 74B-A9B sostiene la familia y tiene la cifra independiente que falta a la mayoría de los modelos locales. Artificial Analysis le da 21,4 en su Intelligence Index, cuarto entre los modelos de menos de 100B parámetros y 1,5 puntos por detrás de Nemotron 3 Ultra, un modelo de 550B. La tabla de NVIDIA es más favorable: 50,98 en Terminal-Bench 2.1 frente a 44,38 de Qwen3.6-35B-A3B, y 66,75 en BrowseComp frente a 48,74. Ni siquiera ahí va por delante en todo: Gemma 4 26B-A4B lo supera en precisión en AA-Omniscience (22,17 a 16,90) y Qwen lo adelanta por poco en PinchBench.
El nombre exagera en cuanto al hardware. El archivo de 22 GB y el codificador de visión de 1,73 GB no dejan sitio para la caché en una tarjeta de 24 GB, y la propia tabla de despliegue de NVIDIA pide una GPU dedicada de 32 GB con un contexto de 65.536 tokens, o de 48 GB para los 262.144 tokens completos. Solo admite GPU Ada Lovelace y Blackwell, y todas las cifras de velocidad salen de un portátil RTX Spark con 128 GB de memoria.
También es más lento y más prolijo que sus rivales. El blog de NVIDIA indica 84 tokens por segundo con el modelo borrador especulativo, frente a 96,63 de Qwen3.6-35B-A3B y 100,56 de Gemma 4, y 600,80 segundos en una tarea de agente que los otros terminan en unos 454 y 481. Artificial Analysis contó 82.000 tokens de salida por tarea del índice, 1,8 veces los de Super VL. Su ventaja es la precisión para un tamaño de memoria, no la velocidad.
E4B es otra apuesta: un ajuste fino de Gemma 4 para asistentes de voz y de dispositivo. NVIDIA indica 84,79 en IHEval, una prueba de jerarquía de instrucciones, frente a 67,04 del Gemma original, pero Qwen3.5 4B lo supera en Tau2-Bench (75,06 a 55,10) y en recuperación a 64K tokens. En una RTX 5070 midió 548 ms hasta el primer token y 133,4 tokens por segundo; en una Jetson Orin Nano la espera es de 5,8 segundos, demasiado lenta para voz en directo. Todas las puntuaciones de E4B son de la propia NVIDIA, obtenidas con su entorno NeMo Gym.
Dónde se gana su sitio
Un desarrollador con una GPU de estación de trabajo NVIDIA de 32 GB
Ejecutar en local un agente de navegación y terminal con capturas de pantalla en el contexto
Usa la receta de 28 GB de NVIDIA: llama.cpp compilado desde el código fuente, un contexto de 65.536 tokens, caché KV q8_0 y el borrador DFlash de 1 GB. NVIDIA indica 66,75 en BrowseComp y 50,98 en Terminal-Bench 2.1, pero cuenta con ejecuciones más largas que con Qwen3.6-35B-A3B.
Un equipo de robótica que crea un asistente que habla sobre Jetson
Dar a un dispositivo respuestas habladas que usan herramientas sin pasar por la nube
Ejecuta la versión Q4_K_M de E4B con el modo conversacional activado y un presupuesto de razonamiento. NVIDIA midió entre 4,2 y 5,0 GB de memoria y entre 13 y 15,5 tokens por segundo en una Jetson Orin Nano, con 5,8 segundos hasta el primer token, así que una Jetson AGX Orin o una tarjeta RTX se adaptan mejor a la voz en directo.
Un responsable de producto en una empresa de software para PC
Lanzar un asistente en el dispositivo con una licencia que el departamento legal apruebe
OpenMDW-1.1 concede derechos sin restricciones, sin límite de ingresos ni política de uso; solo la redistribución exige incluir la licencia y los avisos. E4B añade los términos Apache 2.0 de Gemma 4. La pega es el hardware: ambos están pensados solo para GPU de NVIDIA.
Antes de decidirte
- Puesta en marcha
- Compila la última versión de llama.cpp desde el código fuente con CUDA, descarga el GGUF de 22,02 GB, el archivo de visión de 1,73 GB y el borrador de 1 GB, y arranca llama-server con la receta de 28 GB o de 32 GB de NVIDIA. E4B funciona desde un contenedor CUDA precompilado de llama.cpp con un archivo de 6,18 GB.
- Integraciones
- Chat completions compatibles con OpenAI con llamadas a herramientas, salida JSON y un interruptor enable_thinking. E4B añade modo conversacional, un presupuesto de razonamiento en tiempo de ejecución y llamadas a herramientas asíncronas; hay borradores DFlash para ambos.
- Datos y privacidad
- Autoalojado, así que los datos se quedan en local. OpenMDW-1.1 permite el uso comercial sin límite de ingresos; los derechos se pierden si demandas por patentes o derechos de autor sobre el modelo. NVIDIA publica sus conjuntos de datos de preentrenamiento y postentrenamiento, pero indica muchas fuentes como privadas.
- Coste a escala
- Los pesos son gratis y Artificial Analysis no indica precio por uso para el 74B. Hardware: una GPU de 32 GB para 65K de contexto o de 48 GB para 262K en el 74B; E4B alcanza un pico de entre 3,1 y 5,0 GB en las pruebas de NVIDIA, desde una RTX 5070 hasta Jetson Orin.
- Límites
- 74B: solo Ada Lovelace y Blackwell, Windows y Linux, vídeo de hasta dos minutos y alto consumo de tokens. E4B: solo texto, 64K de contexto y 5,8 segundos hasta el primer token en una Jetson Orin Nano.
Lo bueno
- 21,4 en el índice de Artificial Analysis, cuarto por debajo de 100B
- Entrada de imagen y de vídeo de dos minutos en un archivo de 22 GB
- OpenMDW-1.1: uso comercial, sin límite de ingresos
- E4B: 548 ms hasta el primer token en una RTX 5070 (NVIDIA)
Lo malo
- El 74B necesita una GPU de 32 GB, pese al nombre
- Más lento que Qwen3.6-35B-A3B y Gemma 4 en las propias pruebas de NVIDIA
- 82K tokens de salida por tarea del índice de AA
- E4B queda por detrás de Qwen3.5 4B en Tau2-Bench y en contexto largo
Ideal para
Ingenieros con una GPU de NVIDIA de 32 GB o más, o con un RTX o DGX Spark, que quieren un modelo de agente multimodal local capaz, y fabricantes de dispositivos que crean asistentes de voz en Jetson o RTX.
Alternativas a Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB): preguntas frecuentes
- ¿Merece la pena Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- El 74B lleva una puntuación de los cinco primeros por debajo de 100B a una sola GPU de estación de trabajo, pero los 24GB de su nombre son un presupuesto para los pesos, no la tarjeta que necesitas. Le damos un 3.9 sobre 5.
- ¿Cuánto cuesta Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- Pesos abiertos gratuitos bajo OpenMDW-1.1. No se ha publicado precio de API por uso para ninguno de los dos modelos; E4B tiene un endpoint en build.nvidia.com.
- ¿Qué inconvenientes tiene Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- El 74B necesita una GPU de 32 GB, pese al nombre; más lento que Qwen3.6-35B-A3B y Gemma 4 en las propias pruebas de NVIDIA; 82K tokens de salida por tarea del índice de AA; e4B queda por detrás de Qwen3.5 4B en Tau2-Bench y en contexto largo.
- ¿Para quién es Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- Ingenieros con una GPU de NVIDIA de 32 GB o más, o con un RTX o DGX Spark, que quieren un modelo de agente multimodal local capaz, y fabricantes de dispositivos que crean asistentes de voz en Jetson o RTX.
- ¿Cuánto cuesta Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) para un equipo o en producción?
- Los pesos son gratis y Artificial Analysis no indica precio por uso para el 74B. Hardware: una GPU de 32 GB para 65K de contexto o de 48 GB para 262K en el 74B; E4B alcanza un pico de entre 3,1 y 5,0 GB en las pruebas de NVIDIA, desde una RTX 5070 hasta Jetson Orin.
- ¿Es Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB) seguro para los datos de la empresa?
- Autoalojado, así que los datos se quedan en local. OpenMDW-1.1 permite el uso comercial sin límite de ingresos; los derechos se pierden si demandas por patentes o derechos de autor sobre el modelo. NVIDIA publica sus conjuntos de datos de preentrenamiento y postentrenamiento, pero indica muchas fuentes como privadas.
- ¿Cuáles son las mejores alternativas a Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)?
- Las alternativas más cercanas que hemos analizado son Nemotron 3.5 Super VL, Gemma 4, Underdog Saluki 27B 1.0 y Qwen3.8-27B.
Respuestas comprobadas el 28 oct 2026.