¿Qué es Decision-2.0-Nox-4B (vLLM Semantic Router)?
Decision-2.0-Nox-4B es el modelo de texto de 4B de Decision 2.0, los modelos de decisión del proyecto vLLM Semantic Router, publicado en Hugging Face el 29 de septiembre de 2026. Como Jev, no escribe texto: le envías una entrada (texto o JSON) y preguntas con nombre, y responde a la vez preguntas de elección, de sí/no y de puntuación en una sola pasada hacia delante, con una probabilidad para cada opción.
Es un ajuste fino de Qwen3.5-4B-Base con 4.210 millones de parámetros, un contexto de 16.384 tokens y pesos Apache 2.0. Solo lee texto. La ficha indica una mediana de 12,9 ms por petición de una sola pregunta en una GPU.
Diez días después, el mismo equipo publicó Decision 3.0, cuyo d3-mini de 4,5B también se basa en Qwen3.5-4B. Los d3 y d3-turbo, más grandes, de vLLM Semantic Router se analizan aparte.
¿Merece la pena Decision-2.0-Nox-4B (vLLM Semantic Router)?
Decision-2.0-Nox-4B es un modelo pequeño y sólido que llegó justo antes que su sustituto. En el Jev Decision Index 0.4.1 de la comunidad, con datos del 29 de octubre, obtiene 40,75 y ocupa el puesto 134 de 247 entradas. Eso supera a los dos modelos de 4B más comparables, JPT-4B con 39,56 y Decider 4B con 36,3, lo que coincide con la afirmación de la ficha de que lidera su categoría de tamaño. Pero la tabla también incluye el propio d3-mini de vLLM Semantic Router, un modelo de 4,5B sobre la misma base Qwen3.5-4B, con 49,97, y pplx-decider-flash-v1.2 de Perplexity con 54,29.
Las cifras de la ficha son autodeclaradas, pero están presentadas con cuidado: 63,6 en JevArena frente a 61,9 de Decider 4B, descrito como «estadísticamente igualado», 52,3 en 15 tareas etiquetadas por personas en las que Decider 4B va por delante con 55,5, y 43,8 en el Jev Decision Index según la ejecución propia del equipo del kit 0.2.1. El equipo dice que auditó sus datos de entrenamiento fila a fila frente a los elementos de prueba del índice, algo que pocas fichas de modelos de decisión afirman.
La calibración es su mejor cualidad. El índice comunitario mide un error de calibración esperado de 0,030, inferior al de Jev 1.13 (0,078), d3-mini (0,056) y Decider 4B (0,084). Sus probabilidades siguen la frecuencia con la que acierta, así que un umbral de confianza fijado con tus propios datos debería mantenerse. La velocidad impresiona menos de lo que sugiere la ficha: el índice registró una mediana de 33,5 ms en una RTX PRO 6000, frente a 12,6 ms de Decider 4B.
Solo lee texto y no tiene vía para imágenes, a diferencia de d3-mini o pplx-decider-flash. Para un despliegue nuevo solo de texto con licencia permisiva, d3-mini puntúa más alto con un tamaño similar; Nox sigue siendo una opción razonable cuando las probabilidades calibradas importan más que los últimos nueve puntos de precisión.
Dónde se gana su sitio
Un ingeniero de plataforma en una empresa de comercio electrónico de 50 personas
Dirigir los correos de soporte a los equipos de devoluciones, facturación o técnico en su propia GPU
Una sola llamada responde a la vez la elección de destino, un sí/no sobre recibos y una puntuación de urgencia. Su bajo error de calibración hace que una regla como «enrutar automáticamente por encima de 0,9; si no, a una persona» se comporte como se fijó; Apache 2.0 evita la revisión de licencias.
Un ingeniero de ML que sustituye a un juez LLM en un pipeline RAG
Puntuar si cada pasaje recuperado responde a la pregunta
Una pregunta de sí/no por pasaje devuelve una probabilidad sin generar texto, en una GPU. Mide primero la precisión con tu propio conjunto etiquetado: en el índice comunitario acierta alrededor del 66% de las veces en todas las áreas, y el 58% en preguntas de conocimiento.
Antes de decidirte
- Puesta en marcha
- pip install transformers 5.17 o posterior con torch y safetensors, carga con trust_remote_code=True y llama a model.system_one(state, questions); también se registra un pipeline «decision» de transformers.
- Integraciones
- Las preguntas usan el esquema System One (noul, choice, score) compartido por Jev, pplx-decider y d1 de Liquid, así que los arneses escritos para ellos funcionan sin cambios. Es la familia de modelos de decisión del proyecto vLLM Semantic Router.
- Datos y privacidad
- Solo autoalojado, así que las entradas se quedan en tu hardware. Apache 2.0 permite el uso comercial sin tope de ingresos.
- Coste a escala
- Sin precio de API; 4.210 millones de parámetros caben en una sola GPU, y el índice comunitario lo ejecutó en una RTX PRO 6000 con una mediana de 33,5 ms. Varias preguntas sobre una misma entrada comparten una sola pasada hacia delante.
- Límites
- Contexto de 16.384 tokens, solo texto y JSON, tres tipos de respuesta (sin números, cajas ni extracción). Más débil en las áreas de conocimiento (58% de precisión) y artes (50%) del índice comunitario.
Lo bueno
- Error de calibración esperado de 0,030 en el índice comunitario
- Apache 2.0 sin límite de ingresos
- Por delante de Decider 4B y JPT-4B en el índice comunitario
- Datos de entrenamiento auditados frente a los elementos de prueba del índice, según la ficha
Lo malo
- 9 puntos por detrás del propio d3-mini del equipo (49,97)
- Solo texto; sin imágenes
- Mediana de 33,5 ms en la ejecución comunitaria, no los 12,9 ms de la ficha
- Sin API alojada
Ideal para
Ingenieros que necesitan un clasificador de texto pequeño, autoalojado y con licencia permisiva cuyas probabilidades sean fiables para fijar umbrales.
Alternativas a Decision-2.0-Nox-4B (vLLM Semantic Router)
Decision-2.0-Nox-4B (vLLM Semantic Router): preguntas frecuentes
- ¿Merece la pena Decision-2.0-Nox-4B (vLLM Semantic Router)?
- Cifras honestas y buena calibración bajo Apache 2.0, pero con 40,75 en el índice comunitario queda nueve puntos por detrás del propio d3-mini del equipo. Le damos un 3.4 sobre 5.
- ¿Cuánto cuesta Decision-2.0-Nox-4B (vLLM Semantic Router)?
- Pesos gratuitos bajo Apache 2.0; no hay endpoint alojado para este modelo.
- ¿Qué inconvenientes tiene Decision-2.0-Nox-4B (vLLM Semantic Router)?
- 9 puntos por detrás del propio d3-mini del equipo (49,97); solo texto; sin imágenes; mediana de 33,5 ms en la ejecución comunitaria, no los 12,9 ms de la ficha; sin API alojada.
- ¿Para quién es Decision-2.0-Nox-4B (vLLM Semantic Router)?
- Ingenieros que necesitan un clasificador de texto pequeño, autoalojado y con licencia permisiva cuyas probabilidades sean fiables para fijar umbrales.
- ¿Cuánto cuesta Decision-2.0-Nox-4B (vLLM Semantic Router) para un equipo o en producción?
- Sin precio de API; 4.210 millones de parámetros caben en una sola GPU, y el índice comunitario lo ejecutó en una RTX PRO 6000 con una mediana de 33,5 ms. Varias preguntas sobre una misma entrada comparten una sola pasada hacia delante.
- ¿Es Decision-2.0-Nox-4B (vLLM Semantic Router) seguro para los datos de la empresa?
- Solo autoalojado, así que las entradas se quedan en tu hardware. Apache 2.0 permite el uso comercial sin tope de ingresos.
- ¿Cuáles son las mejores alternativas a Decision-2.0-Nox-4B (vLLM Semantic Router)?
- Las alternativas más cercanas que hemos analizado son Perplexity Decider (pplx-decider), d3-turbo (vLLM Semantic Router), d3 (vLLM Semantic Router), LFM3 y Jev.
Respuestas comprobadas el 31 oct 2026.