O que é Decision-2.0-Nox-4B (vLLM Semantic Router)?
Decision-2.0-Nox-4B é o modelo de texto de 4B do Decision 2.0, os modelos de decisão do projeto vLLM Semantic Router, publicado no Hugging Face em 29 de setembro de 2026. Assim como o Jev, ele não escreve texto: você envia uma entrada (texto ou JSON) e perguntas nomeadas, e ele responde a perguntas de escolha, de sim/não e de nota juntas em uma única passagem forward, com uma probabilidade para cada opção.
É um fine-tune do Qwen3.5-4B-Base com 4,21 bilhões de parâmetros, contexto de 16.384 tokens e pesos Apache 2.0. Ele lê só texto. O card informa uma mediana de 12,9 ms por requisição de uma pergunta em uma GPU.
Dez dias depois, a mesma equipe publicou o Decision 3.0, cujo d3-mini de 4,5B também é construído sobre o Qwen3.5-4B. Os modelos maiores do vLLM Semantic Router, d3 e d3-turbo, têm análises separadas.
Decision-2.0-Nox-4B (vLLM Semantic Router) vale a pena?
O Decision-2.0-Nox-4B é um modelo pequeno e sólido que chegou logo antes do seu substituto. No Jev Decision Index 0.4.1 da comunidade, com dados de 29 de outubro, ele marca 40,75 e fica em 134º de 247 entradas. Isso supera os dois modelos de 4B mais comparáveis, o JPT-4B com 39,56 e o Decider 4B com 36,3, o que confirma a afirmação do card de que ele lidera sua faixa de tamanho. Mas o ranking também lista o próprio d3-mini do vLLM Semantic Router, um modelo de 4,5B na mesma base Qwen3.5-4B, com 49,97, e o pplx-decider-flash-v1.2 da Perplexity com 54,29.
Os números do card são autodeclarados, mas apresentados com cuidado: 63,6 no JevArena contra 61,9 do Decider 4B, descrito como "estatisticamente empatado", 52,3 em 15 tarefas rotuladas por humanos, em que o Decider 4B fica à frente com 55,5, e 43,8 no Jev Decision Index em uma execução da própria equipe com o kit 0.2.1. A equipe diz ter auditado os dados de treinamento linha por linha contra os itens de teste do índice, o que é mais do que a maioria dos cards de modelos de decisão afirma.
A calibração é sua melhor qualidade. O índice da comunidade mede um erro de calibração esperado de 0,030, menor que o do Jev 1.13 (0,078), do d3-mini (0,056) e do Decider 4B (0,084). Suas probabilidades acompanham a frequência com que ele acerta, então um limiar de confiança definido nos seus próprios dados deve se manter. A velocidade impressiona menos do que o card sugere: o índice registrou uma mediana de 33,5 ms em uma RTX PRO 6000, contra 12,6 ms do Decider 4B.
Ele lê só texto e não tem caminho para imagens, ao contrário do d3-mini ou do pplx-decider-flash. Para uma nova implantação só de texto sob licença permissiva, o d3-mini pontua mais com tamanho semelhante; o Nox continua uma escolha razoável onde probabilidades calibradas importam mais que os últimos nove pontos de precisão.
Onde ele se destaca
Um engenheiro de plataforma em uma empresa de e-commerce de 50 pessoas
Encaminhar e-mails de suporte para as equipes de devoluções, cobrança ou suporte técnico na própria GPU
Uma chamada responde juntas a escolha de encaminhamento, um sim/não sobre recibos e uma nota de urgência. O baixo erro de calibração significa que uma regra como "encaminhar automaticamente acima de 0,9, senão mandar para uma pessoa" funciona como configurada; o Apache 2.0 dispensa revisão de licença.
Um engenheiro de ML substituindo um LLM avaliador em um pipeline de RAG
Pontuar se cada passagem recuperada responde à pergunta
Uma pergunta de sim/não por passagem devolve uma probabilidade sem gerar texto, em uma GPU. Meça a precisão no seu próprio conjunto rotulado primeiro: no índice da comunidade ele acerta cerca de 66% das vezes em todas as áreas, e 58% nas perguntas de conhecimento.
Antes de decidir
- Configuração
- pip install transformers 5.17 ou posterior com torch e safetensors, carregue com trust_remote_code=True e chame model.system_one(state, questions); um pipeline "decision" do transformers também é registrado.
- Integrações
- As perguntas usam o schema System One (noul, choice, score), compartilhado por Jev, pplx-decider e o d1 da Liquid, então harnesses escritos para eles funcionam sem mudanças. É a família de modelos de decisão do projeto vLLM Semantic Router.
- Dados e privacidade
- Só auto-hospedado, então as entradas ficam no seu hardware. O Apache 2.0 permite uso comercial sem teto de receita.
- Custo em escala
- Sem preço de API; 4,21 bilhões de parâmetros rodam em uma única GPU, e o índice da comunidade o rodou em uma RTX PRO 6000 com mediana de 33,5 ms. Várias perguntas sobre uma mesma entrada compartilham uma única passagem forward.
- Limites
- Contexto de 16.384 tokens, só texto e JSON, três tipos de resposta (sem números, caixas ou extração). Mais fraco nas áreas de conhecimento (58% de precisão) e artes (50%) do índice da comunidade.
O que é bom
- Erro de calibração esperado de 0,030 no índice da comunidade
- Apache 2.0 sem limite de receita
- À frente do Decider 4B e do JPT-4B no índice da comunidade
- Dados de treinamento auditados contra os itens de teste do índice, segundo o card
O que não é
- 9 pontos atrás do d3-mini da própria equipe (49,97)
- Só texto; sem imagens
- Mediana de 33,5 ms na execução da comunidade, não os 12,9 ms do card
- Sem API hospedada
Ideal para
Engenheiros que precisam de um classificador de texto pequeno, auto-hospedado e com licença permissiva, cujas probabilidades sejam confiáveis para limiares.
Alternativas ao Decision-2.0-Nox-4B (vLLM Semantic Router)
Decision-2.0-Nox-4B (vLLM Semantic Router): perguntas frequentes
- Decision-2.0-Nox-4B (vLLM Semantic Router) vale a pena?
- Números honestos e boa calibração sob Apache 2.0, mas com 40,75 no índice da comunidade ele fica nove pontos atrás do d3-mini da própria equipe. Damos nota 3.4 de 5.
- Quanto custa Decision-2.0-Nox-4B (vLLM Semantic Router)?
- Pesos gratuitos sob Apache 2.0; não há endpoint hospedado para este modelo.
- Quais são as desvantagens de Decision-2.0-Nox-4B (vLLM Semantic Router)?
- 9 pontos atrás do d3-mini da própria equipe (49,97); só texto; sem imagens; mediana de 33,5 ms na execução da comunidade, não os 12,9 ms do card; sem API hospedada.
- Para quem Decision-2.0-Nox-4B (vLLM Semantic Router) é indicado?
- Engenheiros que precisam de um classificador de texto pequeno, auto-hospedado e com licença permissiva, cujas probabilidades sejam confiáveis para limiares.
- Quanto custa Decision-2.0-Nox-4B (vLLM Semantic Router) para uma equipe ou em produção?
- Sem preço de API; 4,21 bilhões de parâmetros rodam em uma única GPU, e o índice da comunidade o rodou em uma RTX PRO 6000 com mediana de 33,5 ms. Várias perguntas sobre uma mesma entrada compartilham uma única passagem forward.
- Decision-2.0-Nox-4B (vLLM Semantic Router) é seguro para dados da empresa?
- Só auto-hospedado, então as entradas ficam no seu hardware. O Apache 2.0 permite uso comercial sem teto de receita.
- Quais são as melhores alternativas ao Decision-2.0-Nox-4B (vLLM Semantic Router)?
- As alternativas mais próximas que analisamos são Perplexity Decider (pplx-decider), d3-turbo (vLLM Semantic Router), d3 (vLLM Semantic Router), LFM3 e Jev.
Respostas verificadas em 31 de out. de 2026.