Qu’est-ce que Decision-2.0-Nox-4B (vLLM Semantic Router) ?
Decision-2.0-Nox-4B est le modèle texte de 4B de Decision 2.0, les modèles de décision du projet vLLM Semantic Router, publié sur Hugging Face le 29 septembre 2026. Comme Jev, il n'écrit pas de texte : vous envoyez une entrée (texte ou JSON) et des questions nommées, et il répond ensemble aux questions de choix, de oui/non et de score en une seule passe avant, avec une probabilité pour chaque option.
C'est un fine-tune de Qwen3.5-4B-Base avec 4,21 milliards de paramètres, un contexte de 16 384 tokens et des poids sous Apache 2.0. Il ne lit que du texte. La fiche indique une médiane de 12,9 ms par requête à une seule question sur un GPU.
Dix jours plus tard, la même équipe a publié Decision 3.0, dont le d3-mini de 4,5B repose lui aussi sur Qwen3.5-4B. Les d3 et d3-turbo, plus grands, de vLLM Semantic Router font l'objet de tests séparés.
Decision-2.0-Nox-4B (vLLM Semantic Router) vaut-il le coup ?
Decision-2.0-Nox-4B est un petit modèle solide, arrivé juste avant son remplaçant. Sur le Jev Decision Index 0.4.1 communautaire, données du 29 octobre, il obtient 40,75 et se classe 134e sur 247 entrées. Il devance ainsi les deux modèles de 4B les plus comparables, JPT-4B à 39,56 et Decider 4B à 36,3, ce qui confirme l'affirmation de la fiche selon laquelle il mène sa catégorie de taille. Mais le classement liste aussi le d3-mini de vLLM Semantic Router, un modèle de 4,5B sur la même base Qwen3.5-4B, à 49,97, et pplx-decider-flash-v1.2 de Perplexity à 54,29.
Les chiffres de la fiche sont autodéclarés, mais présentés avec soin : 63,6 sur JevArena contre 61,9 pour Decider 4B, décrit comme « statistiquement à égalité », 52,3 sur 15 tâches annotées par des humains où Decider 4B est devant avec 55,5, et 43,8 sur le Jev Decision Index selon l'exécution par l'équipe du kit 0.2.1. L'équipe dit avoir audité ses données d'entraînement ligne par ligne par rapport aux éléments de test de l'index, ce que peu de fiches de modèles de décision revendiquent.
La calibration est sa meilleure qualité. L'index communautaire mesure une erreur de calibration attendue de 0,030, plus basse que celle de Jev 1.13 (0,078), de d3-mini (0,056) et de Decider 4B (0,084). Ses probabilités suivent la fréquence à laquelle il a raison, donc un seuil de confiance fixé sur vos propres données devrait tenir. La vitesse impressionne moins que ne le suggère la fiche : l'index a relevé une médiane de 33,5 ms sur une RTX PRO 6000, contre 12,6 ms pour Decider 4B.
Il ne lit que du texte et n'a pas de voie pour les images, contrairement à d3-mini ou pplx-decider-flash. Pour un nouveau déploiement texte seul sous licence permissive, d3-mini obtient un meilleur score à taille comparable ; Nox reste un choix raisonnable quand des probabilités calibrées comptent davantage que les neuf derniers points de précision.
Là où il fait la différence
Un ingénieur plateforme dans une entreprise d'e-commerce de 50 personnes
Orienter les e-mails de support vers les équipes retours, facturation ou technique sur son propre GPU
Un seul appel répond à la fois au choix d'orientation, à un oui/non sur les justificatifs et à un score d'urgence. Sa faible erreur de calibration fait qu'une règle comme « orienter automatiquement au-dessus de 0,9, sinon envoyer à une personne » se comporte comme prévu ; Apache 2.0 évite tout examen de licence.
Un ingénieur ML qui remplace un juge LLM dans un pipeline RAG
Évaluer si chaque passage récupéré répond à la question
Une question oui/non par passage renvoie une probabilité sans générer de texte, sur un GPU. Mesurez d'abord la précision sur votre propre jeu annoté : sur l'index communautaire, il a raison environ 66 % du temps tous domaines confondus, et 58 % sur les questions de connaissances.
Avant de vous engager
- Mise en route
- pip install transformers 5.17 ou plus récent avec torch et safetensors, chargez avec trust_remote_code=True et appelez model.system_one(state, questions) ; un pipeline transformers « decision » est aussi enregistré.
- Intégrations
- Les questions utilisent le schéma System One (noul, choice, score) partagé par Jev, pplx-decider et le d1 de Liquid, donc les harnais écrits pour eux fonctionnent sans modification. C'est la famille de modèles de décision du projet vLLM Semantic Router.
- Données et confidentialité
- Auto-hébergé uniquement, les entrées restent donc sur votre matériel. Apache 2.0 autorise l'usage commercial sans plafond de chiffre d'affaires.
- Coût à grande échelle
- Pas de prix d'API ; 4,21 milliards de paramètres tiennent sur un seul GPU, et l'index communautaire l'a fait tourner sur une RTX PRO 6000 avec une médiane de 33,5 ms. Plusieurs questions sur une même entrée partagent une seule passe avant.
- Limites
- Contexte de 16 384 tokens, texte et JSON uniquement, trois types de réponse (pas de nombres, de boîtes ni d'extraction). Plus faible dans les domaines connaissances (58 % de précision) et arts (50 %) de l'index communautaire.
Les points forts
- Erreur de calibration attendue de 0,030 sur l'index communautaire
- Apache 2.0 sans plafond de chiffre d'affaires
- Devant Decider 4B et JPT-4B sur l'index communautaire
- Données d'entraînement auditées par rapport aux éléments de test de l'index, selon la fiche
Les points faibles
- 9 points derrière le d3-mini de sa propre équipe (49,97)
- Texte seul ; pas d'images
- Médiane de 33,5 ms sur l'exécution communautaire, pas les 12,9 ms de la fiche
- Pas d'API hébergée
Idéal pour
Les ingénieurs qui ont besoin d'un petit classifieur de texte auto-hébergé, sous licence permissive, dont les probabilités sont assez fiables pour fixer des seuils.
Alternatives à Decision-2.0-Nox-4B (vLLM Semantic Router)
Decision-2.0-Nox-4B (vLLM Semantic Router) : questions fréquentes
- Decision-2.0-Nox-4B (vLLM Semantic Router) vaut-il le coup ?
- Des chiffres honnêtes et une bonne calibration sous Apache 2.0, mais avec 40,75 sur l'index communautaire, il reste neuf points derrière le d3-mini de sa propre équipe. Nous lui donnons 3.4 sur 5.
- Combien coûte Decision-2.0-Nox-4B (vLLM Semantic Router) ?
- Poids gratuits sous Apache 2.0 ; pas d'endpoint hébergé pour ce modèle.
- Quels sont les inconvénients de Decision-2.0-Nox-4B (vLLM Semantic Router) ?
- 9 points derrière le d3-mini de sa propre équipe (49,97); texte seul ; pas d'images; médiane de 33,5 ms sur l'exécution communautaire, pas les 12,9 ms de la fiche; pas d'API hébergée.
- À qui s’adresse Decision-2.0-Nox-4B (vLLM Semantic Router) ?
- Les ingénieurs qui ont besoin d'un petit classifieur de texte auto-hébergé, sous licence permissive, dont les probabilités sont assez fiables pour fixer des seuils.
- Combien coûte Decision-2.0-Nox-4B (vLLM Semantic Router) pour une équipe ou en production ?
- Pas de prix d'API ; 4,21 milliards de paramètres tiennent sur un seul GPU, et l'index communautaire l'a fait tourner sur une RTX PRO 6000 avec une médiane de 33,5 ms. Plusieurs questions sur une même entrée partagent une seule passe avant.
- Decision-2.0-Nox-4B (vLLM Semantic Router) est-il sûr pour les données de l’entreprise ?
- Auto-hébergé uniquement, les entrées restent donc sur votre matériel. Apache 2.0 autorise l'usage commercial sans plafond de chiffre d'affaires.
- Quelles sont les meilleures alternatives à Decision-2.0-Nox-4B (vLLM Semantic Router) ?
- Les alternatives les plus proches que nous avons testées sont Perplexity Decider (pplx-decider), d3-turbo (vLLM Semantic Router), d3 (vLLM Semantic Router), LFM3 et Jev.
Réponses vérifiées le 31 oct. 2026.