Decision-2.0-Nox-4B (vLLM Semantic Router)とは?
Decision-2.0-Nox-4Bは、vLLM Semantic Routerプロジェクトの判定モデル群Decision 2.0の4Bテキストモデルで、2026年9月29日にHugging Faceで 公開されました。Jevと同じくテキストは書き出しません。入力(テキストまたはJSON)と名前付きの質問を送ると、選択式、yes/no、スコアの質問に1回のフォワードパスでまとめて答え、すべての選択肢に確率を付けます。
Qwen3.5-4B-Baseをファインチューニングしたモデルで、パラメータは42.1億、コンテキストは16,384トークン、重みはApache 2.0です。読めるのはテキストのみです。モデルカードでは、GPU 1枚で単一質問のリクエストあたり中央値12.9 msと報告されています。
10日後、同じチームはDecision 3.0を公開しました。その4.5Bのd3-miniもQwen3.5-4Bを基にしています。vLLM Semantic Routerのより大きなd3とd3-turboは別にレビューしています。
Decision-2.0-Nox-4B (vLLM Semantic Router)は使う価値があるか?
Decision-2.0-Nox-4Bは堅実な小型モデルですが、後継が出る直前に登場しました。10月29日付けのデータによるコミュニティのJev Decision Index 0.4.1では40.75で、247件中134位です。最も近い4Bモデル2つ、39.56のJPT-4Bと36.3のDecider 4Bを上回っており、同サイズで首位というモデルカードの主張と一致します。しかし、同じボードには同じQwen3.5-4Bベースの4.5BモデルであるvLLM Semantic Router自身のd3-miniが49.97で、Perplexityのpplx-decider-flash-v1.2が54.29で載っています。
モデルカードの数値は自己申告ですが、慎重に示されています。JevArenaで63.6、Decider 4Bは61.9で、「統計的に同等」と説明されています。人手でラベル付けした15のタスクでは52.3で、Decider 4Bが55.5で上回ります。チーム自身が0.2.1キットで実行したJev Decision Indexでは43.8です。チームは学習データを指数のテスト項目と1行ずつ照合したとしており、これは多くの判定モデルのカードが主張する以上の対応です。
最大の長所は較正です。コミュニティの指数では期待較正誤差が0.030と測定されており、Jev 1.13(0.078)、d3-mini(0.056)、Decider 4B(0.084)より低い値です。確率が実際の正答率に沿っているため、自社のデータで設定した確信度のしきい値はそのまま機能するはずです。速度はモデルカードが示すほどではありません。指数ではRTX PRO 6000で中央値33.5 msが記録され、Decider 4Bは12.6 msでした。
テキストのみに対応し、d3-miniやpplx-decider-flashと違って画像の入力経路はありません。寛容なライセンスで新たにテキストのみの展開を行うなら、同程度のサイズでd3-miniの方がスコアは上です。精度の最後の9ポイントより較正された確率が重要な場面では、Noxは今も妥当な選択です。
真価を発揮する場面
従業員50人のEC企業のプラットフォームエンジニア
自社のGPU上で、サポートメールを返品、請求、技術の各チームに振り分ける
1回の呼び出しで、振り分け先の選択、領収書の有無のyes/no、緊急度のスコアにまとめて答えます。較正誤差が小さいため、「0.9を超えたら自動で振り分け、それ以外は人に回す」といったルールが設定どおりに動きます。Apache 2.0なのでライセンスの審査も不要です。
RAGパイ プラインのLLM判定を置き換えるMLエンジニア
取得した各文章が質問に答えているかを採点する
文章ごとのyes/no質問で、テキストを生成せずにGPU 1枚で確率が返ります。まず自社のラベル付きデータで精度を測ってください。コミュニティの指数では全分野で約66%、知識の質問では58%の正答率です。
導入前に確認すること
- 導入
- transformers 5.17以降をtorchとsafetensorsとともにpip installし、trust_remote_code=Trueで読み込んでmodel.system_one(state, questions)を呼び出します。transformersの"decision"パイプラインも登録されています。
- 連携
- 質問はJev、pplx-decider、Liquidのd1と共通のSystem Oneスキーマ(noul、choice、score)を使うため、それら向けに書いたハーネスがそのまま動きます。vLLM Semantic Routerプロジェクトの判定モデル群に属します。
- データとプライバシー
- セルフホストのみなので、入力は自社のハードウェアにとどまります。Apache 2.0は売上の上限なしに商用利用を認めています。
- 大規模利用時のコスト
- APIの価格は ありません。42.1億パラメータはGPU 1枚で動き、コミュニティの指数ではRTX PRO 6000 1枚で中央値33.5 msでした。1つの入力に対する複数の質問は1回のフォワードパスを共有します。
- 制限
- コンテキストは16,384トークンで、テキストとJSONのみ。回答の種類は3つです(数値、ボックス、抽出はなし)。コミュニティの指数では知識(正答率58%)と芸術(50%)の分野が最も弱いです。
良い点
- コミュニティの指数で期待較正誤差0.030
- Apache 2.0で売上の上限はありません
- コミュニティの指数でDecider 4BとJPT-4Bを上回ります
- モデルカードによれば、学習データは指数のテスト項目と照合済みです
気になる点
- 同じチームのd3-mini(49.97)に9ポイント及びません
- テキストのみで、画像には対応しません
- コミュニティの実行では中央値33.5 msで、モデルカードの12.9 msではありません
- ホスト型APIはありません
おすすめの人
確率をしきい値に使える、小型でセルフホスト可能な寛容ライセンスのテキスト分類器が必要なエンジニア。
Decision-2.0-Nox-4B (vLLM Semantic Router)の代替
Decision-2.0-Nox-4B (vLLM Semantic Router):よくある質問
- Decision-2.0-Nox-4B (vLLM Semantic Router)は使う価値があるか?
- 数値は誠実で、較正も良好、Apache 2.0です。ただしコミュニティの指数では40.75で、同じチームのd3-miniに9ポイント差をつけられています。 評価は5点満点中3.4点です。
- Decision-2.0-Nox-4B (vLLM Semantic Router)の料金は?
- 重みはApache 2.0で無料。このモデルのホスト型エンドポイントはありません。
- Decision-2.0-Nox-4B (vLLM Semantic Router)の欠点は?
- 同じチームのd3-mini(49.97)に9ポイント及びません; テキストのみで、画像には対応しません; コミュニティの実行では中央値33.5 msで、モデルカードの12.9 msではありません; ホスト型APIはありません.
- Decision-2.0-Nox-4B (vLLM Semantic Router)は誰に向いているか?
- 確率をしきい値に使える、小型でセルフホスト可能な寛容ライセンスのテキスト分類器が必要なエンジニア。
- チームや本番環境でDecision-2.0-Nox-4B (vLLM Semantic Router)を使うと費用はいくらか?
- APIの価格はありません。42.1億パラメータはGPU 1枚で動き、コミュニティの指数ではRTX PRO 6000 1枚で中央値33.5 msでした。1つの入力に対する複数の質問は1回のフォワードパスを共有します。
- Decision-2.0-Nox-4B (vLLM Semantic Router)は企業データを扱っても安全か?
- セルフホストのみなので、入力は自社のハードウェアにとどまります。Apache 2.0は売上の上限なしに商用利用を認めています。
- Decision-2.0-Nox-4B (vLLM Semantic Router)の代わりになるものは?
- 当サイトでレビューした中で最も近い代替はPerplexity Decider (pplx-decider), d3-turbo (vLLM Semantic Router), d3 (vLLM Semantic Router), LFM3 、 Jevです。
回答確認日:2026年10月31日
