d3 (vLLM Semantic Router)とは？
d3は、vLLM Semantic RouterプロジェクトのDecision 3.0における27Bのマルチモーダル判定モデルです。2026年10月10日にApache 2.0でHugging Faceに公開され、Qwen3.8-27Bからファインチューニングされています（0.46Bのビジョンエンコーダーを含めて260.9億（26.09 billion）パラメータ）。9日後、チームは改良版の27Bモデルd3-turboを公開し、現在はそちらがdecision.vllm-sr.aiの無料デモを担っています。d3は重みとして引き続き入手できます。
リクエストごとにテキストまたはJSONと複数の画像や動画を受け取り、テキストを生成せずに、選択、yes/no、スコアの質問にすべての選択肢の確率で答えます。画像は最大1.6メガピクセル、動画は毎秒2フレームで最大32フレームまで読み込みます。
vLLMのmainブランチは2026年10月14日からd3をそのまま読み込み、Jevと同じリクエスト形式の/v1/systemoneエンドポイントで答えます。公式のFP8、NVFP4、int4（AWQとGPTQ）ビルドが公開されており、4-bit版は52.2 GBの重みを約16〜17 GBに減らします。
d3 (vLLM Semantic Router)は使う価値があるか？
d3は、すでに追い越された堅実なオープンな判定モデルです。2026年10月22日に更新されたコミュニティのJev Decision Index 0.4.1では、229エントリー中11位の67.15で、同点圏内にあり、兄弟モデルのd3-turboの67.31のすぐ後ろです。公式の0.3.2のボードを基準に書かれたモデルカードは、テキストで66.3と1位を主張していましたが、インデックスもプロジェクトも先に進んでいます。同じコミュニティのボードでJev 1.14は60.24です。
注目する理由は提供のしやすさです。vLLMは変換なしでリポジトリを読み込み、Jev形式の/v1/systemoneエンドポイントを公開します。ただし、この対応がmainに入ったのは10月14日で、10月26日時点で最新リリースのv0.32.0の変更点には含まれていないため、nightlyビルドが必要です。モデルカードは、AMD Instinct MI325X 1基で、テキストの質問1つで中央値54.4 ms、画像付きで290 ms、10秒の動画付きで500 ms、Semantic Router経由で毎秒27リクエスト、p99は1秒未満と報告しています。これらはプロジェクト自身がAMDのハードウェアで出した数値で、モデルカードの執筆時点ではCUDAの経路はNVIDIA GPUで実行されていませんでした。
判定モデルの中で動画入力はまだ珍しいものです。モデルカードはPerception Testの検証セットで77.4と報告していますが、これは内部評価です。コミュニティのビジョンボードではd3は55中9位で71.26です。d3-turboはさらに進んで、バウンディングボックス、動画トラッキング、131,072トークンの長文コンテキストモードを加え、質問がいくつあっても入力を一度だけ読みます。
運用上のコストはメモリです。BF16のレプリカはMI325Xで62〜65 GiBがピークでした。vLLMは--max-model-len 32768で起動しないと、80 GBのGPUに収まらない262,144トークンのパスをプロファイルしてしまいます。int4ビルドは重みを約16 GBにし、d3の回答の約97%を保つので、24 GBのカードでも手が届きます。ただし、NVFP4ビルドにはBlackwell GPUが必要で、AWQビルドはBF16より1.29倍遅くなります。同じ手順が今はd3-turboにも使えるため、d3を固定する主な理由は、まさにこのチェックポイントで検証済みのパイプラインがあることです。
真価を発揮する場面
80 GBのGPUでvLLMを動かしているプラットフォームエンジニア
新しいランタイムなしに、LLMゲートウェイの前段にルーティン グとポリシーの確認を追加する
d3またはFP8ビルドを--max-model-len 32768で提供し、各リクエストを選択とyes/noの質問付きで/v1/systemoneに送ります。モデルカードによると、質問1つのテキストの判定は54 ms、MI325X 1基あたり毎秒27リクエストです。コストはGPUで、BF16のレプリカあたり約62〜65 GiBです。
1日50,000枚の出品写真を審査するマーケットプレイスのトラスト&セーフティ責任者
写真が説明と矛盾する出品にフラグを立てる
出品のテキストと写真を1リクエストで送り、yes/noとスコアの質問をします。すべての回答に確率が付くので、レビューのしきい値を調整できます。GPU 1基で画像リクエストあたり290 msなら、50,000リクエストはバッチ処理前で1日約4 GPU時間です。
自前ホスティングとホスト型の判定APIを比べているエンジニアリングマネージャー
オープンモデルを運用する価値があるか判断する
d3には有料のエンドポイントがないため、コストはGPUとオンコールの時間です。無料デモは現在d3-turboで動いており、SLAはありません。GPUの運用体制がないチームは、pplx-deciderやJevなどのホスト型を使うほうが人手はかかりません。
導入前に確認すること
- 導入
- バージョン固定のTransformers 5.17.0をインストールしてAutoModelとtrust_remote_codeで読み込むか、vLLMのnightlyをインストールしてvllm serve vllm-sr/d3 --max-model-len 32768を実行します。キャッシュが空の状態の初回起動は、vLLMで215 s（長さの上限を付けると139 s）、AutoModelで40 sでした。
- 連携
- vLLMの/v1/systemone（nightly）、vLLM Semantic RouterのEngineモード（devチャンネル）、Transformersのパイプライン、同梱のd3_server.pyに対応します。リクエスト形式はJevと同じです。
- データとプライバシー
- Qwen3.8-27Bから引き継いだApache 2.0で、売上上限なしで商用利用できます。自前ホスティングなら入力は自分のハードウェアにとどまります。無料デモのデータ条件は公開されていません。
- 大規模利用時のコスト
- ホスト型の価格はありません。BF16の重みは52.2 GBで、MI325X 1基でのレプリカのピークは62〜65 GiBでした。NVFP4ビルドにはBlackwell GPUで約18 GBの空きが、AWQのint4ビルドにはどのGPUでも約18 GBが必要で、レイテンシは1.29倍になります。
- 制限
- 32フレームの動画は約6Kトークンです。トップ レベルのinstructionsフィールドは400を返します。Engineモードはワーカーあたり32件の処理中リクエストを受け付け、それ以外には503を返します。8問の画像リクエストは、テストしたすべての負荷でp99の1秒を超えました。
良い点
- コミュニティのDecision Index 0.4.1で229中11位（67.15）です
- Jev互換のエンドポイントで、標準のvLLMで読み込めます
- リクエストごとに複数の画像と動画を読み込みます
- 約16 GBからの公式のFP8、NVFP4、int4ビルドがあります
気になる点
- 公開から9日後にd3-turboに置き換えられました
- vLLMの対応は今のところnightlyビルドのみです
- 速度の数値はプロジェクト自身がAMD MI325Xで出したものです
- 小さい兄弟モデルはスコアがはるかに低く、d3-flashは54.27、d3-miniは49.97です
おすすめの 人
すでにvLLMを動かしていて、自前のGPUでテキスト、画像、動画の確認に使うオープンな判定モデルを求め、このチェックポイントで検証を済ませたチームです。
d3 (vLLM Semantic Router)の代替
d3 (vLLM Semantic Router)：よくある質問
- d3 (vLLM Semantic Router)は使う価値があるか？
- 強力でオープン、vLLMで簡単に提供できます。しかし公開から9日後、自らのd3-turboによって移行元のバージョンになりました。 評価は5点満点中4.0点です。
- d3 (vLLM Semantic Router)の料金は？
- Apache 2.0の無料の重みです。有料のホスト型APIはありません。無料の公開デモは現在d3-turboで動いています。
- d3 (vLLM Semantic Router)の欠点は？
- 公開から9日後にd3-turboに置き換えられました; vLLMの対応は今のところnightlyビルドのみです; 速度の数値はプロジェクト自身がAMD MI325Xで出したものです; 小さい兄弟モデルはスコアがはるかに低く、d3-flashは54.27、d3-miniは49.97です.
- d3 (vLLM Semantic Router)は誰に向いているか？
- すでにvLLMを動かしていて、自前のGPUでテキスト、画像、動画の確認に使うオープンな判定モデルを求め、このチェックポイントで検証を済ませたチームです。
- チームや本番環境でd3 (vLLM Semantic Router)を使うと費用はいくらか？
- ホスト型の価格はありません。BF16の重みは52.2 GBで、MI325X 1基でのレプリカのピークは62〜65 GiBでした。NVFP4ビルドにはBlackwell GPUで約18 GBの空きが、AWQのint4ビルドにはどのGPUでも約18 GBが必要で、レイテンシは1.29倍になります。
- d3 (vLLM Semantic Router)は企業データを扱っても安全か？
- Qwen3.8-27Bから引き継いだApache 2.0で、売上上限なしで商用利用できます。自前ホスティングなら入力は自分のハードウェアにとどまります。無料デモのデータ条件は公開されていません。
- d3 (vLLM Semantic Router)の代わりになるものは？
- 当サイトでレビューした中で最も近い代替はPerplexity Decider (pplx-decider), Jev, Clef, GLiNER2.5-Decide 、 Layaです。
回答確認日：2026年10月26日