d3-turbo (vLLM Semantic Router)とは？
d3-turboは、vLLM Semantic RouterプロジェクトのDecision 3.0における、27Bのマルチモーダル判定モデルの改良版です。d3の9日後の2026年10月19日にApache 2.0でHugging Faceに公開されました。Qwen3.8-27Bからファインチューニングした別の重みで、パラメータ数は0.46Bのビジョンエンコーダーを含めて260.9億（26.09 billion）です。現在はdecision.vllm-sr.aiの無料APIを担っており、そこではvllm-sr/d3という名前がこのモデルの別名になっています。
d3と同じく、テキストを生成せずに、選択、yes/no、スコアの質問にすべての選択肢の確率で答えます。追加されたのは、Box回答（画像内、または動画のある瞬間に物体がどこにあるかを信頼度付きで返す）、動画全体のトラッキング、質問や選択肢の中に置く画像、そして質問あたり131,072トークンの長文コンテキストモードです。標準は32,768トークンです。
アーキテクチャ上の主な変更は、リクエストごとに入力を一度だけ読み、その1回の読み込みからすべての質問に答える点です。確認時点では、標準のvLLMへの対応と量子化ビルドはまだでした。Transformersか、Semantic Router独自のEngineモードで動きます。
d3-turbo (vLLM Semantic Router)は使う価値があるか？
大きな改善はアーキテクチャにあり、リーダーボードでの躍進ではありません。2026年10月22日に更新されたコミュニティのJev Decision Indexでは、d3-turbo v1.1は229エントリー中10位で、バランス型スキルは67.31と、d3の67.15をわずかに上回ります。公開スイートのスコアの差はよりはっきりしており、インデックス自身の再採点後でd3の65.45に対して71.62です。モデルカードにあるテキストの70.2、ビジョンの72.9という推定値はチームによるもので、公式ボードの結果ではありません。
経済性を変えるのは一度だけ読むことです。モデルカードによると、AMD Instinct MI325X 1基で、1枚の写真に関する64の質問はd3-turboで867 ms、9Bのd3-flashで8.26 sかかり、255の質問では2.12 s対32.94 sです。質問が1つだけだと順序は逆転し、d3-flashは154 ms、d3-turboは302 msで答えます。アップロードごとに十数個のポリシーの質問をするモデレーションのパイプラインでは割に合います。プロンプトごとに1つの質問をするルーターには、小さい兄弟モデルのほうが向いています。
Boxとトラッキングの回答で、分類を超えた用途に広がります。チームの報告では、自社のBoxセットで重なりのしきい値0.5における精度が0.90、トラッキングのクリップで存在判定のF1が0.97です。Boxの質問は物体がない場合でも必ず1つのボックスを返すため、モデルカードはyes/noの質問と組み合わせるよう勧めています。そのままアラートのルールにつなぐ人はこの点でつまずくでしょう。
提供面はd3ほど成熟していません。d3-turboのアテンションのパターンをvLLMに追加するプルリクエスト（#62584）は確認日の時点でまだオープンで、FP8や4-bitのビルドもまだありません（プロジェクトはNVFP4パッケージをオープンなissueとして追跡しています）。文書化されたEngineの手順は、ルーターのdevチャンネルからAMD ROCmを対象としています。BF16で260.9億（26.09 billion）パラメータなので重みは約52 GBあり、量子化ビルドが出るまでは24 GBのカード1枚では動きません。
真価を発揮する場面
1日50,000枚の出品写真を20のポリシールールで確認するマーケットプレイスのトラスト&セーフティ責任者
20回分のモデル呼び出しを払わずに、すべての写真ですべてのルールを確認する
各写真と20のルールすべてをyes/noの質問として1リクエストで送ります。モデルカードの数値ではMI325X 1基で16問が426 msなので、50,000件の出品は1日約6 GPU時間です。ルールごとの確率により、レビュー担当者はそれぞれのしきい値を設定できます。
小売分析企業のコンピュータビジョンエンジニア
店舗カメラのクリップに商品が映っているか、どこにあるかを調べる
各クリップについて、商品の存在をyes/noで問う質問と、毎秒1〜2回の更新でのトラッキングの質問をします。無料APIが受け付けるのは最長60秒の動画1本なので、本番の量では52 GBのBF16の重みを自前ホスティングする必要があります。
無料APIの背後ですでにd3を動かしているエンジニアリングマネージャー
コードを変えていないのに回答が変わった理由を理解する
無料APIのvllm-sr/d3という名前は現在d3-turboを指しているため、10月19日のd3-turbo公開前に記録した回答とは異なることがあります。再現性が重要なら自前ホスティングのチェックポイントを固定し、モデル改善のためにリクエストをログに残す無料APIには機密データを送らないでください。
導入前に確認すること
- 導入
- Transformers 5.17.0をインストールしてAutoModelとtrust_remote_codeで読み込むか、ルーターのdevチャンネルからvllm-sr serve vllm-sr/d3-turbo --engine --platform rocmを実行します。モデルカードによると、Engineの初回起動は約2.5分、2回目以降は35秒です。
- 連携
- Jevと共通のSystem Oneリクエスト形式で、無料APIとEngineの/v1/systemoneで使えます。Transformersのsystem_one()メソッドとHugging Face Spaceもあります。標準のvLLMへの対応はオープンなプルリクエストです。
- データとプライバシー
- Qwen3.8-27Bから引き継いだApache 2.0で、売上上限なしで商用利用できます。自前ホスティングなら入力は自分のハードウェアにとどまります。無料APIは、モデル改善のためにリクエストとレスポンスをログに残すことがあると明記しています。
- 大規模利用時のコスト
- ホスト型の価格はありません。BF16の重みは約52 GBなので、レプリカごとに80 GB級のGPUが1基必要です。モデルカードはメモリのピークを公開していませんが、同じサイズのd3は62〜65 GiBがピークでした。量子化ビルドはまだありません。
- 制限
- 質問あたり標準で32,768トークン、long_contextで131,072トークンです。長すぎる質問は切り詰められず、max_length_exceededが返ります。無料APIはリクエストあたり64問、16 MiBの画像16枚、60秒の動画1本、35秒のタイムアウトが上限です。
良い点
- コミュニティのDecision Indexで229中10位（67.31）です
- 1回の読み込みで最大255の質問に答えます。MI325X 1基で255問が2.12 sです
- 信頼度付きのBoxと動画トラッキングの回答に対応します
- Apache 2.0で、試せる無料の公開APIがあります
気になる点
- 質問が1つのリクエストではd3-flashより遅いです
- 標準のvLLMではまだ対応しておらず、量子化ビルドもありません
- 無料APIはリクエストをログに残し、SLAはありません
- 数値の大半はチーム自身がAMDのハードウェアで出したものです
おすすめの人
GPUを持ち、同じテキスト、画像、動画に多くのyes/no、選択、位置の質問をし、オープンウェイトを求めるチームです。
d3-turbo (vLLM Semantic Router)の代替
d3-turbo (vLLM Semantic Router)：よくある質問
- d3-turbo (vLLM Semantic Router)は使う価値があるか？
- d3-turboは、1つの入力に多くの質問をするときに真価を発揮し、質問が1つだけのときはd3-flashより高くつきます。 評価は5点満点中4.1点です。
- d3-turbo (vLLM Semantic Router)の料金は？
- Apache 2.0の無料の重みです。有料のホスト型APIはありませ ん。ログを取りSLAのない無料の公開APIがあります。
- d3-turbo (vLLM Semantic Router)の欠点は？
- 質問が1つのリクエストではd3-flashより遅いです; 標準のvLLMではまだ対応しておらず、量子化ビルドもありません; 無料APIはリクエストをログに残し、SLAはありません; 数値の大半はチーム自身がAMDのハードウェアで出したものです.
- d3-turbo (vLLM Semantic Router)は誰に向いているか？
- GPUを持ち、同じテキスト、画像、動画に多くのyes/no、選択、位置の質問をし、オープンウェイトを求めるチームです。
- チームや本番環境でd3-turbo (vLLM Semantic Router)を使うと費用はいくらか？
- ホスト型の価格はありません。BF16の重みは約52 GBなので、レプリカごとに80 GB級のGPUが1基必要です。モデルカードはメモリのピークを公開していませんが、同じサイズのd3は62〜65 GiBがピークでした。量子化ビルドはまだありません。
- d3-turbo (vLLM Semantic Router)は企業データを扱っても安全か？
- Qwen3.8-27Bから引き継いだApache 2.0で、売上上限なしで商用利用できます。自前ホスティングなら入力は自分のハードウェアにとどまります。無料APIは、モデル改善のためにリクエストとレスポンスをログに残すことがあると明記しています。
- d3-turbo (vLLM Semantic Router)の代わりになるものは？
- 当サイトでレビューした中で最も近い代替はd3 (vLLM Semantic Router), Perplexity Decider (pplx-decider), Jev, Clef 、 GLiNER2.5-Decideです。
回答確認日：2026年10月23日