本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

DSpine

TencentによるSGLang向けの投機的デコーディング用ドラフター。自社の再生テストでQwen3.8-27Bのエージェント処理量をほぼ3倍にします。

レビュー: ReviewRamble editors · 更新

GitHubで見る オープンソース

当サイトの評価

3.8/5

DSpineはSGLangでQwen3.8-27Bを配信している人には本物の高速化ですが、それ以外のモデルを配信している人には今のところ役に立ちません。

DSpineとは?

DSpineは、Tencentによる投機的デコーディングの手法とSGLangプラグインで、2026年9月に論文、10月からコードが公開されています。投機的デコーディングでは、小さなドラフトモデルが数トークン先を推測し、それを本体のモデルが1回の処理でまとめて確認します。そのため、本体が書くはずだった内容を変えずに生成を速くできます。DSpineのドラフトは16トークンのブロックを一度に提案し、各層で各位置の予測特徴量を次の位置へ渡すので、ブロック後半の推測が前半と食い違いにくくなります。

ドラフトの重みは2つの対象モデル向けにあります。Qwen3-8B向けと、11月7日からはQwen3.8-27B向けで、後者は5層、約20億(2 billion)パラメーター、8,192トークンのスライディングウィンドウを持つドラフトです。コードはCUDA上でSGLang 0.5.22のプラグインとして動き、Apple silicon向けにはQwen3-8Bに限りmlx-lm経由の手段があります。訓練用コードはSpecForgeにあります。

コードと重みはApache 2.0です(ファイル冒頭にTencentの前文があるため、GitHubはライセンスを判別できないと表示します)。リポジトリのスターは約234で、タグ付きリリースはありません。

DSpineは使う価値があるか?

DSpineの根拠はTencentによるエージェント処理の再生テストです。同時8リクエストでQwen3.8-27Bを配信した場合、WorkBuddyのコード、ウェブ、オフィスの各トレース、SWE-bench Pro、τ²-benchで、エンドツーエンドの処理量が通常のデコーディングの2.71〜3.84倍になったと報告しています。このモデル向けのz-lab公式ドラフトDFlash2は、同じ再生テストで2.33〜3.17倍でした。低推論設定のWorkBuddy Officeでは、毎秒805.53トークンで、DFlash2の664.77、投機なしの210.03を上回ります。

向上の理由は、受け入れられる推測が長くなったことです。モデルカードによると、WorkBuddy Officeでの1ステップあたりの平均受理トークン数は5.63で、DFlash2は4.24です。論文ではQwen3-8Bで、平均受理長がDFlashの3.77から4.82に伸び、配信時の処理量はDFlashより23.3%高くなりました。いずれもTencentの数字で、カードは使ったGPUを明かしていませんが、コマンドにあるFlashAttention 3のバックエンドからはHopper世代のカードと推測できます。

注意点:対応範囲です。ドラフトは対象モデルごとに訓練するもので、DSpineは2つしかありません。27B向けには長いSGLangオプションの列、Qwen3.8の線形アテンション層のためのReplaySSM、ワークロードごとの動的検証の調整が必要です。MLX版はQwen3-8Bだけに対応し、CUDAプラグインは特定のSGLangバージョンに固定されています。

結論:投機的デコーディングは回答の中身を一切変えないので、配信チームが手に入れられる最も安い高速化です。すでにSGLangでQwen3.8-27Bをエージェントモデルにしているなら、自社のトラフィックでDFlash2と比べる半日を割く価値があります。そうでなければ、自分のモデル向けに訓練されたドラフトを待ちましょう。

真価を発揮する場面

  • 社内コーディングエージェントのモデルとしてQwen3.8-27Bを運用するプラットフォームエンジニア

    回答を変えずにGPUあたりのエージェントセッション数を増やす

    既存のSGLangサーバーに--speculative-algorithm DSPINEで20億パラメーターのドラフトを加えます。TencentはSWE-bench Proの再生テストで通常デコーディングの約3倍の処理量を報告しています。まず自社のトレースでSPS調整スクリプトを実行してください。

  • MシリーズのMacでQwen3-8Bをローカル実行する開発者

    GPUサーバーなしで1人用の生成を速くする

    dspine_mlxパッケージを入れ、改変していないmlx-lmの対象モデルとともにdspine-generateを実行します。TencentによればBF16のQwen3-8Bには約21 GBのユニファイドメモリが必要です。

  • 並列ドラフターを比較する推論研究者

    新しいモデルでDSpineをDFlash2やDSparkと比べて再現する

    訓練用コードはSpecForgeのプルリクエスト1038にあり、TencentのテストではOpen-PerfectBlendのデータで訓練されています。論文はQwen3-8B、温度0で平均受理長がDFlashより27.8%長いと報告しています。

導入前に確認すること

導入
リポジトリをgit cloneし、SGLang 0.5.22、Python 3.11以上、CUDAの環境でpip install -e .を実行してから、モデルカードにあるDSPINEオプション付きでsglang serveを起動します。ドラフトはHugging Faceからダウンロードされます。
連携
SGLangプラグイン(CUDA)とApple silicon向けのSGLang-MLXプラグイン。ドラフトはSpecForgeで訓練。DSpark方式の動的検証と、Qwen3.8の線形アテンション層向けのReplaySSMを使います。
データとプライバシー
すべて自前のハードウェアで動き、テレメトリーの記載はありません。コードと重みはApache 2.0で、第三者コンポーネントはTHIRD_PARTY_NOTICESのとおりそれぞれのライセンスに従います。
大規模利用時のコスト
ソフトウェアは無料です。費用は対象モデルをすでに動かしているGPUと、20億パラメーターのドラフト用のメモリです。27Bの公表値はBF16、同時8リクエストでの測定です。
制限
対応する対象モデルは2つ。低い同時実行数(8リクエスト)でのテスト。向上幅はトラフィックの予測しやすさに左右されます。CUDAプラグインは単一のSGLangバージョンに追従します。

良い点

  • エージェントの再生テストで通常デコーディングの2.71〜3.84倍の処理量(自社発表)
  • Tencentの表のすべてのベンチマークでDFlash2を上回る
  • コードと重みはApache 2.0、訓練用コードはSpecForgeに
  • 出力は不変:ドラフトの全トークンを本体モデルが検証

気になる点

  • ドラフトはQwen3-8BとQwen3.8-27B向けのみ
  • 27Bの設定には多数のSGLangオプションとワークロードごとの調整が必要
  • 公表値の測定ハードウェアは非公表
  • 新しいリポジトリ:スター約234、リリースなし

おすすめの人

SGLangでQwen3.8-27BまたはQwen3-8Bを配信し、出力を変えずにGPUあたりのトークン数を増やしたいチーム。

DSpineの代替

DSpine:よくある質問

DSpineは使う価値があるか?
DSpineはSGLangでQwen3.8-27Bを配信している人には本物の高速化ですが、それ以外のモデルを配信している人には今のところ役に立ちません。 評価は5点満点中3.8点です。
DSpineの料金は?
コードとドラフトの重みはApache 2.0で無料。対象モデルを動かす自前のGPUが必要です。
DSpineの欠点は?
ドラフトはQwen3-8BとQwen3.8-27B向けのみ; 27Bの設定には多数のSGLangオプションとワークロードごとの調整が必要; 公表値の測定ハードウェアは非公表; 新しいリポジトリ:スター約234、リリースなし.
DSpineは誰に向いているか?
SGLangでQwen3.8-27BまたはQwen3-8Bを配信し、出力を変えずにGPUあたりのトークン数を増やしたいチーム。
チームや本番環境でDSpineを使うと費用はいくらか?
ソフトウェアは無料です。費用は対象モデルをすでに動かしているGPUと、20億パラメーターのドラフト用のメモリです。27Bの公表値はBF16、同時8リクエストでの測定です。
DSpineは企業データを扱っても安全か?
すべて自前のハードウェアで動き、テレメトリーの記載はありません。コードと重みはApache 2.0で、第三者コンポーネントはTHIRD_PARTY_NOTICESのとおりそれぞれのライセンスに従います。
DSpineの代わりになるものは?
当サイトでレビューした中で最も近い代替はSGLang 、 vLLMです。

回答確認日:2026年11月11日