Qu’est-ce que DSpine ?
DSpine est une méthode de décodage spéculatif et un plugin SGLang de Tencent, accompagnés d'un article en septembre 2026 et d'un code publié depuis octobre. Le décodage spéculatif utilise un petit modèle brouillon pour deviner plusieurs tokens d'avance, que le modèle principal vérifie ensuite en une seule passe : la génération va plus vite sans changer ce que le modèle principal aurait écrit. Le brouillon de DSpine propose un bloc de 16 tokens d'un coup et, à chaque couche, transmet la caractéristique prédite de chaque position à la suivante, pour que les suppositions de fin de bloc restent cohérentes avec celles du début.
Il existe des poids de brouillon pour deux modèles cibles : Qwen3-8B et, depuis le 7 novembre, Qwen3.8-27B, un brouillon de cinq couches et d'environ 2 milliards de paramètres avec une fenêtre glissante de 8 192 tokens. Le code tourne comme plugin de SGLang 0.5.22 sur CUDA, avec une voie Apple silicon via mlx-lm pour Qwen3-8B seulement ; le code d'entraînement se trouve dans SpecForge.
Le code et les poids sont sous Apache 2.0 (GitHub affiche la licence comme non reconnue à cause d'un préambule de Tencent dans le fichier). Le dépôt compte environ 234 étoiles et aucune version étiquetée.
DSpine vaut-il le coup ?
L'argument de DSpine repose sur les rejeux d'agents de Tencent. En servant Qwen3.8-27B avec huit requêtes simultanées, il annonce un débit de bout en bout de 2,71 à 3,84 fois celui du décodage classique sur des traces WorkBuddy de code, de web et de bureautique, sur SWE-bench Pro et sur τ²-bench. Le brouillon officiel DFlash2 de z-lab pour ce modèle atteignait 2,33 à 3,17 fois sur les mêmes rejeux. Sur WorkBuddy Office en raisonnement faible, cela donne 805,53 tokens par seconde contre 664,77 pour DFlash2 et 210,03 sans spéculation.
Le gain vient de suppositions acceptées plus longues. La fiche du modèle donne en moyenne 5,63 tokens acceptés par étape sur WorkBuddy Office contre 4,24 pour DFlash2, et l'article, sur Qwen3-8B, porte la longueur d'acceptation moyenne de 3,77 avec DFlash à 4,82 et le débit en service de 23,3% par rapport à DFlash. Tous ces chiffres sont ceux de Tencent, et la fiche ne nomme pas le GPU utilisé, même si le backend FlashAttention 3 de sa commande suppose une carte de classe Hopper.
Le hic, c'est la portée. Un brouillon est entraîné pour un seul modèle cible, et DSpine en a deux. La voie 27B exige une longue liste d'options SGLang, ReplaySSM pour les couches d'attention linéaire de Qwen3.8 et un réglage de sa vérification dynamique pour chaque charge de travail. La version MLX ne couvre que Qwen3-8B, et le plugin CUDA est lié à une version précise de SGLang.
Notre avis : le décodage spéculatif est l'accélération la moins chère qu'une équipe de service puisse obtenir, puisqu'il ne change rien aux réponses. Si Qwen3.8-27B est déjà votre modèle d'agent sur SGLang, DSpine mérite un après-midi de mesures contre DFlash2 sur votre propre trafic ; sinon, attendez un brouillon entraîné pour votre modèle.
Là où il fait la différence
Un ingénieur plateforme qui fait tourner Qwen3.8-27B derrière un agent de code interne
Servir plus de sessions d'agent par GPU sans changer les réponses
Ajoutez le brouillon de 2 milliards de paramètres au serveur SGLang existant avec --speculative-algorithm DSPINE ; Tencent annonce environ 3 fois le débit du décodage classique sur des rejeux de SWE-bench Pro. Lancez d'abord le script de réglage SPS sur vos propres traces.
Une développeuse qui fait tourner Qwen3-8B en local sur un Mac à puce M
Accélérer la génération pour un seul utilisateur sans serveur GPU
Installez le paquet dspine_mlx et lancez dspine-generate avec un modèle cible mlx-lm non modifié ; Tencent indique qu'il faut environ 21 Go de mémoire unifiée pour un Qwen3-8B en BF16.
Un chercheur en inférence qui compare des brouillons parallèles
Reproduire DSpine face à DFlash2 et DSpark sur un nouveau modèle
Le code d'entraînement se trouve dans le pull request 1038 de SpecForge, entraîné sur les données Open-PerfectBlend dans les essais de Tencent. L'article annonce une acceptation moyenne 27,8% plus longue que DFlash sur Qwen3-8B à température zéro.
Avant de vous engager
- Mise en route
- git clone du dépôt puis pip install -e . dans un environnement SGLang 0.5.22 avec Python 3.11+ et CUDA, puis lancez sglang serve avec les options DSPINE de la fiche du modèle ; le brouillon se télécharge depuis Hugging Face.
- Intégrations
- Plugin SGLang (CUDA) et plugin SGLang-MLX pour Apple silicon ; brouillons entraînés avec SpecForge ; vérification dynamique façon DSpark et ReplaySSM pour les couches d'attention linéaire de Qwen3.8.
- Données et confidentialité
- Tourne entièrement sur votre matériel, sans télémétrie décrite. Apache 2.0 pour le code et les poids, composants tiers sous leurs propres licences selon THIRD_PARTY_NOTICES.
- Coût à grande échelle
- Le logiciel est gratuit ; le coût est le GPU qui fait déjà tourner le modèle cible, plus la mémoire pour un brouillon de 2 milliards de paramètres. Les chiffres 27B publiés utilisaient BF16 et huit requêtes simultanées.
- Limites
- Deux modèles cibles pris en charge ; testé à faible concurrence (huit requêtes) ; le gain dépend de la prévisibilité de votre trafic ; le plugin CUDA suit une seule version de SGLang.
Les points forts
- 2,71 à 3,84 fois le débit du décodage classique sur des rejeux d'agents (déclaré par l'éditeur)
- Bat DFlash2 sur chaque benchmark des tableaux de Tencent
- Code et poids sous Apache 2.0 ; code d'entraînement dans SpecForge
- Sortie inchangée : le modèle principal vérifie chaque token proposé
Les points faibles
- Brouillons pour Qwen3-8B et Qwen3.8-27B seulement
- La configuration 27B demande de nombreuses options SGLang et un réglage par charge
- Matériel des chiffres publiés non précisé
- Dépôt jeune : environ 234 étoiles, aucune version
Idéal pour
Les équipes qui servent Qwen3.8-27B ou Qwen3-8B sur SGLang et veulent plus de tokens par GPU sans changer les sorties.
Alternatives à DSpine
DSpine : questions fréquentes
- DSpine vaut-il le coup ?
- DSpine est une vraie accélération pour qui sert Qwen3.8-27B sur SGLang, et pour l'instant d'aucune utilité pour qui sert autre chose. Nous lui donnons 3.8 sur 5.
- Combien coûte DSpine ?
- Gratuit sous Apache 2.0, code et poids du brouillon. Il vous faut votre propre GPU faisant tourner le modèle cible.
- Quels sont les inconvénients de DSpine ?
- Brouillons pour Qwen3-8B et Qwen3.8-27B seulement; la configuration 27B demande de nombreuses options SGLang et un réglage par charge; matériel des chiffres publiés non précisé; dépôt jeune : environ 234 étoiles, aucune version.
- À qui s’adresse DSpine ?
- Les équipes qui servent Qwen3.8-27B ou Qwen3-8B sur SGLang et veulent plus de tokens par GPU sans changer les sorties.
- Combien coûte DSpine pour une équipe ou en production ?
- Le logiciel est gratuit ; le coût est le GPU qui fait déjà tourner le modèle cible, plus la mémoire pour un brouillon de 2 milliards de paramètres. Les chiffres 27B publiés utilisaient BF16 et huit requêtes simultanées.
- DSpine est-il sûr pour les données de l’entreprise ?
- Tourne entièrement sur votre matériel, sans télémétrie décrite. Apache 2.0 pour le code et les poids, composants tiers sous leurs propres licences selon THIRD_PARTY_NOTICES.
- Quelles sont les meilleures alternatives à DSpine ?
- Les alternatives les plus proches que nous avons testées sont SGLang et vLLM.
Réponses vérifiées le 11 nov. 2026.