Qu’est-ce que Qwen3.8-27B DSpine ?
DSpine n'est pas un modèle avec lequel on discute. C'est un petit modèle brouillon à cinq couches qui accompagne Qwen3.8-27B et propose 16 tokens à la fois, que le modèle complet vérifie en une passe ; les tokens acceptés sortent bien plus vite qu'en génération un par un. La méthode de Tencent rédige les 16 positions en parallèle en transmettant les caractéristiques prédites de chaque position à la suivante, ce qui garde les brouillons cohérents.
Sur les tests d'agents de Tencent, servi avec SGLang en BF16 avec huit requêtes simultanées, il a fourni de 2,71 à 3,84 fois la vitesse du décodage normal, devant le brouillon officiel DFlash2, à 2,33 à 3,17 fois. Il est publié sous licence Apache 2.0 avec un article de recherche sur arXiv.
Qwen3.8-27B DSpine vaut-il le coup ?
Le décodage spéculatif est l'une des rares optimisations qui ne coûtent rien en qualité : un petit modèle brouillon devine plusieurs tokens, le grand modèle les vérifie en une passe, et seuls les tokens que le grand modèle aurait produits sont conservés. DSpine est le modèle brouillon de Tencent pour Qwen3.8-27B, à cinq couches, qui propose des blocs de 16 tokens.
Les gains de la fiche sont importants et mesurés sur un travail réaliste. Sur les tâches d'agent WorkBuddy pour le code, le web et la bureautique, SWE-bench Pro et τ²-bench, servi avec SGLang 0.5.22 en concurrence 8, DSpine a multiplié le débit par 2,71 à 3,84 par rapport au décodage normal en échantillonnage glouton, contre 2,33 à 3,17 pour le brouillon officiel DFlash2. La longueur moyenne acceptée est passée d'environ 4 à 5 tokens par étape à environ 5 à 7.
Les contraintes sont pratiques. Il ne fonctionne qu'avec SGLang et le paquet DSpine, exige FlashAttention 3, et la commande de référence suppose une longue liste d'options réglées pour l'attention hybride de Qwen3.8. Les gains diminuent quand la concurrence augmente et que les GPU sont déjà occupés, et les tests sont ceux de Tencent, avec huit requêtes simultanées. L'article arXiv étant un preprint, la méthode n'a pas été relue par des pairs.
Là où il fait la différence
Une start-up qui fait tourner un agent de code Qwen3.8-27B sur deux H100
Réduire l'attente à chaque étape de l'agent
Ajoutez DSpine comme modèle brouillon dans SGLang avec 16 tokens de brouillon ; la fiche annonce des tâches de code 2,7 à 3,2 fois plus rapides. Les poids sont gratuits, et les mêmes GPU servent plus de requêtes par heure.
Un ingénieur ML qui compare des modèles brouillons
Choisir entre DFlash2 et DSpine pour la production
Testez les deux sur votre propre trafic à votre concurrence réelle, car les chiffres de Tencent viennent de huit requêtes simultanées et les gains baissent avec la charge.
Avant de vous engager
- Mise en route
- Clonez Tencent/DSpine et installez-le avec pip, téléchargez les poids du brouillon, puis lancez sglang serve avec --speculative-algorithm DSPINE et les options de la fiche.
- Intégrations
- SGLang 0.5.22 avec FlashAttention 3 et FlashInfer ; Qwen3.8-27B comme modèle cible.
- Données et confidentialité
- Tourne sur vos propres serveurs ; poids sous licence Apache 2.0.
- Coût à grande échelle
- Aucun coût de licence ; un décodage plus rapide permet aux mêmes GPU de servir plus de requêtes, même si le brouillon prend un peu de mémoire en plus.
- Limites
- Lié à Qwen3.8-27B et à SGLang ; gains en baisse en forte concurrence ; méthode en preprint.
Les points forts
- Environ 2,7 à 3,8 fois plus rapide sur des tâches d'agent, selon la fiche
- Sortie identique à celle du modèle de base
- Bat le brouillon officiel DFlash2 sur toutes les tâches listées
- Poids ouverts Apache 2.0
Les points faibles
- SGLang et le paquet DSpine uniquement
- Tests menés par Tencent en concurrence 8
- Les gains diminuent quand le GPU est déjà saturé
- Utile seulement avec Qwen3.8-27B
Idéal pour
Équipes qui servent Qwen3.8-27B avec SGLang et veulent moins de latence par requête sans changer les réponses du modèle.
Qwen3.8-27B DSpine : questions fréquentes
- Qwen3.8-27B DSpine vaut-il le coup ?
- Un gain de vitesse gratuit pour qui sert Qwen3.8-27B : environ trois fois plus rapide sur des charges d'agents, avec une sortie identique au modèle de base, si vous utilisez SGLang. Nous lui donnons 4.2 sur 5.
- Combien coûte Qwen3.8-27B DSpine ?
- Poids ouverts gratuits sous licence Apache 2.0 ; vous ne payez que les GPU qui servent Qwen3.8-27B.
- Quels sont les inconvénients de Qwen3.8-27B DSpine ?
- SGLang et le paquet DSpine uniquement; tests menés par Tencent en concurrence 8; les gains diminuent quand le GPU est déjà saturé; utile seulement avec Qwen3.8-27B.
- À qui s’adresse Qwen3.8-27B DSpine ?
- Équipes qui servent Qwen3.8-27B avec SGLang et veulent moins de latence par requête sans changer les réponses du modèle.
- Combien coûte Qwen3.8-27B DSpine pour une équipe ou en production ?
- Aucun coût de licence ; un décodage plus rapide permet aux mêmes GPU de servir plus de requêtes, même si le brouillon prend un peu de mémoire en plus.
- Qwen3.8-27B DSpine est-il sûr pour les données de l’entreprise ?
- Tourne sur vos propres serveurs ; poids sous licence Apache 2.0.
Réponses vérifiées le 15 nov. 2026.