O que é Qwen3.8-27B DSpine?
O DSpine não é um modelo para conversar. É um pequeno modelo rascunho de cinco camadas que trabalha ao lado do Qwen3.8-27B e propõe 16 tokens por vez, que o modelo completo confere numa única passada; os tokens aceitos saem bem mais rápido do que gerando um por um. O método da Tencent rascunha as 16 posições em paralelo, passando as características previstas de cada posi ção para a seguinte, o que mantém os rascunhos coerentes.
Nos testes de agentes da Tencent, servido com SGLang em BF16 com oito requisições simultâneas, ele entregou de 2,71 a 3,84 vezes a velocidade da decodificação normal, à frente do rascunho oficial DFlash2, com 2,33 a 3,17 vezes. É publicado sob a licença Apache 2.0, com um artigo de pesquisa no arXiv.
Qwen3.8-27B DSpine vale a pena?
A decodificação especulativa é a rara otimização que não custa qualidade: um modelo rascunho pequeno adivinha vários tokens, o modelo grande os confere numa passada e só ficam os tokens que o modelo grande teria produzido. O DSpine é o modelo rascunho da Tencent para o Qwen3.8-27B, com cinco camadas, que propõe blocos de 16 tokens.
Os ganhos da ficha são grandes e medidos em trabalho realista. Em tarefas de agente do WorkBuddy para código, web e escritório, SWE-bench Pro e τ²-bench, servido com SGLang 0.5.22 em concorrência 8, o DSpine aumentou a vazão de 2,71 a 3,84 vezes sobre a decodificação normal com amostragem gulosa, contra 2,33 a 3,17 vezes do rascunho oficial DFlash2. O comprimento médio aceito subiu de cerca de 4 a 5 tokens por passo para cerca de 5 a 7.
As restrições são práticas. Só funciona com SGLang e o pacote DSpine, exige FlashAttention 3, e o comando de referência pressupõe uma longa lista de opções ajustadas à atenção híbrida do Qwen3.8. Os ganhos encolhem com mais concorrência, quando as GPUs já estão ocupadas, e os testes são da própria Tencent, com oito requisições simultâneas. Como o artigo no arXiv é um preprint, o método não passou por revisão de pares.
Onde ele se destaca
Uma startup que roda um agente de programação com Qwen3.8-27B em duas H100
Reduzir a espera em cada passo do agente
Adicione o DSpine como modelo rascunho no SGLang com 16 tokens de rascunho; a ficha aponta tarefas de código de 2,7 a 3,2 vezes mais rápidas. Os pesos são grátis, e as mesmas GPUs atendem mais requisições por hora.
Um engenheiro de ML comparando modelos rascunho
Escolher entre DFlash2 e DSpine para produção
Teste os dois com o seu próprio tráfego e a sua concorrência real, porque os números da Tencent vêm de oito requisições simultâneas e os ganhos caem com mais carga.
Antes de decidir
- Configuração
- Clone Tencent/DSpine e instale com pip, baixe os pesos do rascunho e inicie sglang serve com --speculative-algorithm DSPINE e as opções da ficha.
- Integrações
- SGLang 0.5.22 com FlashAttention 3 e FlashInfer; Qwen3.8-27B como modelo alvo.
- Dados e privacidade
- Roda nos seus próprios servidores; pesos sob a licença Apache 2.0.
- Custo em escala
- Sem custo de licença; decodificar mais rápido deixa as mesmas GPUs atenderem mais requisições, embora o rascunho ocupe um pouco mais de memória.
- Limites
- Preso ao Qwen3.8-27B e ao SGLang; ganhos caem com alta concorrência; método em preprint.
O que é bom
- Cerca de 2,7 a 3,8 vezes mais rápido em tarefas de agente, segundo a ficha
- A saída é idêntica à do modelo base
- Supera o rascunho oficial DFlash2 em todas as tarefas listadas
- Pesos abertos Apache 2.0
O que não é
- Só SGLang e o pacote DSpine
- Testes feitos pela Tencent em concorrência 8
- Os ganhos encolhem quando a GPU já está saturada
- Só serve com o Qwen3.8-27B
Ideal para
Equipes que servem o Qwen3.8-27B com SGLang e querem menos latência por requisição sem mudar as respostas do modelo.
Qwen3.8-27B DSpine: perguntas frequentes
- Qwen3.8-27B DSpine vale a pena?
- Um ganho de velocidade grátis para quem serve o Qwen3.8-27B: cerca de três vezes mais rápido em cargas de agentes, com saída idêntica à do modelo base, se você usa SGLang. Damos nota 4.2 de 5.
- Quanto custa Qwen3.8-27B DSpine?
- Pesos abertos grátis sob a licença Apache 2.0; você paga só as GPUs que servem o Qwen3.8-27B.
- Quais são as desvantagens de Qwen3.8-27B DSpine?
- Só SGLang e o pacote DSpine; testes feitos pela Tencent em concorrência 8; os ganhos encolhem quando a GPU já está saturada; só serve com o Qwen3.8-27B.
- Para quem Qwen3.8-27B DSpine é indicado?
- Equipes que servem o Qwen3.8-27B com SGLang e querem menos latência por requisição sem mudar as respostas do modelo.
- Quanto custa Qwen3.8-27B DSpine para uma equipe ou em produção?
- Sem custo de licença; decodificar mais rápido deixa as mesmas GPUs atenderem mais requisições, embora o rascunho ocupe um pouco mais de memória.
- Qwen3.8-27B DSpine é seguro para dados da empresa?
- Roda nos seus próprios servidores; pesos sob a licença Apache 2.0.
Respostas verificadas em 15 de nov. de 2026.