Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Qwen3.8-27B DSpine

O modelo rascunho de cinco camadas da Tencent que deixa o Qwen3.8-27B cerca de três vezes mais rápido com decodificação especulativa, mesmas respostas.

Análise de ReviewRamble editors · Atualizado

Visitar Qwen3.8-27B DSpine Código aberto

Compartilhe esta página:XLinkedInFacebookRedditWhatsAppE-mail

Nossa nota

4.2/5

Um ganho de velocidade grátis para quem serve o Qwen3.8-27B: cerca de três vezes mais rápido em cargas de agentes, com saída idêntica à do modelo base, se você usa SGLang.

O que é Qwen3.8-27B DSpine?

O DSpine não é um modelo para conversar. É um pequeno modelo rascunho de cinco camadas que trabalha ao lado do Qwen3.8-27B e propõe 16 tokens por vez, que o modelo completo confere numa única passada; os tokens aceitos saem bem mais rápido do que gerando um por um. O método da Tencent rascunha as 16 posições em paralelo, passando as características previstas de cada posição para a seguinte, o que mantém os rascunhos coerentes.

Nos testes de agentes da Tencent, servido com SGLang em BF16 com oito requisições simultâneas, ele entregou de 2,71 a 3,84 vezes a velocidade da decodificação normal, à frente do rascunho oficial DFlash2, com 2,33 a 3,17 vezes. É publicado sob a licença Apache 2.0, com um artigo de pesquisa no arXiv.

Qwen3.8-27B DSpine vale a pena?

A decodificação especulativa é a rara otimização que não custa qualidade: um modelo rascunho pequeno adivinha vários tokens, o modelo grande os confere numa passada e só ficam os tokens que o modelo grande teria produzido. O DSpine é o modelo rascunho da Tencent para o Qwen3.8-27B, com cinco camadas, que propõe blocos de 16 tokens.

Os ganhos da ficha são grandes e medidos em trabalho realista. Em tarefas de agente do WorkBuddy para código, web e escritório, SWE-bench Pro e τ²-bench, servido com SGLang 0.5.22 em concorrência 8, o DSpine aumentou a vazão de 2,71 a 3,84 vezes sobre a decodificação normal com amostragem gulosa, contra 2,33 a 3,17 vezes do rascunho oficial DFlash2. O comprimento médio aceito subiu de cerca de 4 a 5 tokens por passo para cerca de 5 a 7.

As restrições são práticas. Só funciona com SGLang e o pacote DSpine, exige FlashAttention 3, e o comando de referência pressupõe uma longa lista de opções ajustadas à atenção híbrida do Qwen3.8. Os ganhos encolhem com mais concorrência, quando as GPUs já estão ocupadas, e os testes são da própria Tencent, com oito requisições simultâneas. Como o artigo no arXiv é um preprint, o método não passou por revisão de pares.

Onde ele se destaca

  • Uma startup que roda um agente de programação com Qwen3.8-27B em duas H100

    Reduzir a espera em cada passo do agente

    Adicione o DSpine como modelo rascunho no SGLang com 16 tokens de rascunho; a ficha aponta tarefas de código de 2,7 a 3,2 vezes mais rápidas. Os pesos são grátis, e as mesmas GPUs atendem mais requisições por hora.

  • Um engenheiro de ML comparando modelos rascunho

    Escolher entre DFlash2 e DSpine para produção

    Teste os dois com o seu próprio tráfego e a sua concorrência real, porque os números da Tencent vêm de oito requisições simultâneas e os ganhos caem com mais carga.

Antes de decidir

Configuração
Clone Tencent/DSpine e instale com pip, baixe os pesos do rascunho e inicie sglang serve com --speculative-algorithm DSPINE e as opções da ficha.
Integrações
SGLang 0.5.22 com FlashAttention 3 e FlashInfer; Qwen3.8-27B como modelo alvo.
Dados e privacidade
Roda nos seus próprios servidores; pesos sob a licença Apache 2.0.
Custo em escala
Sem custo de licença; decodificar mais rápido deixa as mesmas GPUs atenderem mais requisições, embora o rascunho ocupe um pouco mais de memória.
Limites
Preso ao Qwen3.8-27B e ao SGLang; ganhos caem com alta concorrência; método em preprint.

O que é bom

  • Cerca de 2,7 a 3,8 vezes mais rápido em tarefas de agente, segundo a ficha
  • A saída é idêntica à do modelo base
  • Supera o rascunho oficial DFlash2 em todas as tarefas listadas
  • Pesos abertos Apache 2.0

O que não é

  • Só SGLang e o pacote DSpine
  • Testes feitos pela Tencent em concorrência 8
  • Os ganhos encolhem quando a GPU já está saturada
  • Só serve com o Qwen3.8-27B

Ideal para

Equipes que servem o Qwen3.8-27B com SGLang e querem menos latência por requisição sem mudar as respostas do modelo.

Qwen3.8-27B DSpine: perguntas frequentes

Qwen3.8-27B DSpine vale a pena?
Um ganho de velocidade grátis para quem serve o Qwen3.8-27B: cerca de três vezes mais rápido em cargas de agentes, com saída idêntica à do modelo base, se você usa SGLang. Damos nota 4.2 de 5.
Quanto custa Qwen3.8-27B DSpine?
Pesos abertos grátis sob a licença Apache 2.0; você paga só as GPUs que servem o Qwen3.8-27B.
Quais são as desvantagens de Qwen3.8-27B DSpine?
Só SGLang e o pacote DSpine; testes feitos pela Tencent em concorrência 8; os ganhos encolhem quando a GPU já está saturada; só serve com o Qwen3.8-27B.
Para quem Qwen3.8-27B DSpine é indicado?
Equipes que servem o Qwen3.8-27B com SGLang e querem menos latência por requisição sem mudar as respostas do modelo.
Quanto custa Qwen3.8-27B DSpine para uma equipe ou em produção?
Sem custo de licença; decodificar mais rápido deixa as mesmas GPUs atenderem mais requisições, embora o rascunho ocupe um pouco mais de memória.
Qwen3.8-27B DSpine é seguro para dados da empresa?
Roda nos seus próprios servidores; pesos sob a licença Apache 2.0.

Respostas verificadas em 15 de nov. de 2026.

Você faz o Qwen3.8-27B DSpine? Mostre esta nota no seu siteQwen3.8-27B DSpine com nota 4.2 de 5 no ReviewRamble