¿Qué es DSpine?
DSpine es un método de decodificación especulativa y un plugin de SGLang de Tencent, publicado con un artículo en septiembre de 2026 y con código desde octubre. La decodificación especulativa usa un modelo borrador pequeño para adivinar varios tokens por adelantado, que el modelo principal comprueba después en una sola pasada, de modo que la generación es más rápida sin cambiar lo que el modelo principal habría escrito. El borrador de DSpine propone de una vez un bloque de 16 tokens y, en cada capa, pasa la característica predicha de cada posición a la siguiente, para que las conjeturas del final del bloque sean coherentes con las del principio.
Hay pesos de borrador para dos modelos objetivo: Qwen3-8B y, desde el 7 de noviembre, Qwen3.8-27B, un borrador de cinco capas y unos 2.000 millones de parámetros con una ventana deslizante de 8.192 tokens. El código funciona como plugin de SGLang 0.5.22 sobre CUDA, con una vía para Apple silicon mediante mlx-lm solo para Qwen3-8B; el código de entrenamiento está en SpecForge.
El código y los pesos están bajo Apache 2.0 (GitHub muestra la licencia como no reconocida por un preámbulo de Tencent en el archivo). El repositorio tiene unas 234 estrellas y ninguna versión etiquetada.
¿Merece la pena DSpine?
El argumento de DSpine descansa en las repeticiones de agentes de Tencent. Sirviendo Qwen3.8-27B con ocho peticiones simultáneas, informa de un rendimiento de extremo a extremo de 2,71 a 3,84 veces el de la decodificación normal en trazas de código, web y oficina de WorkBuddy, SWE-bench Pro y τ²-bench. El borrador oficial DFlash2 de z-lab para este modelo logró de 2,33 a 3,17 veces en las mismas repeticiones. En WorkBuddy Office con razonamiento bajo, eso son 805,53 tokens por segundo frente a 664,77 de DFlash2 y 210,03 sin especulación.
La mejora viene de conjeturas aceptadas más largas. La ficha del modelo da una media de 5,63 tokens aceptados por paso en WorkBuddy Office frente a 4,24 de DFlash2, y el artículo, con Qwen3-8B, sube la longitud media de aceptación de 3,77 en DFlash a 4,82 y el rendimiento al servir un 23,3% respecto a DFlash. Todas son cifras de Tencent, y la ficha no dice qué GPU usó, aunque el backend FlashAttention 3 de su comando apunta a una tarjeta de clase Hopper.
La pega es el alcance. Un borrador se entrena para un único modelo objetivo, y DSpine tiene dos. La vía de 27B necesita una larga lista de opciones de SGLang, ReplaySSM para las capas de atención lineal de Qwen3.8 y un ajuste de su verificación dinámica para cada carga de trabajo. La versión MLX solo cubre Qwen3-8B, y el plugin de CUDA está atado a una versión concreta de SGLang.
Nuestra opinión: la decodificación especulativa es la aceleración más barata que puede conseguir un equipo de serving, porque no cambia nada de las respuestas. Si Qwen3.8-27B ya es tu modelo de agentes en SGLang, DSpine merece una tarde de pruebas contra DFlash2 con tu propio tráfico; si no, espera a un borrador entrenado para tu modelo.
Dónde se gana su sitio
Un ingeniero de plataforma que usa Qwen3.8-27B como modelo de un agente de programación interno
Atender más sesiones de agente por GPU sin cambiar las respuestas
Añade el borrador de 2.000 millones de parámetros al servidor SGLang existente con --speculative-algorithm DSPINE; Tencent informa de unas 3 veces el rendimiento de la decodificación normal en repeticiones de SWE-bench Pro. Ejecuta antes el script de ajuste SPS con tus propias trazas.
Una desarrolladora que ejecuta Qwen3-8B en local en un Mac con chip M
Acelerar la generación para un solo usuario sin servidor con GPU
Instala el paquete dspine_mlx y ejecuta dspine-generate con un modelo objetivo de mlx-lm sin modificar; Tencent dice que necesita unos 21 GB de memoria unificada para un Qwen3-8B en BF16.
Un investigador de inferencia que compara borradores paralelos
Reproducir DSpine frente a DFlash2 y DSpark en un modelo nuevo
El código de entrenamiento está en el pull request 1038 de SpecForge, entrenado con los datos de Open-PerfectBlend en las pruebas de Tencent. El artículo da una aceptación media un 27,8% más larga que DFlash con Qwen3-8B a temperatura cero.
Antes de decidirte
- Puesta en marcha
- git clone del repositorio y pip install -e . en un entorno de SGLang 0.5.22 con Python 3.11+ y CUDA; luego arranca sglang serve con las opciones DSPINE de la ficha del modelo; el borrador se descarga de Hugging Face.
- Integraciones
- Plugin de SGLang (CUDA) y plugin de SGLang-MLX para Apple silicon; borradores entrenados con SpecForge; usa verificación dinámica al estilo DSpark y ReplaySSM para las capas de atención lineal de Qwen3.8.
- Datos y privacidad
- Funciona por completo en tu hardware, sin telemetría descrita. Apache 2.0 para código y pesos, con componentes de terceros bajo sus propias licencias según THIRD_PARTY_NOTICES.
- Coste a escala
- El software es gratis; el coste es la GPU que ya ejecuta el modelo objetivo más memoria para un borrador de 2.000 millones de parámetros. Las cifras publicadas de 27B usaron BF16 y ocho peticiones simultáneas.
- Límites
- Dos modelos objetivo compatibles; probado con concurrencia baja (ocho peticiones); la mejora depende de lo predecible que sea tu tráfico; el plugin de CUDA sigue una sola versión de SGLang.
Lo bueno
- De 2,71 a 3,84 veces el rendimiento de la decodificación normal en repeticiones de agentes (autodeclarado)
- Supera a DFlash2 en todas las pruebas de las tablas de Tencent
- Código y pesos Apache 2.0; código de entrenamiento en SpecForge
- Salida sin cambios: el modelo principal verifica cada token del borrador
Lo malo
- Borradores solo para Qwen3-8B y Qwen3.8-27B
- La configuración de 27B necesita muchas opciones de SGLang y ajuste por carga de trabajo
- No se indica el hardware de las cifras publicadas
- Repositorio joven: unas 234 estrellas, sin versiones
Ideal para
Equipos que sirven Qwen3.8-27B o Qwen3-8B en SGLang y quieren más tokens por GPU sin cambiar las salidas.
Alternativas a DSpine
DSpine: preguntas frecuentes
- ¿Merece la pena DSpine?
- DSpine es una aceleración real para quien sirve Qwen3.8-27B en SGLang, y por ahora no sirve de nada a quien sirve cualquier otro modelo. Le damos un 3.8 sobre 5.
- ¿Cuánto cuesta DSpine?
- Gratis bajo Apache 2.0, código y pesos del borrador. Necesitas tu propia GPU ejecutando el modelo objetivo.
- ¿Qué inconvenientes tiene DSpine?
- Borradores solo para Qwen3-8B y Qwen3.8-27B; la configuración de 27B necesita muchas opciones de SGLang y ajuste por carga de trabajo; no se indica el hardware de las cifras publicadas; repositorio joven: unas 234 estrellas, sin versiones.
- ¿Para quién es DSpine?
- Equipos que sirven Qwen3.8-27B o Qwen3-8B en SGLang y quieren más tokens por GPU sin cambiar las salidas.
- ¿Cuánto cuesta DSpine para un equipo o en producción?
- El software es gratis; el coste es la GPU que ya ejecuta el modelo objetivo más memoria para un borrador de 2.000 millones de parámetros. Las cifras publicadas de 27B usaron BF16 y ocho peticiones simultáneas.
- ¿Es DSpine seguro para los datos de la empresa?
- Funciona por completo en tu hardware, sin telemetría descrita. Apache 2.0 para código y pesos, con componentes de terceros bajo sus propias licencias seg ún THIRD_PARTY_NOTICES.
- ¿Cuáles son las mejores alternativas a DSpine?
- Las alternativas más cercanas que hemos analizado son SGLang y vLLM.
Respuestas comprobadas el 11 nov 2026.