¿Qué es Qwen3.8-27B DSpine?
DSpine no es un modelo con el que se chatee. Es un pequeño modelo borrador de cinco capas que acompaña a Qwen3.8-27B y propone 16 tokens cada vez, que el modelo completo comprueba de una sola pasada; los tokens aceptados salen mucho más rápido que generándolos uno a uno. El método de Tencent redacta las 16 posiciones en paralelo y pasa las características previstas de cada posición a la siguiente, lo que mantiene coherentes los borradores.
En las pruebas de agentes de Tencent, servido con SGLang en BF16 con ocho peticiones simultáneas, dio de 2,71 a 3,84 veces la velocidad de la decodificación normal, por delante del borrador oficial DFlash2, con 2,33 a 3,17 veces. Se publica con licencia Apache 2.0 y un artículo de investigación en arXiv.
¿Merece la pena Qwen3.8-27B DSpine?
La decodificación especulativa es esa rara optimización que no cuesta calidad: un modelo borrador pequeño adivina varios tokens, el modelo grande los verifica de una pasada y solo se conservan los que el modelo grande habría producido. DSpine es el modelo borrador de Tencent para Qwen3.8-27B, de cinco capas, que propone bloques de 16 tokens.
Las mejoras de la ficha son grandes y se miden con trabajo realista. En tareas de agente de WorkBuddy para código, web y ofimática, SWE-bench Pro y τ²-bench, servido con SGLang 0.5.22 con concurrencia 8, DSpine multiplicó el rendimiento entre 2,71 y 3,84 veces frente a la decodificación normal con muestreo voraz, frente a 2,33 a 3,17 veces del borrador oficial DFlash2. La longitud media aceptada pasó de unos 4 a 5 tokens por paso a unos 5 a 7.
Las limitaciones son prácticas. Solo funciona con SGLang y el paquete DSpine, necesita FlashAttention 3, y el comando de referencia asume una larga lista de opciones ajustadas a la atención híbrida de Qwen3.8. Las mejoras se reducen con más concurrencia, cuando las GPU ya están ocupadas, y las pruebas son de la propia Tencent, con ocho peticiones simultáneas. Como el artículo de arXiv es un preprint, el método no ha pasado revisión por pares.
Dónde se gana su sitio
Una startup que ejecuta un agente de programación con Qwen3.8-27B en dos H100
Reducir la espera en cada paso del agente
Añade DSpine como modelo borrador en SGLang con 16 tokens de borrador; la ficha indica tareas de código entre 2,7 y 3,2 veces más rápidas. Los pesos son gratis y las mismas GPU atienden más peticiones por hora.
Un ingeniero de ML que compara modelos borrador
Elegir entre DFlash2 y DSpine para producción
Prueba ambos con tu propio tráfico y tu concurrencia real, porque las cifras de Tencent salen de ocho peticiones simultáneas y las mejoras caen al subir la carga.
Antes de decidirte
- Puesta en marcha
- Clona Tencent/DSpine e instálalo con pip, descarga los pesos del borrador y arranca sglang serve con --speculative-algorithm DSPINE y las opciones de la ficha.
- Integraciones
- SGLang 0.5.22 con FlashAttention 3 y FlashInfer; Qwen3.8-27B como modelo objetivo.
- Datos y privacidad
- Se ejecuta en tus propios servidores; pesos con licencia Apache 2.0.
- Coste a escala
- Sin coste de licencia; decodificar más rápido permite que las mismas GPU atiendan más peticiones, aunque el borrador ocupa algo más de memoria.
- Límites
- Ligado a Qwen3.8-27B y SGLang; las mejoras caen con alta concurrencia; método en preprint.
Lo bueno
- Entre 2,7 y 3,8 veces más rápido en tareas de agente, según la ficha
- La salida coincide exactamente con la del modelo base
- Supera al borrador oficial DFlash2 en todas las tareas listadas
- Pesos abiertos Apache 2.0
Lo malo
- Solo SGLang y el paquete DSpine
- Pruebas hechas por Tencent con concurrencia 8
- Las mejoras se reducen cuando la GPU ya está saturada
- Solo sirve con Qwen3.8-27B
Ideal para
Equipos que sirven Qwen3.8-27B con SGLang y quieren menos latencia por petición sin cambiar las respuestas del modelo.
Qwen3.8-27B DSpine: preguntas frecuentes
- ¿Merece la pena Qwen3.8-27B DSpine?
- Una aceleración gratuita para quien sirve Qwen3.8-27B: unas tres veces más rápido en cargas de agentes, con una salida idéntica a la del modelo base, si usas SGLang. Le damos un 4.2 sobre 5.
- ¿Cuánto cuesta Qwen3.8-27B DSpine?
- Pesos abiertos gratuitos con licencia Apache 2.0; solo pagas las GPU que sirven Qwen3.8-27B.
- ¿Qué inconvenientes tiene Qwen3.8-27B DSpine?
- Solo SGLang y el paquete DSpine; pruebas hechas por Tencent con concurrencia 8; las mejoras se reducen cuando la GPU ya está saturada; solo sirve con Qwen3.8-27B.
- ¿Para quién es Qwen3.8-27B DSpine?
- Equipos que sirven Qwen3.8-27B con SGLang y quieren menos latencia por petición sin cambiar las respuestas del modelo.
- ¿Cuánto cuesta Qwen3.8-27B DSpine para un equipo o en producción?
- Sin coste de licencia; decodificar más rápido permite que las mismas GPU atiendan más peticiones, aunque el borrador ocupa algo más de memoria.
- ¿Es Qwen3.8-27B DSpine seguro para los datos de la empresa?
- Se ejecuta en tus propios servidores; pesos con licencia Apache 2.0.
Respuestas comprobadas el 15 nov 2026.