¿Qué es d3 (vLLM Semantic Router)?
d3 es el modelo de decisión multimodal de 27B de Decision 3.0, del proyecto vLLM Semantic Router. Se publicó en Hugging Face el 10 de octubre de 2026 bajo Apache 2.0, ajustado a partir de Qwen3.8-27B (26.090 millones de parámetros, incluido un codificador de visión de 0,46B). Nueve días después el equipo lanzó d3-turbo, un modelo de 27B mejorado que ahora sirve la demostración gratuita de decision.vllm-sr.ai; d3 sigue disponible como pesos.
Recibe texto o JSON más varias imágenes o vídeos por petición y responde preguntas choice, de sí o no y score con una probabilidad para cada opción, sin generar texto. Las imágenes se leen hasta 1,6 megapíxeles y los vídeos a 2 fotogramas por segundo, hasta 32 fotogramas.
La rama principal de vLLM carga d3 tal cual desde el 14 de octubre de 2026 y responde en un endpoint /v1/systemone, con la misma forma de petición que Jev. Hay versiones oficiales FP8, NVFP4 e int4 (AWQ y GPTQ); las de 4 bits reducen los 52,2 GB de pesos a unos 16 o 17 GB.
¿Merece la pena d3 (vLLM Semantic Router)?
d3 es un modelo de decisión abierto sólido que ya ha sido superado. En el Jev Decision Index 0.4.1 de la comunidad, actualizado el 22 de octubre de 2026, ocupa el puesto 11 de 229 entradas con 67,15, dentro de una franja de empate y justo detrás de su hermano d3-turbo con 67,31. Su ficha, redactada con la clasificación oficial 0.3.2, reclamaba el primer puesto en texto con 66,3; tanto el índice como el proyecto han avanzado desde entonces. Jev 1.14 obtiene 60,24 en la misma clasificación de la comunidad.
El despliegue es el motivo para fijarse en él. vLLM carga el repositorio sin conversión y expone el endpoint /v1/systemone al estilo de Jev, aunque la compatibilidad llegó a main el 14 de octubre y no figura entre los cambios de la v0.32.0, que el 26 de octubre seguía siendo la última versión, así que hace falta una compilación nightly. La ficha indica una mediana de 54,4 ms para una pregunta de texto, 290 ms con una imagen y 500 ms con un vídeo de 10 segundos en una AMD Instinct MI325X, y 27 peticiones por segundo con un p99 inferior a un segundo a través de Semantic Router. Son cifras del propio proyecto en hardware de AMD; la vía CUDA no se había probado en una GPU de NVIDIA cuando se escribió la ficha.
La entrada de vídeo sigue siendo poco común entre los modelos de decisión. La ficha declara 77,4 en el conjunto de validación de Perception Test, una evaluación interna, y la clasificación de visión de la comunidad sitúa a d3 noveno de 55 con 71,26. d3-turbo va más allá: añade recuadros delimitadores, seguimiento en vídeo y un modo de contexto largo de 131.072 tokens, y lee la entrada una sola vez se hagan las preguntas que se hagan.
La memoria es el coste operativo. Una réplica BF16 alcanzó picos de 62 a 65 GiB en la MI325X, y vLLM debe arrancarse con --max-model-len 32768 o perfila una pasada de 262.144 tokens que no cabe en una GPU de 80 GB. Las versiones int4 dejan los pesos en unos 16 GB y conservan aproximadamente el 97% de las respuestas de d3, al alcance de una tarjeta de 24 GB, pero la versión NVFP4 necesita una GPU Blackwell y la AWQ va 1,29 veces más lenta que BF16. La misma receta se aplica ahora a d3-turbo, así que el principal motivo para fijar d3 es una canalización ya validada con este checkpoint exacto.
Dónde se gana su sitio
Un ingeniero de plataforma que ejecuta vLLM en GPU de 80 GB
Añadir enrutamiento y comprobaciones de políticas delante de una pasarela de LLM sin un nuevo entorno de ejecución
Sirve d3 o su versión FP8 con --max-model-len 32768 y envía cada petición a /v1/systemone con preguntas choice y de sí o no. La ficha indica 54 ms para una decisión de texto de una pregunta y 27 peticiones por segundo por MI325X; el coste es la GPU, unos 62 a 65 GiB por réplica BF16.
La responsable de confianza y seguridad de un marketplace que revisa 50.000 fotos de anuncios al día
Marcar los anuncios cuyas fotos contradicen la descripción
Envía el texto y las fotos del anuncio en una sola petición y haz preguntas de sí o no y score; cada respuesta lleva una probabilidad, así que los umbrales de revisión se pueden ajustar. A 290 ms por petición con imagen en una GPU, 50.000 peticiones son unas cuatro horas de GPU al día antes de agrupar en lotes.
Un responsable de ingeniería que compara alojarlo por su cuenta con una API de decisión alojada
Decidir si merece la pena ejecutar un modelo abierto
d3 no tiene endpoint de pago, así que el coste son las GPU más las guardias, y la demostración gratuita ejecuta ahora d3-turbo sin SLA. Los equipos sin operaciones de GPU dedicarán menos tiempo de personal a una opción alojada como pplx-decider o Jev.
Antes de decidirte
- Puesta en marcha
- Instala la versión fijada Transformers 5.17.0 y carga el modelo con AutoModel y trust_remote_code, o instala una nightly de vLLM y ejecuta vllm serve vllm-sr/d3 --max-model-len 32768. El primer arranque con cachés vacías tardó 215 s en vLLM (139 s con el límite de longitud) frente a 40 s con AutoModel.
- Integraciones
- vLLM /v1/systemone (nightly), modo Engine de vLLM Semantic Router (canal dev), una pipeline de Transformers y un d3_server.py incluido. El formato de petición coincide con el de Jev.
- Datos y privacidad
- Apache 2.0, heredada de Qwen3.8-27B; se permite el uso comercial sin tope de ingresos. Autoalojado, las entradas se quedan en tu hardware; las condiciones de datos de la demostración gratuita no se publican.
- Coste a escala
- Sin precio alojado. Los pesos BF16 ocupan 52,2 GB y una réplica alcanzó picos de 62 a 65 GiB en una MI325X. La versión NVFP4 necesita unos 18 GB libres en una GPU Blackwell; la AWQ int4, unos 18 GB en cualquier GPU, con 1,29 veces la latencia.
- Límites
- Un vídeo de 32 fotogramas ocupa unos 6K tokens. Un campo instructions de nivel superior devuelve 400. El modo Engine admite 32 peticiones en curso por worker y devuelve 503 para el resto, y las peticiones con imagen de ocho preguntas no lograron un p99 de un segundo con ninguna de las cargas probadas.
Lo bueno
- Puesto 11 de 229 en el Decision Index 0.4.1 de la comunidad (67,15)
- Carga en vLLM estándar con un endpoint compatible con Jev
- Lee varias imágenes y vídeos por petición
- Versiones oficiales FP8, NVFP4 e int4 desde unos 16 GB
Lo malo
- Sustituido por d3-turbo nueve días después de su publicación
- Por ahora la compatibilidad con vLLM solo está en compilaciones nightly
- Las cifras de velocidad son del propio proyecto, en AMD MI325X
- Los hermanos más pequeños puntúan mucho menos: d3-flash 54,27, d3-mini 49,97
Ideal para
Equipos que ya usan vLLM y quieren un modelo de decisión abierto para comprobaciones de texto, imagen o vídeo en sus propias GPU, y que lo han validado con este checkpoint.
Alternativas a d3 (vLLM Semantic Router)
d3 (vLLM Semantic Router): preguntas frecuentes
- ¿Merece la pena d3 (vLLM Semantic Router)?
- Potente, abierto y fácil de servir en vLLM, pero nueve días después de su lanzamiento su propio d3-turbo lo convirtió en la versión de la que migrar. Le damos un 4.0 sobre 5.
- ¿Cuánto cuesta d3 (vLLM Semantic Router)?
- Pesos gratuitos bajo Apache 2.0. Sin API alojada de pago; la demostración pública gratuita sirve ahora d3-turbo.
- ¿Qué inconvenientes tiene d3 (vLLM Semantic Router)?
- Sustituido por d3-turbo nueve días después de su publicación; por ahora la compatibilidad con vLLM solo está en compilaciones nightly; las cifras de velocidad son del propio proyecto, en AMD MI325X; los hermanos más pequeños puntúan mucho menos: d3-flash 54,27, d3-mini 49,97.
- ¿Para quién es d3 (vLLM Semantic Router)?
- Equipos que ya usan vLLM y quieren un modelo de decisión abierto para comprobaciones de texto, imagen o vídeo en sus propias GPU, y que lo han validado con este checkpoint.
- ¿Cuánto cuesta d3 (vLLM Semantic Router) para un equipo o en producción?
- Sin precio alojado. Los pesos BF16 ocupan 52,2 GB y una réplica alcanzó picos de 62 a 65 GiB en una MI325X. La versión NVFP4 necesita unos 18 GB libres en una GPU Blackwell; la AWQ int4, unos 18 GB en cualquier GPU, con 1,29 veces la latencia.
- ¿Es d3 (vLLM Semantic Router) seguro para los datos de la empresa?
- Apache 2.0, heredada de Qwen3.8-27B; se permite el uso comercial sin tope de ingresos. Autoalojado, las entradas se quedan en tu hardware; las condiciones de datos de la demostración gratuita no se publican.
- ¿Cuáles son las mejores alternativas a d3 (vLLM Semantic Router)?
- Las alternativas más cercanas que hemos analizado son Perplexity Decider (pplx-decider), Jev, Clef, GLiNER2.5-Decide y Laya.
Respuestas comprobadas el 26 oct 2026.