Skip to content

d3-turbo (vLLM Semantic Router)

El modelo de decisión de 27B mejorado de vLLM Semantic Router: lee una entrada una vez, responde hasta 255 preguntas y localiza objetos en vídeo.

Reseña de Andrew Miller · Actualizado

Nuestra nota

4.1/5

d3-turbo se gana su sitio cuando una entrada se enfrenta a muchas preguntas, y cuesta más que d3-flash cuando se enfrenta a una sola.

¿Qué es d3-turbo (vLLM Semantic Router)?

d3-turbo es el modelo de decisión multimodal de 27B mejorado de Decision 3.0, del proyecto vLLM Semantic Router. Se publicó en Hugging Face el 19 de octubre de 2026 bajo Apache 2.0, nueve días después de d3, como un conjunto de pesos aparte ajustado a partir de Qwen3.8-27B (26.090 millones de parámetros, incluido un codificador de visión de 0,46B). Ahora sirve la API gratuita de decision.vllm-sr.ai, donde el nombre vllm-sr/d3 es un alias suyo.

Como d3, responde preguntas choice, de sí o no y score con una probabilidad para cada opción, sin generar texto. Añade respuestas Box (dónde está un objeto en una imagen o en un momento de un vídeo, con una confianza), seguimiento en vídeos completos, imágenes dentro de preguntas y opciones, y un modo de contexto largo de 131.072 tokens por pregunta, frente a 32.768 por defecto.

Su principal cambio de arquitectura es leer la entrada una vez por petición y responder todas las preguntas a partir de esa única lectura. La compatibilidad con vLLM estándar y las versiones cuantizadas seguían pendientes cuando lo comprobamos; funciona con Transformers o con el modo Engine propio de Semantic Router.

¿Merece la pena d3-turbo (vLLM Semantic Router)?

La mejora principal es de arquitectura, no un salto en la clasificación. En el Jev Decision Index de la comunidad, actualizado el 22 de octubre de 2026, d3-turbo v1.1 ocupa el puesto 10 de 229 entradas con una habilidad equilibrada de 67,31, apenas por encima de d3 con 67,15. Su puntuación en la batería pública es más clara, 71,62 frente a 65,45 de d3 tras la nueva puntuación del propio índice, y las estimaciones de la ficha de 70,2 en texto y 72,9 en visión son del equipo, no resultados oficiales de la clasificación.

Lo que cambia la economía es leer una sola vez. Según la ficha, en una AMD Instinct MI325X, 64 preguntas sobre una foto tardan 867 ms en d3-turbo frente a 8,26 s en el d3-flash de 9B, y 255 preguntas tardan 2,12 s frente a 32,94 s. Con una sola pregunta el orden se invierte: d3-flash responde en 154 ms y d3-turbo en 302 ms. Una canalización de moderación que hace una docena de preguntas de política a cada archivo subido es donde compensa; a un enrutador que hace una pregunta por prompt le sirve mejor un hermano más pequeño.

Las respuestas Box y de seguimiento lo llevan más allá de la clasificación. El equipo declara una precisión de 0,90 con un umbral de solapamiento de 0,5 en su propio conjunto Box y un F1 de presencia de 0,97 en sus clips de seguimiento. Cada pregunta Box devuelve exactamente un recuadro aunque el objeto no esté, así que la ficha aconseja combinarla con una pregunta de sí o no, un detalle que pillará desprevenido a quien la conecte directamente a una regla de alertas.

El despliegue está menos maduro que el de d3. La pull request que añade a vLLM el patrón de atención de d3-turbo (#62584) seguía abierta en la fecha de nuestra comprobación, todavía no hay versiones FP8 ni de 4 bits (el proyecto sigue un paquete NVFP4 como incidencia abierta) y la vía Engine documentada apunta a AMD ROCm desde el canal dev del enrutador. Con 26.090 millones de parámetros BF16, los pesos ocupan unos 52 GB, lo que descarta una sola tarjeta de 24 GB hasta que lleguen las versiones cuantizadas.

Dónde se gana su sitio

  • La responsable de confianza y seguridad de un marketplace que revisa 50.000 fotos de anuncios al día según 20 normas

    Aplicar todas las normas a todas las fotos sin pagar 20 llamadas al modelo

    Envía cada foto con las 20 normas como preguntas de sí o no en una sola petición; las cifras de la ficha sitúan 16 preguntas en 426 ms en una MI325X, así que 50.000 anuncios son unas seis horas de GPU al día. Las probabilidades por norma permiten a los revisores fijar umbrales distintos.

  • Un ingeniero de visión artificial de una empresa de analítica para el comercio minorista

    Saber si un producto aparece en los clips de las cámaras de tienda, y dónde

    Haz una pregunta de presencia de sí o no y una pregunta de seguimiento del producto en cada clip, con una o dos actualizaciones por segundo. La API gratuita acepta un vídeo de hasta 60 segundos; el volumen de producción obliga a alojar uno mismo los 52 GB de pesos BF16.

  • Un responsable de ingeniería que ya usa d3 a través de la API gratuita

    Entender por qué cambiaron las respuestas sin ningún cambio de código

    El nombre vllm-sr/d3 de la API gratuita apunta ahora a d3-turbo, así que las respuestas pueden diferir de las registradas antes de la publicación de d3-turbo el 19 de octubre. Fija un checkpoint autoalojado si importa la reproducibilidad, y no envíes datos sensibles a la API gratuita, que registra las peticiones para mejorar los modelos.

Antes de decidirte

Puesta en marcha
Instala Transformers 5.17.0 y carga el modelo con AutoModel y trust_remote_code, o ejecuta vllm-sr serve vllm-sr/d3-turbo --engine --platform rocm desde el canal dev del enrutador. La ficha indica unos 2,5 minutos para el primer arranque de Engine y 35 segundos después.
Integraciones
El formato de petición System One compartido con Jev, en /v1/systemone en la API gratuita y en Engine; un método system_one() de Transformers; un Space de Hugging Face. La compatibilidad con vLLM estándar es una pull request abierta.
Datos y privacidad
Apache 2.0, heredada de Qwen3.8-27B; se permite el uso comercial sin tope de ingresos. Autoalojado, las entradas se quedan en tu hardware. La API gratuita indica que las peticiones y respuestas pueden registrarse para mejorar los modelos.
Coste a escala
Sin precio alojado. Los pesos BF16 ocupan unos 52 GB, así que hace falta una GPU de clase 80 GB por réplica; la ficha no publica el pico de memoria, aunque d3, del mismo tamaño, alcanzó picos de 62 a 65 GiB. Aún no hay versiones cuantizadas.
Límites
32.768 tokens por pregunta por defecto, 131.072 con long_context; las preguntas demasiado largas devuelven max_length_exceeded en lugar de recortarse. La API gratuita limita las peticiones a 64 preguntas, 16 imágenes de 16 MiB, un vídeo de 60 segundos y un tiempo de espera de 35 segundos.

Lo bueno

  • Puesto 10 de 229 en el Decision Index de la comunidad (67,31)
  • Una lectura responde hasta 255 preguntas: 2,12 s para 255 en una MI325X
  • Respuestas Box y de seguimiento en vídeo con confianzas
  • Apache 2.0 con una API pública gratuita para probarlo

Lo malo

  • Más lento que d3-flash en peticiones de una sola pregunta
  • Aún no es compatible con vLLM estándar; sin versiones cuantizadas
  • La API gratuita registra las peticiones y no tiene SLA
  • La mayoría de las cifras son del propio equipo, en hardware de AMD

Ideal para

Equipos con GPU que hacen muchas preguntas de sí o no, de elección o de localización sobre el mismo texto, imagen o vídeo y quieren pesos abiertos.

Alternativas a d3-turbo (vLLM Semantic Router)

d3-turbo (vLLM Semantic Router): preguntas frecuentes

¿Merece la pena d3-turbo (vLLM Semantic Router)?
d3-turbo se gana su sitio cuando una entrada se enfrenta a muchas preguntas, y cuesta más que d3-flash cuando se enfrenta a una sola. Le damos un 4.1 sobre 5.
¿Cuánto cuesta d3-turbo (vLLM Semantic Router)?
Pesos gratuitos bajo Apache 2.0. Sin API alojada de pago; una API pública gratuita con registro de peticiones y sin SLA.
¿Qué inconvenientes tiene d3-turbo (vLLM Semantic Router)?
Más lento que d3-flash en peticiones de una sola pregunta; aún no es compatible con vLLM estándar; sin versiones cuantizadas; la API gratuita registra las peticiones y no tiene SLA; la mayoría de las cifras son del propio equipo, en hardware de AMD.
¿Para quién es d3-turbo (vLLM Semantic Router)?
Equipos con GPU que hacen muchas preguntas de sí o no, de elección o de localización sobre el mismo texto, imagen o vídeo y quieren pesos abiertos.
¿Cuánto cuesta d3-turbo (vLLM Semantic Router) para un equipo o en producción?
Sin precio alojado. Los pesos BF16 ocupan unos 52 GB, así que hace falta una GPU de clase 80 GB por réplica; la ficha no publica el pico de memoria, aunque d3, del mismo tamaño, alcanzó picos de 62 a 65 GiB. Aún no hay versiones cuantizadas.
¿Es d3-turbo (vLLM Semantic Router) seguro para los datos de la empresa?
Apache 2.0, heredada de Qwen3.8-27B; se permite el uso comercial sin tope de ingresos. Autoalojado, las entradas se quedan en tu hardware. La API gratuita indica que las peticiones y respuestas pueden registrarse para mejorar los modelos.
¿Cuáles son las mejores alternativas a d3-turbo (vLLM Semantic Router)?
Las alternativas más cercanas que hemos analizado son d3 (vLLM Semantic Router), Perplexity Decider (pplx-decider), Jev, Clef y GLiNER2.5-Decide.

Respuestas comprobadas el 23 oct 2026.