O que é d3-turbo (vLLM Semantic Router)?
O d3-turbo é o modelo de decisão multimodal de 27B aprimorado do Decision 3.0, do projeto vLLM Semantic Router. Foi publicado no Hugging Face em 19 de outubro de 2026 sob Apache 2.0, nove dias depois do d3, como um conjunto de pesos separado com fine-tuning a partir do Qwen3.8-27B (26,09 bilhões de parâmetros, incluindo um codificador de visão de 0,46B). Ele agora atende a API gratuita em decision.vllm-sr.ai, onde o nome vllm-sr/d3 é um apelido para ele.
Como o d3, ele responde perguntas de escolha, sim/não e nota com uma probabilidade para cada opção, sem gerar texto. Ele acrescenta respostas Box (onde um objeto está em uma imagem ou em um momento de um vídeo, com uma confiança), rastreamento em vídeo inteiro, imagens dentro de perguntas e opções e um modo de contexto longo de 131.072 tokens por pergunta, contra 32.768 por padrão.
Sua principal mudança de arquitetura é ler a entrada uma vez por requisição e responder todas as perguntas a partir dessa única leitura. O suporte no vLLM padrão e os builds quantizados ainda estavam pendentes quando verificamos; ele roda pelo Transformers ou pelo modo Engine do próprio Semantic Router.
d3-turbo (vLLM Semantic Router) vale a pena?
A melhoria principal é de arquitetura, não um salto no ranking. No Jev Decision Index da comunidade, atualizado em 22 de outubro de 2026, o d3-turbo v1.1 está em 10º de 229 entradas, com habilidade equilibrada de 67,31, um fio acima do d3, com 67,15. A nota na suíte pública é mais clara, 71,62 contra 65,45 do d3 após a repontuação do próprio índice, e as estimativas do cartão de 70,2 em texto e 72,9 em visão são da equipe, não resultados oficiais do placar.
O que muda a conta é ler uma vez só. Segundo o cartão, em uma AMD Instinct MI325X, 64 perguntas sobre uma foto levam 867 ms no d3-turbo contra 8,26 s no d3-flash de 9B, e 255 perguntas levam 2,12 s contra 32,94 s. Com uma única pergunta a ordem se inverte: o d3-flash responde em 154 ms, o d3-turbo em 302 ms. Um pipeline de moderação que faz uma dúzia de perguntas de política a cada envio é onde ele compensa; um roteador que faz uma pergunta por prompt fica mais bem servido por um irmão menor.
As respostas Box e de rastreamento o levam além da classificação. A equipe relata precisão de 0,90 com limiar de sobreposição de 0,5 em seu próprio conjunto Box e um F1 de presença de 0,97 em seus clipes de rastreamento. Toda pergunta Box devolve exatamente uma caixa, mesmo quando o objeto não está presente, então o cartão recomenda combiná-la com uma pergunta de sim/não, um detalhe que vai pegar desprevenido quem ligá-la direto a uma regra de alerta.
O serviço é menos maduro que o do d3. O pull request que adiciona o padrão de atenção do d3-turbo ao vLLM (#62584) ainda estava aberto na data da verificação, ainda não há builds FP8 nem de 4 bits (o projeto acompanha um pacote NVFP4 como issue aberta), e o caminho documentado do Engine mira AMD ROCm a partir do canal dev do roteador. Com 26,09 bilhões de parâmetros BF16, os pesos têm cerca de 52 GB, o que exclui uma única placa de 24 GB até chegarem builds quantizados.
Onde ele se destaca
Um líder de trust and safety em um marketplace que verifica 50.000 fotos de anúncios por dia contra 20 regras de política
Aplicar todas as regras a todas as fotos sem pagar por 20 chamadas ao modelo
Envie cada foto com as 20 regras como perguntas de sim/não em uma requisição; os números do cartão indicam 16 perguntas em 426 ms em uma MI325X, então 50.000 anúncios dão cerca de seis horas de GPU por dia. As probabilidades por regra permitem que os revisores definam limiares separados.
Um engenheiro de visão computacional em uma empresa de análise de varejo
Descobrir se, e onde, um produto aparece em clipes de câmeras de loja
Faça uma pergunta de presença sim/não e uma pergunta de rastreamento do produto em cada clipe, com uma ou duas atualizações por segundo. A API gratuita aceita um vídeo de até 60 segundos; volume de produção significa hospedar por conta própria os 52 GB de pesos BF16.
Um gerente de engenharia que já roda o d3 pela API gratuita
Entender por que as respostas mudaram sem mudança no código
O nome vllm-sr/d3 da API gratuita agora aponta para o d3-turbo, então as respostas podem diferir das registradas antes do lançamento do d3-turbo em 19 de outubro. Fixe um checkpoint auto-hospedado se a reprodutibilidade importar, e não envie dados sensíveis à API gratuita, que registra as requisições para melhorar os modelos.
Antes de decidir
- Configuração
- Instale o Transformers 5.17.0 e carregue com AutoModel e trust_remote_code, ou rode vllm-sr serve vllm-sr/d3-turbo --engine --platform rocm a partir do canal dev do roteador. O cartão relata cerca de 2,5 minutos para a primeira inicialização do Engine e 35 segundos nas seguintes.
- Integrações
- O formato de requisição System One compartilhado com o Jev, em /v1/systemone na API gratuita e no Engine; um método system_one() no Transformers; um Hugging Face Space. O suporte no vLLM padrão é um pull request aberto.
- Dados e privacidade
- Apache 2.0, herdada do Qwen3.8-27B; uso comercial permitido sem teto de receita. Auto-hospedado, as entradas ficam no seu hardware. A API gratuita informa que requisições e respostas podem ser registradas para melhorar os modelos.
- Custo em escala
- Sem preço hospedado. Os pesos BF16 têm cerca de 52 GB, então uma GPU da classe de 80 GB por réplica; o cartão não publica pico de memória, embora o d3, do mesmo tamanho, tenha chegado a 62 a 65 GiB. Builds quantizados ainda não estão disponíveis.
- Limites
- 32.768 tokens por pergunta por padrão, 131.072 com long_context; perguntas longas demais devolvem max_length_exceeded em vez de serem truncadas. A API gratuita limita as requisições a 64 perguntas, 16 imagens de 16 MiB, um vídeo de 60 segundos e um timeout de 35 segundos.
O que é bom
- 10º de 229 no Decision Index da comunidade (67,31)
- Uma leitura responde até 255 perguntas: 2,12 s para 255 em uma MI325X
- Respostas Box e de rastreamento em vídeo com confianças
- Apache 2.0 com uma API pública gratuita para testar
O que não é
- Mais lento que o d3-flash em requisições de uma só pergunta
- Ainda sem suporte no vLLM padrão; sem builds quantizados
- A API gratuita registra as requisições e não tem SLA
- A maioria dos números é da própria equipe, em hardware AMD
Ideal para
Equipes com GPUs que fazem muitas perguntas de sim/não, escolha ou localização sobre o mesmo texto, imagem ou vídeo e querem pesos abertos.
Alternativas ao d3-turbo (vLLM Semantic Router)
d3-turbo (vLLM Semantic Router): perguntas frequentes
- d3-turbo (vLLM Semantic Router) vale a pena?
- O d3-turbo se justifica quando uma entrada enfrenta muitas perguntas, e custa mais que o d3-flash quando enfrenta só uma. Damos nota 4.1 de 5.
- Quanto custa d3-turbo (vLLM Semantic Router)?
- Pesos grátis sob Apache 2.0. Sem API hospedada paga; uma API pública gratuita com registro de logs e sem SLA.
- Quais são as desvantagens de d3-turbo (vLLM Semantic Router)?
- Mais lento que o d3-flash em requisições de uma só pergunta; ainda sem suporte no vLLM padrão; sem builds quantizados; a API gratuita registra as requisições e não tem SLA; a maioria dos números é da própria equipe, em hardware AMD.
- Para quem d3-turbo (vLLM Semantic Router) é indicado?
- Equipes com GPUs que fazem muitas perguntas de sim/não, escolha ou localização sobre o mesmo texto, imagem ou vídeo e querem pesos abertos.
- Quanto custa d3-turbo (vLLM Semantic Router) para uma equipe ou em produção?
- Sem preço hospedado. Os pesos BF16 têm cerca de 52 GB, então uma GPU da classe de 80 GB por réplica; o cartão não publica pico de memória, embora o d3, do mesmo tamanho, tenha chegado a 62 a 65 GiB. Builds quantizados ainda não estão disponíveis.
- d3-turbo (vLLM Semantic Router) é seguro para dados da empresa?
- Apache 2.0, herdada do Qwen3.8-27B; uso comercial permitido sem teto de receita. Auto-hospedado, as entradas ficam no seu hardware. A API gratuita informa que requisições e respostas podem ser registradas para melhorar os modelos.
- Quais são as melhores alternativas ao d3-turbo (vLLM Semantic Router)?
- As alternativas mais próximas que analisamos são d3 (vLLM Semantic Router), Perplexity Decider (pplx-decider), Jev, Clef e GLiNER2.5-Decide.
Respostas verificadas em 23 de out. de 2026.