O que é d3 (vLLM Semantic Router)?
O d3 é o modelo de decisão multimodal de 27B do Decision 3.0, do projeto vLLM Semantic Router. Foi publicado no Hugging Face em 10 de outubro de 2026 sob Apache 2.0, com fine-tuning a partir do Qwen3.8-27B (26,09 bilhões de parâmetros, incluindo um codificador de visão de 0,46B). Nove dias depois a equipe lançou o d3-turbo, um modelo de 27B aprimorado que agora atende a demonstração gratuita em decision.vllm-sr.ai; o d3 continua disponível como pesos.
Ele recebe texto ou JSON mais várias imagens ou vídeos por requisição e responde perguntas de escolha, sim/não e nota com uma probabilidade para cada opção, sem gerar texto. As imagens são lidas com até 1,6 megapixel, os vídeos a 2 quadros por segundo, até 32 quadros.
O branch principal do vLLM carrega o d3 como está desde 14 de outubro de 2026 e responde em um endpoint /v1/systemone, com o mesmo formato de requisição do Jev. Há builds oficiais FP8, NVFP4 e int4 (AWQ e GPTQ) publicados; os de 4 bits reduzem os 52,2 GB de pesos para cerca de 16 a 17 GB.
d3 (vLLM Semantic Router) vale a pena?
O d3 é um modelo de decisão aberto sólido que já foi superado. No Jev Decision Index 0.4.1 da comunidade, atualizado em 22 de outubro de 2026, ele está em 11º de 229 entradas, com 67,15, dentro de uma faixa de empate e logo atrás do irmão d3-turbo, com 67,31. O cartão, escrito com base no placar oficial 0.3.2, reivindicava o primeiro lugar em texto com 66,3; o índice e o projeto seguiram em frente. O Jev 1.14 marca 60,24 no mesmo placar da comunidade.
O serviço é o motivo para olhar para ele. O vLLM carrega o repositório sem conversão e expõe o endpoint /v1/systemone no estilo do Jev, embora o suporte tenha entrado no main em 14 de outubro e não esteja entre as mudanças listadas para a v0.32.0, ainda a versão mais recente em 26 de outubro, então é preciso um build nightly. O cartão relata mediana de 54,4 ms para uma pergunta de texto, 290 ms com uma imagem e 500 ms com um vídeo de 10 segundos em uma AMD Instinct MI325X, e 27 requisições por segundo com p99 abaixo de um segundo pelo Semantic Router. Esses são números do próprio projeto em hardware AMD; o caminho CUDA não tinha sido executado em uma GPU NVIDIA quando o cartão foi escrito.
Entrada de vídeo ainda é rara entre modelos de decisão. O cartão relata 77,4 no conjunto de validação do Perception Test, uma avaliação interna, e o placar de visão da comunidade coloca o d3 em nono de 55, com 71,26. O d3-turbo vai além, acrescentando caixas delimitadoras, rastreamento em vídeo e um modo de contexto longo de 131.072 tokens, e lê a entrada uma vez, não importa quantas perguntas sejam feitas.
A memória é o custo operacional. Uma réplica BF16 chegou a 62 a 65 GiB na MI325X, e o vLLM precisa ser iniciado com --max-model-len 32768, ou ele faz o profiling de uma passada de 262.144 tokens que não cabe em uma GPU de 80 GB. Os builds int4 levam os pesos a cerca de 16 GB e mantêm cerca de 97% das respostas do d3, ao alcance de uma placa de 24 GB, mas o build NVFP4 precisa de uma GPU Blackwell e o build AWQ roda 1,29 vez mais devagar que o BF16. A mesma receita agora se aplica ao d3-turbo, então o principal motivo para fixar o d3 é um pipeline já validado contra este checkpoint exato.
Onde ele se destaca
Um engenheiro de plataforma que roda vLLM em GPUs de 80 GB
Adicionar roteamento e verificações de política na frente de um gateway de LLM sem um novo runtime
Sirva o d3 ou seu build FP8 com --max-model-len 32768 e envie cada requisição a /v1/systemone com perguntas de escolha e de sim/não. O cartão relata 54 ms para uma decisão de texto com uma pergunta e 27 requisições por segundo por MI325X; o custo é a GPU, cerca de 62 a 65 GiB por réplica BF16.
Um líder de trust and safety em um marketplace que analisa 50.000 fotos de anúncios por dia
Sinalizar anúncios cujas fotos contradizem a descrição
Envie o texto e as fotos do anúncio em uma requisição e faça perguntas de sim/não e de nota; cada resposta traz uma probabilidade, então os limiares de revisão podem ser ajustados. A 290 ms por requisição com imagem em uma GPU, 50.000 requisições dão cerca de quatro horas de GPU por dia, antes de batching.
Um gerente de engenharia avaliando hospedar por conta própria contra uma API de decisão hospedada
Decidir se vale a pena rodar um modelo aberto
O d3 não tem endpoint pago, então o custo são as GPUs mais o tempo de plantão, e a demonstração gratuita agora roda o d3-turbo sem SLA. Equipes sem operação de GPUs vão gastar menos tempo de equipe com uma opção hospedada como pplx-decider ou Jev.
Antes de decidir
- Configuração
- Instale o Transformers 5.17.0 fixado e carregue com AutoModel e trust_remote_code, ou instale um nightly do vLLM e rode vllm serve vllm-sr/d3 --max-model-len 32768. A primeira inicialização com caches vazios levou 215 s no vLLM (139 s com o limite de tamanho) contra 40 s no AutoModel.
- Integrações
- vLLM /v1/systemone (nightly), modo Engine do vLLM Semantic Router (canal dev), um pipeline do Transformers e um d3_server.py incluído. O formato de requisição é igual ao do Jev.
- Dados e privacidade
- Apache 2.0, herdada do Qwen3.8-27B; uso comercial permitido sem teto de receita. Auto-hospedado, as entradas ficam no seu hardware; os termos de dados da demonstração gratuita não são publicados.
- Custo em escala
- Sem preço hospedado. Os pesos BF16 têm 52,2 GB e uma réplica chegou a 62 a 65 GiB em uma MI325X. O build NVFP4 precisa de cerca de 18 GB livres em uma GPU Blackwell; o build AWQ int4, cerca de 18 GB em qualquer GPU, com 1,29 vez a latência.
- Limites
- Um vídeo de 32 quadros tem cerca de 6K tokens. Um campo instructions no nível superior devolve 400. O modo Engine admite 32 requisições simultâneas por worker e devolve 503 para as demais, e requisições com imagem e oito perguntas não atingiram p99 de um segundo em nenhuma carga testada.
O que é bom
- 11º de 229 no Decision Index 0.4.1 da comunidade (67,15)
- Carrega no vLLM padrão com um endpoint compatível com o Jev
- Lê várias imagens e vídeos por requisição
- Builds oficiais FP8, NVFP4 e int4 a partir de cerca de 16 GB
O que não é
- Substituído pelo d3-turbo nove dias após o lançamento
- Suporte no vLLM só em builds nightly por enquanto
- Os números de velocidade são do próprio projeto, em AMD MI325X
- Os irmãos menores marcam bem menos: d3-flash 54,27, d3-mini 49,97
Ideal para
Equipes que já rodam vLLM e querem um modelo de decisão aberto para verificações de texto, imagem ou vídeo em suas próprias GPUs, e que já validaram contra este checkpoint.
Alternativas ao d3 (vLLM Semantic Router)
d3 (vLLM Semantic Router): perguntas frequentes
- d3 (vLLM Semantic Router) vale a pena?
- Forte, aberto e fácil de servir no vLLM, mas nove dias após o lançamento o próprio d3-turbo fez dele a versão da qual migrar. Damos nota 4.0 de 5.
- Quanto custa d3 (vLLM Semantic Router)?
- Pesos grátis sob Apache 2.0. Sem API hospedada paga; a demonstração pública gratuita agora serve o d3-turbo.
- Quais são as desvantagens de d3 (vLLM Semantic Router)?
- Substituído pelo d3-turbo nove dias após o lançamento; suporte no vLLM só em builds nightly por enquanto; os números de velocidade são do próprio projeto, em AMD MI325X; os irmãos menores marcam bem menos: d3-flash 54,27, d3-mini 49,97.
- Para quem d3 (vLLM Semantic Router) é indicado?
- Equipes que já rodam vLLM e querem um modelo de decisão aberto para verificações de texto, imagem ou vídeo em suas próprias GPUs, e que já validaram contra este checkpoint.
- Quanto custa d3 (vLLM Semantic Router) para uma equipe ou em produção?
- Sem preço hospedado. Os pesos BF16 têm 52,2 GB e uma réplica chegou a 62 a 65 GiB em uma MI325X. O build NVFP4 precisa de cerca de 18 GB livres em uma GPU Blackwell; o build AWQ int4, cerca de 18 GB em qualquer GPU, com 1,29 vez a latência.
- d3 (vLLM Semantic Router) é seguro para dados da empresa?
- Apache 2.0, herdada do Qwen3.8-27B; uso comercial permitido sem teto de receita. Auto-hospedado, as entradas ficam no seu hardware; os termos de dados da demonstração gratuita não são publicados.
- Quais são as melhores alternativas ao d3 (vLLM Semantic Router)?
- As alternativas mais próximas que analisamos são Perplexity Decider (pplx-decider), Jev, Clef, GLiNER2.5-Decide e Laya.
Respostas verificadas em 26 de out. de 2026.