Requisitos de GPU do Qwen3.8-Flash-Next: VRAM e GPU mais barata
Qwen3.8-Flash-Next tem 180 bi parâmetros, publicados em BF16. É um modelo de mistura de especialistas: 10 dos seus 512 especialistas trabalham em cada token, cerca de 61,6 bi parâmetros, então ele gera texto mais ou menos na velocidade de um modelo desse tamanho. Ainda assim, todos os especialistas precisam ficar na memória da GPU, por isso os números de memória abaixo são do modelo inteiro. A licença (qwen-community-1.0) traz termos próprios; leia antes de usar o modelo comercialmente.
- Parâmetros
- 180 bi
- Menor consumo (INT4)
- cerca de 105 GB
- GPU mais barata por hora (FP16)
- US$ 2,39
- Tipo
- Visão
Qwen/Qwen3.8-Flash-Next
- Parâmetros 180 bi
- Ativos por token 61,6 bi
- Tipo Visão
- Tarefa image-text-to-text
- Contexto máximo 256K
- Licença qwen-community-1.0
- Downloads 3,1 mi
- Curtidas 7,1 mil
Cálculo para Qwen3.8-Flash-Next
Mais ajustes
Qwen3.8-Flash-Next precisa de cerca de 397 GB de memória de GPU
Inferência (vLLM), FP16 / BF16, contexto de 8K tokens, uma requisição por vez.
Para onde vai a memória
- Pesos 360 GB
- Cache KV 0,2 GB
- Sobrecarga do runtime 37 GB
- Total 397 GB
A contagem de GPUs deixa 10% de cada placa livre para picos. Reserve mais se espera prompts longos ou muitos usuários ao mesmo tempo.
| Posição | Configuração | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) | Provedor |
|---|---|---|---|---|---|---|
| 1 | 3 × MI300X 192GBMais barataCDNA 3 · HBM3 | US$ 2,39 | 3vendida com 4 GPUs; você precisa de 3 | US$ 9,56 | US$ 6.979 | RunPod (abre em nova aba)4x MI300X |
| 2 | 5 × RTX PRO 6000 96GBBlackwell · GDDR7 | US$ 1,80 | 5vendida com 8 GPUs; você precisa de 5 | US$ 14,40 | US$ 10.512 | Nebius (abre em nova aba)8x RTX PRO 6000 96GB |
| 3 | 4 × H200 141GBHopper · HBM3e | US$ 3,79 | 4 | US$ 15,16 | US$ 11.067 | RunPod (abre em nova aba)4x H200 NVL |
| 4 | 6 × A100 80GBAmpere · HBM2e | US$ 2,09 | 6vendida com 8 GPUs; você precisa de 6 | US$ 16,72 | US$ 12.206 | RunPod (abre em nova aba)8x A100 PCIe |
| 5 | 2 × B300 288GBBlackwell Ultra · HBM3e | US$ 8,99 | 2 | US$ 17,98 | US$ 13.125 | RunPod (abre em nova aba)2x B300 |
| 6 | 6 × H100 80GBHopper · HBM3 | US$ 2,89 | 6vendida com 8 GPUs; você precisa de 6 | US$ 23,12 | US$ 16.878 | RunPod (abre em nova aba)8x H100 PCIe |
| 7 | 5 × H100 NVL 94GBHopper · HBM3 | US$ 3,19 | 5vendida com 8 GPUs; você precisa de 5 | US$ 25,52 | US$ 18.630 | RunPod (abre em nova aba)8x H100 NVL |
| 8 | 3 × B200 180GBBlackwell · HBM3e | US$ 7,79 | 3vendida com 4 GPUs; você precisa de 3 | US$ 31,16 | US$ 22.747 | Lambda (abre em nova aba)4x B200 SXM6 |
| 9 | 3 × GB200 186GBBlackwell · HBM3e | US$ 10,50 | 3vendida com 4 GPUs; você precisa de 3 | US$ 42,00 | US$ 30.660 | CoreWeave (abre em nova aba)GB200 NVL72 |
| Mais de 8: precisa de vários nós: L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Provedor | Instância | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) |
|---|---|---|---|---|---|
| RunPod (abre em nova aba)Mais barata | 4x MI300Xus | US$ 2,39 | 3 × MI300X 192GB vendida com 4 GPUs; você precisa de 3 | cerca de US$ 9,56 | cerca de US$ 6.979 |
| Nebius (abre em nova aba) | 8x RTX PRO 6000 96GBeu/us | US$ 1,80 | 5 × RTX PRO 6000 96GB vendida com 8 GPUs; você precisa de 5 | cerca de US$ 14,40 | cerca de US$ 10.512 |
| CoreWeave (abre em nova aba) | RTX PRO 6000 Blackwell Server Edition (High Memory)us | US$ 2,50 | 5 × RTX PRO 6000 96GB vendida com 8 GPUs; você precisa de 5 | cerca de US$ 20,00 | cerca de US$ 14.600 |
| Vultr (abre em nova aba) | vbm-112c-2048gb-8-a100-gpu (bare metal)us | US$ 2,80 | 6 × A100 80GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 22,40 | cerca de US$ 16.352 |
| Vast.ai (abre em nova aba) | 4x H200 (median of 4 offers)marketplace global | US$ 5,67 | 4 × H200 141GB | cerca de US$ 22,68 | cerca de US$ 16.554 |
| Lambda (abre em nova aba) | 8x HGX A100us | US$ 3,19 | 6 × A100 80GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 25,52 | cerca de US$ 18.630 |
| AWS (abre em nova aba) | p4de.24xlargeus-east-1 | US$ 3,43 | 6 × A100 80GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 27,45 | cerca de US$ 20.036 |
| Azure (abre em nova aba) | ND96amsr_A100_v4eastus | US$ 4,10 | 6 × A100 80GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 32,77 | cerca de US$ 23.922 |
| Google Cloud (abre em nova aba) | g4-standard-384us-central1 | US$ 4,50 | 5 × RTX PRO 6000 96GB vendida com 8 GPUs; você precisa de 5 | cerca de US$ 36,00 | cerca de US$ 26.280 |
Preços coletados em 13 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai são globais).
Memória por precisão e uso
| Precisão | Inferência | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 397 GB | 463 GB | – | 3.172 GB |
| INT8 | 209 GB | – | – | – |
| INT4 | 105 GB | – | 171 GB | – |
A GPU mais barata por precisão
Inferência com contexto de 8K e uma requisição por vez.
FP16 / BF16
cerca de 397 GB · 8K tokens
Os pesos como foram publicados. Sem perda, mas com o maior consumo.
3 × MI300X 192GB
RunPod (abre em nova aba) · 4x MI300X
vendida com 4 GPUs; você precisa de 3- Por GPU / h
- US$ 2,39
- GPUs necessárias
- 3
- Total / h
- cerca de US$ 9,56
- por mês, 24/7, aprox.
- US$ 6.979
INT8
cerca de 209 GB · 8K tokens
Pesos com metade do tamanho. Em chat e RAG quase não se nota diferença.
5 × A40 48GB
RunPod (abre em nova aba) · 8x A40
vendida com 8 GPUs; você precisa de 5- Por GPU / h
- US$ 0,59
- GPUs necessárias
- 5
- Total / h
- cerca de US$ 4,72
- por mês, 24/7, aprox.
- US$ 3.446
INT4
cerca de 105 GB · 8K tokens
Pesos com um quarto do tamanho. As pequenas perdas aparecem primeiro em matemática e código.
3 × A40 48GB
RunPod (abre em nova aba) · 4x A40
vendida com 4 GPUs; você precisa de 3- Por GPU / h
- US$ 0,59
- GPUs necessárias
- 3
- Total / h
- cerca de US$ 2,36
- por mês, 24/7, aprox.
- US$ 1.723
Inferência ou ajuste fino
Inferência (FP16)
1×
da memória da inferência
397 GB
3 × MI300X 192GB · cerca de US$ 9,56
Ajuste LoRA
1,2×
da memória da inferência
463 GB
3 × MI300X 192GB · cerca de US$ 9,56
Ajuste QLoRA
0,4×
da memória da inferência
171 GB
4 × A40 48GB · cerca de US$ 2,36
Ajuste completo
8×
da memória da inferência
3.172 GB
mais de um nó de 8 GPUs
Para servi-lo em FP16 basta 3 × MI300X 192GB (RunPod). LoRA precisa de 3 × MI300X 192GB (RunPod), QLoRA de 4 × A40 48GB (RunPod) e um ajuste completo de mais de um nó de 8 GPUs. O treino mantém na memória as ativações e o estado do otimizador além dos pesos, por isso costuma pedir mais GPUs do que servir o mesmo modelo.
Roda em um Mac ou em uma única RTX 4090?
RTX 4090 (24 GB)
Sozinha, não. Mesmo em INT4 ele precisa de cerca de 105 GB, mais que os 24 GB da placa. Duas ou mais placas, ou uma GPU de data center maior, resolvem.
Mac com Apple silicon
Sim, com memória suficiente. Em INT4 ele precisa de cerca de 105 GB, então um Mac com 192 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.
Rodar por conta própria ou pagar por token?
Rodar por conta própria
A configuração FP16 mais barata que encontramos é 3 × MI300X 192GB na RunPod, cerca de US$ 6.979 por mês rodando sem parar. Vale a pena com tráfego constante ou quando os dados precisam ficar nas suas máquinas.
Usar uma API hospedada
Nossa análise do Qwen3.8-Flash-Next mostra onde usá-lo por API e quanto custa. Pagar por token costuma sair mais barato com tráfego leve ou irregular.
Leia nossa análiseModelos parecidos
Modelos abertos de tamanho parecido.
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)Visão196,6 bi · cerca de 437 GB FP16 · 402,7 mil ↓Necessidade de GPU
- Command A+Visão218,8 bi · cerca de 483 GB FP16 · 4,5 mil ↓Necessidade de GPU
- MiniMax-M3.1-FlashVisão220,5 bi · cerca de 487 GB FP16 · 61,6 mil ↓Necessidade de GPU
- Qwen3.5 122B A10BVisão125,1 bi · cerca de 276 GB FP16 · 810,1 mil ↓Necessidade de GPU
- Nemotron 3.5 Super VLVisão124,5 bi · cerca de 275 GB FP16 · 80,3 mil ↓Necessidade de GPU
- Inkling SmallVisão266 bi · cerca de 588 GB FP16 · 1,1 mi ↓Necessidade de GPU
Qwen3.8-Flash-Next: perguntas frequentes
Quanta VRAM o Qwen3.8-Flash-Next precisa?
Cerca de 397 GB em FP16, 209 GB em INT8 e 105 GB em INT4, com contexto de 8K e uma requisição por vez. Contextos maiores e mais requisições em paralelo somam cache KV.
Qual é a GPU mais barata para rodar o Qwen3.8-Flash-Next?
3 × MI300X 192GB (cerca de US$ 2,39 por GPU / hora; vendida com 4 GPUs; você precisa de 3) na RunPod, por cerca de US$ 9,56 a hora para inferência em FP16 / BF16 com contexto de 8K. Preços coletados em 13 de nov. de 2026; mudam com frequência.
Dá para fazer ajuste fino do Qwen3.8-Flash-Next em uma única GPU?
Não em uma GPU só. Mesmo o QLoRA precisa de cerca de 171 GB, mais do que cabe numa GPU de 80 GB. LoRA precisa de cerca de 463 GB e um ajuste completo de cerca de 3.172 GB.
Como esses números são calculados?
Os pesos são os parâmetros vezes os bytes por parâmetro (2 em FP16, 1 em INT8, 0,5 em INT4). O cache KV vem das camadas, cabeças KV, tamanho da cabeça e tamanho do contexto do modelo. Somamos cerca de 10% mais 1 GB para o runtime e enchemos cada GPU até 90%. Os preços são de tabela sob demanda em regiões dos EUA, coletados da página pública de cada provedor.
O Qwen3.8-Flash-Next roda em uma GPU de consumo como a RTX 4090?
Sozinha, não. Mesmo em INT4 ele precisa de cerca de 105 GB, mais que os 24 GB da placa. Duas ou mais placas, ou uma GPU de data center maior, resolvem.
O Qwen3.8-Flash-Next cabe em uma única H100 80GB?
Não. Mesmo em INT4 ele precisa de cerca de 105 GB, então são necessárias várias GPUs.
Quantas GPUs preciso para o Qwen3.8-Flash-Next?
Em FP16 com contexto de 8K: 6 × 80 GB, 10 × 48 GB ou 19 × 24 GB. Em INT4 os pesos ocupam cerca de um quarto da memória.
Quanta VRAM o Qwen3.8-Flash-Next precisa em INT8?
Cerca de 209 GB: 189 GB para os pesos, 0,2 GB para um cache KV de 8K e 20 GB de sobrecarga do runtime.
Quanto custa rodar o Qwen3.8-Flash-Next 24/7 por um mês?
Cerca de US$ 6.979 na configuração mais barata que encontramos (3 × MI300X 192GB (cerca de US$ 2,39 por GPU / hora; vendida com 4 GPUs; você precisa de 3), US$ 9,56 a hora por 730 horas). O mais barato na AWS, Google Cloud ou Azure fica em cerca de US$ 20.036 por mês.
FP16, INT8 ou INT4: qual usar?
FP16 mantém a qualidade total e usa mais memória (cerca de 397 GB aqui). INT8 corta os pesos pela metade com pouca perda na maioria dos usos de chat. INT4 (AWQ, GPTQ ou GGUF Q4) reduz para um quarto, cerca de 105 GB no total, com uma pequena queda de qualidade que aparece mais em matemática e código.
O Qwen3.8-Flash-Next roda em um Mac?
Sim, com memória suficiente. Em INT4 ele precisa de cerca de 105 GB, então um Mac com 192 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.
vLLM ou llama.cpp?
O vLLM foi feito para atender muitas requisições ao mesmo tempo em GPUs NVIDIA e AMD e reserva quase toda a memória da GPU para o cache KV. O llama.cpp roda arquivos GGUF em quase tudo, inclusive Macs e CPUs, e serve bem a uma pessoa ou a uma equipe pequena. Na mesma precisão, a memória necessária é parecida.
Preços coletados em 13 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai são globais).
Como calculamos
- Pesos. Parâmetros vezes bytes por parâmetro: 2 em FP16, 1 em INT8, 0,5 em INT4, mais cerca de 5% para as escalas de quantização em INT8 e INT4.
- Cache KV. 2 × camadas × cabeças KV × tamanho da cabeça × contexto × requisições × 2 bytes, a partir do config.json do modelo. Quando falta um dado, estimamos e avisamos.
- Sobrecarga. Cerca de 10% mais 1 GB para o runtime, em linha com o que o vLLM reserva.
- Ajuste fino. LoRA mantém pesos em 16 bits e adiciona um adaptador pequeno, seu otimizador e as ativações. QLoRA faz o mesmo sobre pesos de 4 bits. Um ajuste completo precisa de cerca de 16 bytes por parâmetro com Adam em precisão mista (pesos, gradientes e estados do otimizador), mais as ativações.
- GPUs. Enchemos cada GPU até 90% da memória e paramos em 8 por nó. Os custos são preços de tabela sob demanda em regiões dos EUA; nos marketplaces mostramos a oferta mediana.