Calculadora de GPU
Quanta GPU um modelo aberto precisa?
Escolha qualquer modelo aberto do Hugging Face. Calculamos a memória que ele precisa, quantas GPUs isso significa e quanto custa, aproximadamente, rodá-lo na AWS, Google Cloud, Azure e nas nuvens de GPU.
Qwen3 0.6B Qwen/Qwen3-0.6B
Página própriaCálculo para Qwen3 0.6B
Mais ajustes
Qwen3 0.6B precisa de cerca de 3,7 GB de memória de GPU
Inferência (vLLM), FP16 / BF16, contexto de 8K tokens, uma requisição por vez.
Para onde vai a memória
- Pesos 1,5 GB
- Cache KV 0,94 GB
- Sobrecarga do runtime 1,2 GB
- Total 3,7 GB
A contagem de GPUs deixa 10% de cada placa livre para picos. Reserve mais se espera prompts longos ou muitos usuários ao mesmo tempo.
| Posição | Configuração | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) | Provedor |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX 3090 24GBMais barataAmpere · GDDR6X | US$ 0,25 | 1 | US$ 0,25 | US$ 183 | Vast.ai (abre em nova aba)1x RTX 3090 (median of 29 offers) |
| 2 | 1 × V100 16GBVolta · HBM2 | US$ 0,15 | 1vendida com 2 GPUs; você precisa de 1 | US$ 0,30 | US$ 220 | Vast.ai (abre em nova aba)2x Tesla V100 (median of 4 offers) |
| 3 | 1 × RTX 4090 24GBAda Lovelace · GDDR6X | US$ 0,48 | 1 | US$ 0,48 | US$ 354 | Vast.ai (abre em nova aba)1x RTX 4090 (median of 34 offers) |
| 4 | 1 × RTX PRO 6000 96GBBlackwell · GDDR7 | US$ 0,50 | 1 | US$ 0,50 | US$ 365 | RunPod (abre em nova aba)1x RTX PRO 6000 MaxQ |
| 5 | 1 × T4 16GBTuring · GDDR6 | US$ 0,53 | 1 | US$ 0,53 | US$ 384 | AWS (abre em nova aba)g4dn.xlarge |
| 6 | 1 × A40 48GBAmpere · GDDR6 | US$ 0,59 | 1 | US$ 0,59 | US$ 431 | RunPod (abre em nova aba)1x A40 |
| 7 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | US$ 0,67 | 1 | US$ 0,67 | US$ 488 | Vast.ai (abre em nova aba)1x RTX 6000Ada (median of 8 offers) |
| 8 | 1 × A100 40GBAmpere · HBM2 | US$ 0,68 | 1 | US$ 0,68 | US$ 497 | Vast.ai (abre em nova aba)1x A100 SXM4 (median of 8 offers) |
| 9 | 1 × RTX A6000 48GBAmpere · GDDR6 | US$ 0,69 | 1 | US$ 0,69 | US$ 504 | RunPod (abre em nova aba)1x RTX A6000 |
| 10 | 1 × L4 24GBAda Lovelace · GDDR6 | US$ 0,69 | 1 | US$ 0,69 | US$ 504 | RunPod (abre em nova aba)1x L4 |
| 11 | 1 × L40S 48GBAda Lovelace · GDDR6 | US$ 0,78 | 1 | US$ 0,78 | US$ 571 | Vast.ai (abre em nova aba)1x L40S (median of 6 offers) |
| 12 | 1 × RTX 5090 32GBBlackwell · GDDR7 | US$ 0,87 | 1 | US$ 0,87 | US$ 634 | Vast.ai (abre em nova aba)1x RTX 5090 (median of 55 offers) |
| 13 | 1 × A10 24GBAmpere · GDDR6 | US$ 1,01 | 1 | US$ 1,01 | US$ 734 | AWS (abre em nova aba)g5.xlarge |
| 14 | 1 × A100 80GBAmpere · HBM2e | US$ 1,21 | 1 | US$ 1,21 | US$ 884 | Vast.ai (abre em nova aba)1x A100 SXM4 (median of 8 offers) |
| 15 | 1 × GH200 96GBHopper · HBM3 | US$ 1,99 | 1 | US$ 1,99 | US$ 1.453 | Vultr (abre em nova aba)vbm-72c-480gb-gh200-gpu (bare metal) |
| 16 | 1 × MI300X 192GBCDNA 3 · HBM3 | US$ 2,39 | 1 | US$ 2,39 | US$ 1.745 | RunPod (abre em nova aba)1x MI300X |
| 17 | 1 × H100 80GBHopper · HBM3 | US$ 2,89 | 1 | US$ 2,89 | US$ 2.110 | RunPod (abre em nova aba)1x H100 PCIe |
| 18 | 1 × H100 NVL 94GBHopper · HBM3 | US$ 3,19 | 1 | US$ 3,19 | US$ 2.329 | RunPod (abre em nova aba)1x H100 NVL |
| 19 | 1 × H200 141GBHopper · HBM3e | US$ 3,79 | 1 | US$ 3,79 | US$ 2.767 | RunPod (abre em nova aba)1x H200 NVL |
| 20 | 1 × B200 180GBBlackwell · HBM3e | US$ 7,99 | 1 | US$ 7,99 | US$ 5.833 | RunPod (abre em nova aba)1x B200 |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | US$ 8,99 | 1 | US$ 8,99 | US$ 6.563 | RunPod (abre em nova aba)1x B300 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | US$ 10,50 | 1vendida com 4 GPUs; você precisa de 1 | US$ 42,00 | US$ 30.660 | CoreWeave (abre em nova aba)GB200 NVL72 |
| Provedor | Instância | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) |
|---|---|---|---|---|---|
| Vast.ai (abre em nova aba)Mais barata | 1x RTX 3090 (median of 29 offers)marketplace global | US$ 0,25 | 1 × RTX 3090 24GB | cerca de US$ 0,25 | cerca de US$ 183 |
| RunPod (abre em nova aba) | 1x RTX 3090 Tius | US$ 0,46 | 1 × RTX 3090 24GB | cerca de US$ 0,46 | cerca de US$ 336 |
| AWS (abre em nova aba) | g4dn.xlargeus-east-1 | US$ 0,53 | 1 × T4 16GB | cerca de US$ 0,53 | cerca de US$ 384 |
| Azure (abre em nova aba) | NC4as_T4_v3eastus | US$ 0,53 | 1 × T4 16GB | cerca de US$ 0,53 | cerca de US$ 384 |
| Google Cloud (abre em nova aba) | g2-standard-4us-central1 | US$ 0,71 | 1 × L4 24GB | cerca de US$ 0,71 | cerca de US$ 516 |
| Lambda (abre em nova aba) | 1x A6000us | US$ 1,09 | 1 × RTX A6000 48GB | cerca de US$ 1,09 | cerca de US$ 796 |
| Nebius (abre em nova aba) | 1x L40S 48GBeu/us | US$ 1,55 | 1 × L40S 48GB | cerca de US$ 1,55 | cerca de US$ 1.132 |
| Vultr (abre em nova aba) | vcg-l40s-16c-180g-48vramus | US$ 1,67 | 1 × L40S 48GB | cerca de US$ 1,67 | cerca de US$ 1.220 |
| CoreWeave (abre em nova aba) | GH200us | US$ 6,50 | 1 × GH200 96GB | cerca de US$ 6,50 | cerca de US$ 4.745 |
Preços coletados em 13 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai são globais).
Modelos parecidos
Modelos abertos de tamanho parecido.
- Qwen3 0.6BTexto751,6 mi · cerca de 3,7 GB FP16 · 993,5 mil ↓Necessidade de GPU
- gpt2 largeTexto811,8 mi · cerca de 3 GB FP16 · 1 mi ↓Necessidade de GPU
- BitNet b1.58 2B4TTexto849,8 mi · cerca de 3,2 GB FP16 · 9,9 mil ↓Necessidade de GPU
- Qwen3 0.6B BaseTexto596 mi · cerca de 3,3 GB FP16 · 572,1 mil ↓Necessidade de GPU
- bloomz 560mTexto559,2 mi · cerca de 2,7 GB FP16 · 594,7 mil ↓Necessidade de GPU
- Limite 1B - ViolettoTexto1 bi · cerca de 3,7 GB FP16 · 4 mil ↓Necessidade de GPU
Qwen3 0.6B: perguntas frequentes
Quanta VRAM o Qwen3 0.6B precisa?
Cerca de 3,7 GB em FP16, 2,9 GB em INT8 e 2,5 GB em INT4, com contexto de 8K e uma requisição por vez. Contextos maiores e mais requisições em paralelo somam cache KV.
Qual é a GPU mais barata para rodar o Qwen3 0.6B?
1 × RTX 3090 24GB (cerca de US$ 0,25 por GPU / hora) na Vast.ai, por cerca de US$ 0,25 a hora para inferência em FP16 / BF16 com contexto de 8K. Preços coletados em 13 de nov. de 2026; mudam com frequência.
Dá para fazer ajuste fino do Qwen3 0.6B em uma única GPU?
Sim, com QLoRA: precisa de cerca de 2,5 GB, que cabem em uma GPU de 80 GB. LoRA precisa de cerca de 3,7 GB e um ajuste completo de cerca de 15 GB.
Como esses números são calculados?
Os pesos são os parâmetros vezes os bytes por parâmetro (2 em FP16, 1 em INT8, 0,5 em INT4). O cache KV vem das camadas, cabeças KV, tamanho da cabeça e tamanho do contexto do modelo. Somamos cerca de 10% mais 1 GB para o runtime e enchemos cada GPU até 90%. Os preços são de tabela sob demanda em regiões dos EUA, coletados da página pública de cada provedor.
O Qwen3 0.6B roda em uma GPU de consumo como a RTX 4090?
Sim, em FP16 / BF16 com contexto de 8K: cerca de 3,7 GB cabem nos 24 GB da placa.
O Qwen3 0.6B cabe em uma única H100 80GB?
Sim, em FP16 / BF16, INT8, INT4 com contexto de 8K.
Quantas GPUs preciso para o Qwen3 0.6B?
Em FP16 com contexto de 8K: 1 × 80 GB, 1 × 48 GB ou 1 × 24 GB. Em INT4 os pesos ocupam cerca de um quarto da memória.
Quanta VRAM o Qwen3 0.6B precisa em INT8?
Cerca de 2,9 GB: 0,79 GB para os pesos, 0,94 GB para um cache KV de 8K e 1,2 GB de sobrecarga do runtime.
Quanto custa rodar o Qwen3 0.6B 24/7 por um mês?
Cerca de US$ 183 na configuração mais barata que encontramos (1 × RTX 3090 24GB (cerca de US$ 0,25 por GPU / hora), US$ 0,25 a hora por 730 horas). O mais barato na AWS, Google Cloud ou Azure fica em cerca de US$ 384 por mês.
FP16, INT8 ou INT4: qual usar?
FP16 mantém a qualidade total e usa mais memória (cerca de 3,7 GB aqui). INT8 corta os pesos pela metade com pouca perda na maioria dos usos de chat. INT4 (AWQ, GPTQ ou GGUF Q4) reduz para um quarto, cerca de 2,5 GB no total, com uma pequena queda de qualidade que aparece mais em matemática e código.
O Qwen3 0.6B roda em um Mac?
Sim, com memória suficiente. Em INT4 ele precisa de cerca de 2,5 GB, então um Mac com 16 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.
vLLM ou llama.cpp?
O vLLM foi feito para atender muitas requisições ao mesmo tempo em GPUs NVIDIA e AMD e reserva quase toda a memória da GPU para o cache KV. O llama.cpp roda arquivos GGUF em quase tudo, inclusive Macs e CPUs, e serve bem a uma pessoa ou a uma equipe pequena. Na mesma precisão, a memória necessária é parecida.
Preços coletados em 13 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai são globais).
Modelos populares
Páginas próprias com os números calculados em cada precisão.
- all-MiniLM-L6-v2Embeddings22,7 mi · cerca de 1 GB FP16 · 173,7 mi ↓Necessidade de GPU
- Qwen3 0.6BTexto751,6 mi · cerca de 3,7 GB FP16 · 19,1 mi ↓Necessidade de GPU
- Qwen3 14BTexto14,8 bi · cerca de 35 GB FP16 · 13 mi ↓Necessidade de GPU
- Qwen3 Embedding 0.6BEmbeddings595,8 mi · cerca de 2,3 GB FP16 · 8,6 mi ↓Necessidade de GPU
- DeepSeek V3.2Texto685,4 bi · cerca de 1.509 GB FP16 · 8,4 mi ↓Necessidade de GPU
- bge large en v1.5Embeddings335,1 mi · cerca de 1,7 GB FP16 · 7,7 mi ↓Necessidade de GPU
- Qwen3 VL 8B InstructVisão8,8 bi · cerca de 22 GB FP16 · 7,1 mi ↓Necessidade de GPU
- multilingual e5 largeEmbeddings559,9 mi · cerca de 2,2 GB FP16 · 7,1 mi ↓Necessidade de GPU
- Qwen3.8-27BVisão27,8 bi · cerca de 63 GB FP16 · 7 mi ↓Necessidade de GPU
- Gemma 4Visão31,3 bi · cerca de 71 GB FP16 · 6,6 mi ↓Necessidade de GPU
- MiniMax H3 (Hailuo 3.0)Vídeo33,1 bi · cerca de 74 GB FP16 · 6,5 mi ↓Necessidade de GPU
- Qwen2.5 7B InstructTexto7,6 bi · cerca de 18 GB FP16 · 6,4 mi ↓Necessidade de GPU
- GLM-5.3-FlashVisão321,3 bi · cerca de 708 GB FP16 · 6,4 mi ↓Necessidade de GPU
- Qwen3.5 9BVisão9,7 bi · cerca de 23 GB FP16 · 6,2 mi ↓Necessidade de GPU
- Qwen3 8BTexto8,2 bi · cerca de 20 GB FP16 · 6,2 mi ↓Necessidade de GPU
- Unlimited OCRVisão3,3 bi · cerca de 8,9 GB FP16 · 6 mi ↓Necessidade de GPU
- Qwen2.5 VL 7B InstructVisão8,3 bi · cerca de 20 GB FP16 · 5,8 mi ↓Necessidade de GPU
- gpt-oss-20bTexto20,9 bi · cerca de 47 GB FP16 · 5,7 mi ↓Necessidade de GPU
- gemma 4 26B A4B itVisão25,8 bi · cerca de 58 GB FP16 · 5,3 mi ↓Necessidade de GPU
- Qwen2.5 1.5B InstructTexto1,5 bi · cerca de 4,7 GB FP16 · 5,1 mi ↓Necessidade de GPU
- Qwen3.5 4BVisão4,7 bi · cerca de 12 GB FP16 · 5,1 mi ↓Necessidade de GPU
- Whisper large-v3-turboVoz808,9 mi · cerca de 2,8 GB FP16 · 4,9 mi ↓Necessidade de GPU
- dolphin 2.9.1 yi 1.5 34bTexto34,4 bi · cerca de 79 GB FP16 · 4,8 mi ↓Necessidade de GPU
- Qwen3.5 2BVisão2,3 bi · cerca de 6,1 GB FP16 · 4,6 mi ↓Necessidade de GPU
- snowflake arctic embed l v2.0Embeddings567,8 mi · cerca de 2,2 GB FP16 · 4,5 mi ↓Necessidade de GPU
- Qwen2.5 0.5B InstructTexto494 mi · cerca de 2,2 GB FP16 · 4,3 mi ↓Necessidade de GPU
- Llama 3.1 8B InstructTexto8 bi · cerca de 20 GB FP16 · 4,2 mi ↓Necessidade de GPU
- Qwen3.6 35B A3BVisão36 bi · cerca de 80 GB FP16 · 4 mi ↓Necessidade de GPU
- OmniVoiceVoz612,6 mi · cerca de 2,3 GB FP16 · 3,9 mi ↓Necessidade de GPU
- Qwen3 VL 4B InstructVisão4,4 bi · cerca de 12 GB FP16 · 3,5 mi ↓Necessidade de GPU
- Qwen3 4BTexto4 bi · cerca de 11 GB FP16 · 3,2 mi ↓Necessidade de GPU
- Qwen3.5 0.8BVisão873,4 mi · cerca de 3 GB FP16 · 3,2 mi ↓Necessidade de GPU
- Qwen3 32BTexto32,8 bi · cerca de 75 GB FP16 · 3,1 mi ↓Necessidade de GPU
- Qwen3.8-Flash-NextVisão180 bi · cerca de 397 GB FP16 · 3,1 mi ↓Necessidade de GPU
- Qwen3 1.7BTexto2 bi · cerca de 6,5 GB FP16 · 3 mi ↓Necessidade de GPU
- Qwen3 4B Instruct 2507Texto4 bi · cerca de 11 GB FP16 · 2,6 mi ↓Necessidade de GPU
- gpt-oss-120bTexto116,8 bi · cerca de 258 GB FP16 · 2,4 mi ↓Necessidade de GPU
- Qwen3.6 27BVisão27,8 bi · cerca de 63 GB FP16 · 2,4 mi ↓Necessidade de GPU
- Qwen3 Embedding 4BEmbeddings4 bi · cerca de 9,8 GB FP16 · 2,4 mi ↓Necessidade de GPU
- DeepSeek V4 Flash 0731Texto304,2 bi · cerca de 671 GB FP16 · 2,4 mi ↓Necessidade de GPU
- moondream2Visão1,9 bi · cerca de 6 GB FP16 · 2,4 mi ↓Necessidade de GPU
- Qwen3-Embedding and Qwen3-RerankerEmbeddings7,6 bi · cerca de 18 GB FP16 · 2,3 mi ↓Necessidade de GPU
- mxbai embed large v1Embeddings335,1 mi · cerca de 1,7 GB FP16 · 2,2 mi ↓Necessidade de GPU
- Qwen2.5 3B InstructTexto3,1 bi · cerca de 8,1 GB FP16 · 2,2 mi ↓Necessidade de GPU
- SAM 3 (Segment Anything Model 3)Visão859,9 mi · cerca de 2,9 GB FP16 · 2,1 mi ↓Necessidade de GPU
- bge reranker largeEmbeddings559,9 mi · cerca de 2,2 GB FP16 · 2 mi ↓Necessidade de GPU
- DeepSeek OCRVisão3,3 bi · cerca de 8,9 GB FP16 · 1,9 mi ↓Necessidade de GPU
- NVIDIA Nemotron 3 Nano 4B BF16Texto4 bi · cerca de 11 GB FP16 · 1,9 mi ↓Necessidade de GPU
- GLM-5.3Texto753,3 bi · cerca de 1.659 GB FP16 · 1,9 mi ↓Necessidade de GPU
- Qwen2.5 Coder 14B InstructTexto14,8 bi · cerca de 35 GB FP16 · 1,8 mi ↓Necessidade de GPU
Como calculamos
- Pesos. Parâmetros vezes bytes por parâmetro: 2 em FP16, 1 em INT8, 0,5 em INT4, mais cerca de 5% para as escalas de quantização em INT8 e INT4.
- Cache KV. 2 × camadas × cabeças KV × tamanho da cabeça × contexto × requisições × 2 bytes, a partir do config.json do modelo. Quando falta um dado, estimamos e avisamos.
- Sobrecarga. Cerca de 10% mais 1 GB para o runtime, em linha com o que o vLLM reserva.
- Ajuste fino. LoRA mantém pesos em 16 bits e adiciona um adaptador pequeno, seu otimizador e as ativações. QLoRA faz o mesmo sobre pesos de 4 bits. Um ajuste completo precisa de cerca de 16 bytes por parâmetro com Adam em precisão mista (pesos, gradientes e estados do otimizador), mais as ativações.
- GPUs. Enchemos cada GPU até 90% da memória e paramos em 8 por nó. Os custos são preços de tabela sob demanda em regiões dos EUA; nos marketplaces mostramos a oferta mediana.