Requisitos de GPU do Qwen2.5 Coder 14B Instruct: VRAM e GPU mais barata
Qwen2.5 Coder 14B Instruct tem 14,8 bi parâmetros, publicados em BF16. É publicado sob apache-2.0, que permite uso comercial.
- Parâmetros
- 14,8 bi
- Menor consumo (INT4)
- cerca de 11 GB
- GPU mais barata por hora (FP16)
- US$ 0,50
- Tipo
- Texto
Qwen/Qwen2.5-Coder-14B-Instruct
- Parâmetros 14,8 bi
- Tipo Texto
- Tarefa text-generation
- Contexto máximo 32K
- Licença apache-2.0
- Downloads 1,8 mi
- Curtidas 215
Cálculo para Qwen2.5 Coder 14B Instruct
Mais ajustes
Qwen2.5 Coder 14B Instruct precisa de cerca de 35 GB de memória de GPU
Inferência (vLLM), FP16 / BF16, contexto de 8K tokens, uma requisição por vez.
Para onde vai a memória
- Pesos 30 GB
- Cache KV 1,6 GB
- Sobrecarga do runtime 4,1 GB
- Total 35 GB
A contagem de GPUs deixa 10% de cada placa livre para picos. Reserve mais se espera prompts longos ou muitos usuários ao mesmo tempo.
| Posição | Configuração | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) | Provedor |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX PRO 6000 96GBMais barataBlackwell · GDDR7 | US$ 0,50 | 1 | US$ 0,50 | US$ 365 | RunPod (abre em nova aba)1x RTX PRO 6000 MaxQ |
| 2 | 2 × RTX 3090 24GBAmpere · GDDR6X | US$ 0,29 | 2 | US$ 0,58 | US$ 421 | Vast.ai (abre em nova aba)2x RTX 3090 (median of 18 offers) |
| 3 | 1 × A40 48GBAmpere · GDDR6 | US$ 0,59 | 1 | US$ 0,59 | US$ 431 | RunPod (abre em nova aba)1x A40 |
| 4 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | US$ 0,67 | 1 | US$ 0,67 | US$ 488 | Vast.ai (abre em nova aba)1x RTX 6000Ada (median of 8 offers) |
| 5 | 1 × A100 40GBAmpere · HBM2 | US$ 0,68 | 1 | US$ 0,68 | US$ 497 | Vast.ai (abre em nova aba)1x A100 SXM4 (median of 8 offers) |
| 6 | 1 × RTX A6000 48GBAmpere · GDDR6 | US$ 0,69 | 1 | US$ 0,69 | US$ 504 | RunPod (abre em nova aba)1x RTX A6000 |
| 7 | 1 × L40S 48GBAda Lovelace · GDDR6 | US$ 0,78 | 1 | US$ 0,78 | US$ 571 | Vast.ai (abre em nova aba)1x L40S (median of 6 offers) |
| 8 | 2 × L4 24GBAda Lovelace · GDDR6 | US$ 0,42 | 2 | US$ 0,83 | US$ 606 | Vast.ai (abre em nova aba)2x L4 (median of 4 offers) |
| 9 | 2 × RTX 4090 24GBAda Lovelace · GDDR6X | US$ 0,53 | 2 | US$ 1,06 | US$ 772 | Vast.ai (abre em nova aba)2x RTX 4090 (median of 24 offers) |
| 10 | 1 × A100 80GBAmpere · HBM2e | US$ 1,21 | 1 | US$ 1,21 | US$ 884 | Vast.ai (abre em nova aba)1x A100 SXM4 (median of 8 offers) |
| 11 | 2 × RTX 5090 32GBBlackwell · GDDR7 | US$ 0,87 | 2 | US$ 1,74 | US$ 1.269 | Vast.ai (abre em nova aba)2x RTX 5090 (median of 44 offers) |
| 12 | 1 × GH200 96GBHopper · HBM3 | US$ 1,99 | 1 | US$ 1,99 | US$ 1.453 | Vultr (abre em nova aba)vbm-72c-480gb-gh200-gpu (bare metal) |
| 13 | 1 × MI300X 192GBCDNA 3 · HBM3 | US$ 2,39 | 1 | US$ 2,39 | US$ 1.745 | RunPod (abre em nova aba)1x MI300X |
| 14 | 1 × H100 80GBHopper · HBM3 | US$ 2,89 | 1 | US$ 2,89 | US$ 2.110 | RunPod (abre em nova aba)1x H100 PCIe |
| 15 | 1 × H100 NVL 94GBHopper · HBM3 | US$ 3,19 | 1 | US$ 3,19 | US$ 2.329 | RunPod (abre em nova aba)1x H100 NVL |
| 16 | 1 × H200 141GBHopper · HBM3e | US$ 3,79 | 1 | US$ 3,79 | US$ 2.767 | RunPod (abre em nova aba)1x H200 NVL |
| 17 | 3 × T4 16GBTuring · GDDR6 | US$ 0,98 | 3vendida com 4 GPUs; você precisa de 3 | US$ 3,91 | US$ 2.856 | AWS (abre em nova aba)g4dn.12xlarge |
| 18 | 2 × A10 24GBAmpere · GDDR6 | US$ 1,42 | 2vendida com 4 GPUs; você precisa de 2 | US$ 5,67 | US$ 4.141 | AWS (abre em nova aba)g5.12xlarge |
| 19 | 3 × V100 16GBVolta · HBM2 | US$ 0,79 | 3vendida com 8 GPUs; você precisa de 3 | US$ 6,32 | US$ 4.614 | Lambda (abre em nova aba)8x Tesla V100 |
| 20 | 1 × B200 180GBBlackwell · HBM3e | US$ 7,99 | 1 | US$ 7,99 | US$ 5.833 | RunPod (abre em nova aba)1x B200 |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | US$ 8,99 | 1 | US$ 8,99 | US$ 6.563 | RunPod (abre em nova aba)1x B300 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | US$ 10,50 | 1vendida com 4 GPUs; você precisa de 1 | US$ 42,00 | US$ 30.660 | CoreWeave (abre em nova aba)GB200 NVL72 |
| Provedor | Instância | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) |
|---|---|---|---|---|---|
| RunPod (abre em nova aba)Mais barata | 1x RTX PRO 6000 MaxQus | US$ 0,50 | 1 × RTX PRO 6000 96GB | cerca de US$ 0,50 | cerca de US$ 365 |
| Vast.ai (abre em nova aba) | 2x RTX 3090 (median of 18 offers)marketplace global | US$ 0,29 | 2 × RTX 3090 24GB | cerca de US$ 0,58 | cerca de US$ 421 |
| Lambda (abre em nova aba) | 1x A6000us | US$ 1,09 | 1 × RTX A6000 48GB | cerca de US$ 1,09 | cerca de US$ 796 |
| Nebius (abre em nova aba) | 1x L40S 48GBeu/us | US$ 1,55 | 1 × L40S 48GB | cerca de US$ 1,55 | cerca de US$ 1.132 |
| Vultr (abre em nova aba) | vcg-l40s-16c-180g-48vramus | US$ 1,67 | 1 × L40S 48GB | cerca de US$ 1,67 | cerca de US$ 1.220 |
| AWS (abre em nova aba) | g6e.xlargeus-east-1 | US$ 1,86 | 1 × L40S 48GB | cerca de US$ 1,86 | cerca de US$ 1.359 |
| Google Cloud (abre em nova aba) | g2-standard-24us-central1 | US$ 1,00 | 2 × L4 24GB | cerca de US$ 2,00 | cerca de US$ 1.461 |
| Azure (abre em nova aba) | NC24ads_A100_v4eastus | US$ 3,67 | 1 × A100 80GB | cerca de US$ 3,67 | cerca de US$ 2.681 |
| CoreWeave (abre em nova aba) | GH200us | US$ 6,50 | 1 × GH200 96GB | cerca de US$ 6,50 | cerca de US$ 4.745 |
Preços coletados em 13 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai são globais).
Memória por precisão e uso
| Precisão | Inferência | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 35 GB | 45 GB | – | 267 GB |
| INT8 | 20 GB | – | – | – |
| INT4 | 11 GB | – | 21 GB | – |
A GPU mais barata por precisão
Inferência com contexto de 8K e uma requisição por vez.
FP16 / BF16
cerca de 35 GB · 8K tokens
Os pesos como foram publicados. Sem perda, mas com o maior consumo.
1 × RTX PRO 6000 96GB
RunPod (abre em nova aba) · 1x RTX PRO 6000 MaxQ
- Por GPU / h
- US$ 0,50
- GPUs necessárias
- 1
- Total / h
- cerca de US$ 0,50
- por mês, 24/7, aprox.
- US$ 365
INT8
cerca de 20 GB · 8K tokens
Pesos com metade do tamanho. Em chat e RAG quase não se nota diferença.
1 × RTX 3090 24GB
Vast.ai (abre em nova aba) · 1x RTX 3090 (median of 29 offers)
- Por GPU / h
- US$ 0,25
- GPUs necessárias
- 1
- Total / h
- cerca de US$ 0,25
- por mês, 24/7, aprox.
- US$ 183
INT4
cerca de 11 GB · 8K tokens
Pesos com um quarto do tamanho. As pequenas perdas aparecem primeiro em matemática e código.
1 × RTX 3090 24GB
Vast.ai (abre em nova aba) · 1x RTX 3090 (median of 29 offers)
- Por GPU / h
- US$ 0,25
- GPUs necessárias
- 1
- Total / h
- cerca de US$ 0,25
- por mês, 24/7, aprox.
- US$ 183
Inferência ou ajuste fino
Inferência (FP16)
1×
da memória da inferência
35 GB
1 × RTX PRO 6000 96GB · cerca de US$ 0,50
Ajuste LoRA
1,3×
da memória da inferência
45 GB
1 × RTX PRO 6000 96GB · cerca de US$ 0,50
Ajuste QLoRA
0,6×
da memória da inferência
21 GB
1 × RTX 3090 24GB · cerca de US$ 0,25
Ajuste completo
7,6×
da memória da inferência
267 GB
7 × A40 48GB · cerca de US$ 4,72
Para servi-lo em FP16 basta 1 × RTX PRO 6000 96GB (RunPod). LoRA precisa de 1 × RTX PRO 6000 96GB (RunPod), QLoRA de 1 × RTX 3090 24GB (Vast.ai) e um ajuste completo de 7 × A40 48GB (RunPod). O treino mantém na memória as ativações e o estado do otimizador além dos pesos, por isso costuma pedir mais GPUs do que servir o mesmo modelo.
Roda em um Mac ou em uma única RTX 4090?
RTX 4090 (24 GB)
Sim, em INT8 com contexto de 8K: cerca de 20 GB cabem nos 24 GB da placa.
Mac com Apple silicon
Sim, com memória suficiente. Em INT4 ele precisa de cerca de 11 GB, então um Mac com 16 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.
Modelos parecidos
Modelos abertos de tamanho parecido.
- Qwen2.5 14B InstructTexto14,8 bi · cerca de 35 GB FP16 · 626,2 mil ↓Necessidade de GPU
- Qwen3 14BTexto14,8 bi · cerca de 35 GB FP16 · 13 mi ↓Necessidade de GPU
- Mellum2.1 ThinkingTexto12,1 bi · cerca de 28 GB FP16 · 16,3 mil ↓Necessidade de GPU
- humanizer (12B)Texto12 bi · cerca de 27 GB FP16 · 396,5 mil ↓Necessidade de GPU
- gpt-oss-20bTexto20,9 bi · cerca de 47 GB FP16 · 5,7 mi ↓Necessidade de GPU
- gpt-oss-safeguardTexto21,5 bi · cerca de 49 GB FP16 · 24,9 mil ↓Necessidade de GPU
Qwen2.5 Coder 14B Instruct: perguntas frequentes
Quanta VRAM o Qwen2.5 Coder 14B Instruct precisa?
Cerca de 35 GB em FP16, 20 GB em INT8 e 11 GB em INT4, com contexto de 8K e uma requisição por vez. Contextos maiores e mais requisições em paralelo somam cache KV.
Qual é a GPU mais barata para rodar o Qwen2.5 Coder 14B Instruct?
1 × RTX PRO 6000 96GB (cerca de US$ 0,50 por GPU / hora) na RunPod, por cerca de US$ 0,50 a hora para inferência em FP16 / BF16 com contexto de 8K. Preços coletados em 13 de nov. de 2026; mudam com frequência.
Dá para fazer ajuste fino do Qwen2.5 Coder 14B Instruct em uma única GPU?
Sim, com QLoRA: precisa de cerca de 21 GB, que cabem em uma GPU de 80 GB. LoRA precisa de cerca de 45 GB e um ajuste completo de cerca de 267 GB.
Como esses números são calculados?
Os pesos são os parâmetros vezes os bytes por parâmetro (2 em FP16, 1 em INT8, 0,5 em INT4). O cache KV vem das camadas, cabeças KV, tamanho da cabeça e tamanho do contexto do modelo. Somamos cerca de 10% mais 1 GB para o runtime e enchemos cada GPU até 90%. Os preços são de tabela sob demanda em regiões dos EUA, coletados da página pública de cada provedor.
O Qwen2.5 Coder 14B Instruct roda em uma GPU de consumo como a RTX 4090?
Sim, em INT8 com contexto de 8K: cerca de 20 GB cabem nos 24 GB da placa.
O Qwen2.5 Coder 14B Instruct cabe em uma única H100 80GB?
Sim, em FP16 / BF16, INT8, INT4 com contexto de 8K.
Quantas GPUs preciso para o Qwen2.5 Coder 14B Instruct?
Em FP16 com contexto de 8K: 1 × 80 GB, 1 × 48 GB ou 2 × 24 GB. Em INT4 os pesos ocupam cerca de um quarto da memória.
Quanta VRAM o Qwen2.5 Coder 14B Instruct precisa em INT8?
Cerca de 20 GB: 16 GB para os pesos, 1,6 GB para um cache KV de 8K e 2,7 GB de sobrecarga do runtime.
Quanto custa rodar o Qwen2.5 Coder 14B Instruct 24/7 por um mês?
Cerca de US$ 365 na configuração mais barata que encontramos (1 × RTX PRO 6000 96GB (cerca de US$ 0,50 por GPU / hora), US$ 0,50 a hora por 730 horas). O mais barato na AWS, Google Cloud ou Azure fica em cerca de US$ 1.359 por mês.
FP16, INT8 ou INT4: qual usar?
FP16 mantém a qualidade total e usa mais memória (cerca de 35 GB aqui). INT8 corta os pesos pela metade com pouca perda na maioria dos usos de chat. INT4 (AWQ, GPTQ ou GGUF Q4) reduz para um quarto, cerca de 11 GB no total, com uma pequena queda de qualidade que aparece mais em matemática e código.
O Qwen2.5 Coder 14B Instruct roda em um Mac?
Sim, com memória suficiente. Em INT4 ele precisa de cerca de 11 GB, então um Mac com 16 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.
vLLM ou llama.cpp?
O vLLM foi feito para atender muitas requisições ao mesmo tempo em GPUs NVIDIA e AMD e reserva quase toda a memória da GPU para o cache KV. O llama.cpp roda arquivos GGUF em quase tudo, inclusive Macs e CPUs, e serve bem a uma pessoa ou a uma equipe pequena. Na mesma precisão, a memória necessária é parecida.
Preços coletados em 13 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai são globais).
Como calculamos
- Pesos. Parâmetros vezes bytes por parâmetro: 2 em FP16, 1 em INT8, 0,5 em INT4, mais cerca de 5% para as escalas de quantização em INT8 e INT4.
- Cache KV. 2 × camadas × cabeças KV × tamanho da cabeça × contexto × requisições × 2 bytes, a partir do config.json do modelo. Quando falta um dado, estimamos e avisamos.
- Sobrecarga. Cerca de 10% mais 1 GB para o runtime, em linha com o que o vLLM reserva.
- Ajuste fino. LoRA mantém pesos em 16 bits e adiciona um adaptador pequeno, seu otimizador e as ativações. QLoRA faz o mesmo sobre pesos de 4 bits. Um ajuste completo precisa de cerca de 16 bytes por parâmetro com Adam em precisão mista (pesos, gradientes e estados do otimizador), mais as ativações.
- GPUs. Enchemos cada GPU até 90% da memória e paramos em 8 por nó. Os custos são preços de tabela sob demanda em regiões dos EUA; nos marketplaces mostramos a oferta mediana.