Requisitos de GPU do DeepSeek V3: VRAM e GPU mais barata
DeepSeek V3 tem 684,5 bi parâmetros, publicados em FP8. É um modelo de mistura de especialistas: 8 dos seus 256 especialistas trabalham em cada token, cerca de 51 bi parâmetros, então ele gera texto mais ou menos na velocidade de um modelo desse tamanho. Ainda assim, todos os especialistas precisam ficar na memória da GPU, por isso os números de memória abaixo são do modelo inteiro.
- Parâmetros
- 684,5 bi
- Menor consumo (INT4)
- cerca de 397 GB
- GPU mais barata por hora (FP16)
- US$ 8,99
- Tipo
- Texto
deepseek-ai/DeepSeek-V3
- Parâmetros 684,5 bi
- Ativos por token 51 bi
- Tipo Texto
- Tarefa text-generation
- Contexto máximo 160K
- Downloads 1,4 mi
- Curtidas 4,5 mil
Cálculo para DeepSeek V3
Mais ajustes
DeepSeek V3 precisa de cerca de 1.508 GB de memória de GPU
Inferência (vLLM), FP16 / BF16, contexto de 8K tokens, uma requisição por vez.
Para onde vai a memória
- Pesos 1.369 GB
- Cache KV 0,58 GB
- Sobrecarga do runtime 138 GB
- Total 1.508 GB
A contagem de GPUs deixa 10% de cada placa livre para picos. Reserve mais se espera prompts longos ou muitos usuários ao mesmo tempo.
| Posição | Configuração | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) | Provedor |
|---|---|---|---|---|---|---|
| 1 | 6 × B300 288GBMais barataBlackwell Ultra · HBM3e | US$ 8,99 | 6vendida com 8 GPUs; você precisa de 6 | US$ 71,92 | US$ 52.502 | RunPod (abre em nova aba)8x B300 |
| Mais de 8: precisa de vários nós: MI300X 192GB, GB200 186GB, B200 180GB, H200 141GB, GH200 96GB, H100 NVL 94GB, RTX PRO 6000 96GB, H100 80GB, A100 80GB, L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Provedor | Instância | Por GPU / h | GPUs necessárias | Total / h | Total / mês (24/7) |
|---|---|---|---|---|---|
| RunPod (abre em nova aba)Mais barata | 8x B300us | US$ 8,99 | 6 × B300 288GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 71,92 | cerca de US$ 52.502 |
| Nebius (abre em nova aba) | 8x B300 288GBeu/us | US$ 9,50 | 6 × B300 288GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 76,00 | cerca de US$ 55.480 |
| AWS (abre em nova aba) | p6-b300.48xlargeus-east-1 | US$ 17,80 | 6 × B300 288GB vendida com 8 GPUs; você precisa de 6 | cerca de US$ 142,42 | cerca de US$ 103.964 |
Preços coletados em 16 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai e o Lium são globais).
Memória por precisão e uso
| Precisão | Inferência | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 1.508 GB | 1.758 GB | – | 12.058 GB |
| INT8 | 792 GB | – | – | – |
| INT4 | 397 GB | – | 647 GB | – |
A GPU mais barata por precisão
Inferência com contexto de 8K e uma requisição por vez.
FP16 / BF16
cerca de 1.508 GB · 8K tokens
Os pesos como foram publicados. Sem perda, mas com o maior consumo.
6 × B300 288GB
RunPod (abre em nova aba) · 8x B300
vendida com 8 GPUs; você precisa de 6- Por GPU / h
- US$ 8,99
- GPUs necessárias
- 6
- Total / h
- cerca de US$ 71,92
- por mês, 24/7, aprox.
- US$ 52.502
INT8
cerca de 792 GB · 8K tokens
Pesos com metade do tamanho. Em chat e RAG quase não se nota diferença.
5 × MI300X 192GB
RunPod (abre em nova aba) · 8x MI300X
vendida com 8 GPUs; você precisa de 5- Por GPU / h
- US$ 2,39
- GPUs necessárias
- 5
- Total / h
- cerca de US$ 19,12
- por mês, 24/7, aprox.
- US$ 13.958
INT4
cerca de 397 GB · 8K tokens
Pesos com um quarto do tamanho. As pequenas perdas aparecem primeiro em matemática e código.
3 × MI300X 192GB
RunPod (abre em nova aba) · 4x MI300X
vendida com 4 GPUs; você precisa de 3- Por GPU / h
- US$ 2,39
- GPUs necessárias
- 3
- Total / h
- cerca de US$ 9,56
- por mês, 24/7, aprox.
- US$ 6.979
Inferência ou ajuste fino
Inferência (FP16)
1×
da memória da inferência
1.508 GB
6 × B300 288GB · cerca de US$ 71,92
Ajuste LoRA
1,2×
da memória da inferência
1.758 GB
7 × B300 288GB · cerca de US$ 71,92
Ajuste QLoRA
0,4