Requisitos de GPU de DeepSeek V4 Flash: VRAM y GPU más barata
DeepSeek V4 Flash tiene 290,9 mil M parámetros, publicados en FP4. Es un modelo de mezcla de expertos: 6 de sus 256 expertos trabajan en cada token, unos 20,4 mil M parámetros, así que genera más o menos a la velocidad de un modelo de ese tamaño. Aun así, todos los expertos tienen que estar en la memoria de la GPU, por eso las cifras de memoria de abajo son las del modelo completo. Se publica con licencia mit, que permite el uso comercial.
- Parámetros
- 290,9 mil M
- Mínimo de memoria (INT4)
- unos 170 GB
- GPU más barata por hora (FP16)
- 2,39 US$
- Tipo
- Texto
deepseek-ai/DeepSeek-V4-Flash
- Parámetros 290,9 mil M
- Activos por token 20,4 mil M
- Tipo Texto
- Tarea text-generation
- Contexto máximo 1024K
- Licencia mit
- Descargas 1,2 M
- Me gusta 2,4 mil
Cálculo para DeepSeek V4 Flash
Más ajustes
DeepSeek V4 Flash necesita unos 642 GB de memoria de GPU
Inferencia (vLLM), FP16 / BF16, contexto de 8K tokens, una petición a la vez.
En qué se va la memoria
- Pesos 582 GB
- Caché KV 0,72 GB
- Sobrecarga del motor 59 GB
- Total 642 GB
El número de GPU deja libre un 10 % de cada tarjeta para picos. Prevé más si esperas prompts largos o muchos usuarios a la vez.
| Puesto | Configuración | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) | Proveedor |
|---|---|---|---|---|---|---|
| 1 | 4 × MI300X 192GBMás barataCDNA 3 · HBM3 | 2,39 US$ | 4 | 9,56 US$ | 6979 US$ | RunPod (se abre en una pestaña nueva)4x MI300X |
| 2 | 8 × RTX PRO 6000 96GBBlackwell · GDDR7 | 1,80 US$ | 8 | 14,40 US$ | 10.512 US$ | Nebius (se abre en una pestaña nueva)8x RTX PRO 6000 96GB |
| 3 | 8 × H100 NVL 94GBHopper · HBM3 | 3,19 US$ | 8 | 25,52 US$ | 18.630 US$ | RunPod (se abre en una pestaña nueva)8x H100 NVL |
| 4 | 6 × H200 141GBHopper · HBM3e | 3,79 US$ | 6se vende con 8 GPU; necesitas 6 | 30,32 US$ | 22.134 US$ | RunPod (se abre en una pestaña nueva)8x H200 NVL |
| 5 | 4 × B200 180GBBlackwell · HBM3e | 7,79 US$ | 4 | 31,16 US$ | 22.747 US$ | Lambda (se abre en una pestaña nueva)4x B200 SXM6 |
| 6 | 3 × B300 288GBBlackwell Ultra · HBM3e | 8,99 US$ | 3se vende con 4 GPU; necesitas 3 | 35,96 US$ | 26.251 US$ | RunPod (se abre en una pestaña nueva)4x B300 |
| 7 | 4 × GB200 186GBBlackwell · HBM3e | 10,50 US$ | 4 | 42,00 US$ | 30.660 US$ | CoreWeave (se abre en una pestaña nueva)GB200 NVL72 |
| Más de 8: hacen falta varios nodos: H100 80GB, A100 80GB, L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Proveedor | Instancia | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) |
|---|---|---|---|---|---|
| RunPod (se abre en una pestaña nueva)Más barata | 4x MI300Xus | 2,39 US$ | 4 × MI300X 192GB | unos 9,56 US$ | unos 6979 US$ |
| Nebius (se abre en una pestaña nueva) | 8x RTX PRO 6000 96GBeu/us | 1,80 US$ | 8 × RTX PRO 6000 96GB | unos 14,40 US$ | unos 10.512 US$ |
| Vast.ai (se abre en una pestaña nueva) | 8x RTX PRO 6000 S (median of 4 offers)mercado mundial | 2,23 US$ | 8 × RTX PRO 6000 96GB | unos 17,87 US$ | unos 13.045 US$ |
| CoreWeave (se abre en una pestaña nueva) | RTX PRO 6000 Blackwell Server Edition (High Memory)us | 2,50 US$ | 8 × RTX PRO 6000 96GB | unos 20,00 US$ | unos 14.600 US$ |
| Lambda (se abre en una pestaña nueva) | 4x B200 SXM6us | 7,79 US$ | 4 × B200 180GB | unos 31,16 US$ | unos 22.747 US$ |
| Vultr (se abre en una pestaña nueva) | vbm-256c-2048gb-8-mi300x-gpu (bare metal)us | 3,99 US$ | 4 × MI300X 192GB se vende con 8 GPU; necesitas 4 | unos 31,92 US$ | unos 23.302 US$ |
| AWS (se abre en una pestaña nueva) | g7e.48xlargeus-east-1 | 4,14 US$ | 8 × RTX PRO 6000 96GB | unos 33,14 US$ | unos 24.195 US$ |
| Google Cloud (se abre en una pestaña nueva) | g4-standard-384us-central1 | 4,50 US$ | 8 × RTX PRO 6000 96GB | unos 36,00 US$ | unos 26.280 US$ |
| Azure (se abre en una pestaña nueva) | ND128isr_NDR_GB200_v6eastus | 27,04 US$ | 4 × GB200 186GB | unos 108,16 US$ | unos 78.957 US$ |
Precios recogidos el 16 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai y Lium son mundiales).
Memoria por precisión y uso
| Precisión | Inferencia | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 642 GB | 748 GB | – | 5126 GB |
| INT8 | 338 GB | – | – | – |
| INT4 | 170 GB | – | 276 GB | – |
La GPU más barata por precisión
Inferencia con contexto de 8K y una petición a la vez.
FP16 / BF16
unos 642 GB · 8K tokens
Los pesos tal como se publican. Sin pérdidas, pero ocupa más.
4 × MI300X 192GB
RunPod (se abre en una pestaña nueva) · 4x MI300X
- Por GPU / h
- 2,39 US$
- GPU necesarias
- 4
- Total / h
- unos 9,56 US$
- al mes, 24/7, aprox.
- 6979 US$
INT8
unos 338 GB · 8K tokens
Pesos a la mitad de tamaño. En chat y RAG apenas se nota.
8 × A40 48GB
RunPod (se abre en una pestaña nueva) · 8x A40
- Por GPU / h
- 0,59 US$
- GPU necesarias
- 8
- Total / h
- unos 4,72 US$
- al mes, 24/7, aprox.
- 3446 US$
INT4
unos 170 GB · 8K tokens
Pesos a una cuarta parte. Las pequeñas pérdidas aparecen antes en matemáticas y código.
4 × A40 48GB
RunPod (se abre en una pestaña nueva) · 4x A40
- Por GPU / h
- 0,59 US$
- GPU necesarias
- 4
- Total / h
- unos 2,36 US$
- al mes, 24/7, aprox.
- 1723 US$
Inferencia frente a ajuste fino
Inferencia (FP16)
1×
de la memoria que pide la inferencia
642 GB
4 × MI300X 192GB · unos 9,56 US$
Ajuste LoRA
1,2×
de la memoria que pide la inferencia
748 GB
5 × MI300X 192GB · unos 19,12 US$
Ajuste QLoRA
0,4×
de la memoria que pide la inferencia
276 GB
7 × A40 48GB · unos 4,72 US$
Ajuste completo
8×
de la memoria que pide la inferencia
5126 GB
más de un nodo de 8 GPU
Para servirlo en FP16 basta con 4 × MI300X 192GB (RunPod). LoRA necesita 5 × MI300X 192GB (RunPod), QLoRA 7 × A40 48GB (RunPod) y un ajuste completo más de un nodo de 8 GPU. Entrenar guarda en memoria las activaciones y el estado del optimizador además de los pesos; por eso suele pedir más GPU que servir el mismo modelo.
¿Funciona en un Mac o en una sola RTX 4090?
RTX 4090 (24 GB)
No por sí sola. Incluso en INT4 necesita unos 170 GB, más que los 24 GB de la tarjeta. Bastan dos o más tarjetas o una GPU de centro de datos más grande.
Mac con Apple silicon
Sí, con memoria suficiente. En INT4 necesita unos 170 GB, así que un Mac con 256 GB o más de memoria unificada (macOS deja a la GPU usar unas tres cuartas partes). La generación será más lenta que en una GPU de centro de datos.
Modelos parecidos
Modelos abiertos de tamaño parecido.
- ERNIE 5.5 Flash BaseTexto286,2 mil M · unos 631 GB FP16 · 1,9 mil ↓Necesidades de GPU
- Hy3Texto298,8 mil M · unos 661 GB FP16 · 885,6 mil ↓Necesidades de GPU
- DeepSeek V4 Flash 0731Texto304,2 mil M · unos 671 GB FP16 · 1,6 M ↓Necesidades de GPU
- Solar Open 2Texto250,3 mil M · unos 553 GB FP16 · 6,2 mil ↓Necesidades de GPU
- MiniMax M2.5Texto228,7 mil M · unos 506 GB FP16 · 907,6 mil ↓Necesidades de GPU
- Laguna M.1Texto225,8 mil M · unos 500 GB FP16 · 594,5 mil ↓Necesidades de GPU
DeepSeek V4 Flash: preguntas frecuentes
¿Cuánta VRAM necesita DeepSeek V4 Flash?
Unos 642 GB en FP16, 338 GB en INT8 y 170 GB en INT4, con contexto de 8K y una petición a la vez. Los contextos más largos y más peticiones en paralelo añaden caché KV.
¿Cuál es la GPU más barata para ejecutar DeepSeek V4 Flash?
4 × MI300X 192GB (unos 2,39 US$ por GPU / hora) en RunPod, por unos 9,56 US$ la hora para inferencia en FP16 / BF16 con contexto de 8K. Precios recogidos el 16 nov 2026; cambian a menudo.
¿Puedo hacer ajuste fino de DeepSeek V4 Flash en una sola GPU?
No en una sola GPU. Incluso QLoRA necesita unos 276 GB, más de lo que cabe en una GPU de 80 GB. LoRA necesita unos 748 GB y un ajuste completo unos 5126 GB.
¿Cómo se calculan estas cifras?
Los pesos son los parámetros por los bytes por parámetro (2 en FP16, 1 en INT8, 0,5 en INT4). La caché KV sale de las capas, las cabezas KV, el tamaño de cabeza y la longitud de contexto del modelo. Añadimos un 10 % más 1 GB para el motor y llenamos cada GPU hasta el 90 %. Los precios son de lista bajo demanda en regiones de EE. UU., tomados de la página pública de cada proveedor.
¿Funciona DeepSeek V4 Flash en una GPU de consumo como la RTX 4090?
No por sí sola. Incluso en INT4 necesita unos 170 GB, más que los 24 GB de la tarjeta. Bastan dos o más tarjetas o una GPU de centro de datos más grande.
¿Cabe DeepSeek V4 Flash en una sola H100 de 80 GB?
No. Incluso en INT4 necesita unos 170 GB, así que hacen falta varias GPU.
¿Cuántas GPU necesito para DeepSeek V4 Flash?
En FP16 con contexto de 8K: 9 × 80 GB, 15 × 48 GB o 30 × 24 GB. En INT4 los pesos ocupan más o menos la cuarta parte.
¿Cuánta VRAM necesita DeepSeek V4 Flash en INT8?
Unos 338 GB: 305 GB para los pesos, 0,72 GB para una caché KV de 8K y 32 GB de sobrecarga del motor.
¿Cuánto cuesta tener DeepSeek V4 Flash funcionando 24/7 durante un mes?
Unos 6979 US$ con la configuración más barata que encontramos (4 × MI300X 192GB (unos 2,39 US$ por GPU / hora), 9,56 US$ la hora durante 730 horas). Lo más barato en AWS, Google Cloud o Azure ronda los 24.195 US$ al mes.
FP16, INT8 o INT4: ¿cuál uso?
FP16 conserva toda la calidad y necesita más memoria (unos 642 GB aquí). INT8 reduce los pesos a la mitad con poca pérdida para la mayoría de usos de chat. INT4 (AWQ, GPTQ o GGUF Q4) los deja en una cuarta parte, unos 170 GB en total, con una pequeña pérdida de calidad que se nota sobre todo en matemáticas y código.
¿Funciona DeepSeek V4 Flash en un Mac?
Sí, con memoria suficiente. En INT4 necesita unos 170 GB, así que un Mac con 256 GB o más de memoria unificada (macOS deja a la GPU usar unas tres cuartas partes). La generación será más lenta que en una GPU de centro de datos.
¿vLLM o llama.cpp?
vLLM está pensado para servir muchas peticiones a la vez en GPU de NVIDIA y AMD y reserva casi toda la memoria de la GPU para la caché KV. llama.cpp ejecuta archivos GGUF casi en cualquier equipo, incluidos Mac y CPU, y va bien para una persona o un equipo pequeño. Con la misma precisión, la memoria necesaria es parecida.
Precios recogidos el 16 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai y Lium son mundiales).
Cómo calculamos
- Pesos. Parámetros por bytes por parámetro: 2 en FP16, 1 en INT8, 0,5 en INT4, más un 5 % aproximado para las escalas de cuantización en INT8 e INT4.
- Caché KV. 2 × capas × cabezas KV × tamaño de cabeza × contexto × peticiones × 2 bytes, según el config.json del modelo. Si falta un dato, lo estimamos y lo indicamos.
- Sobrecarga. Alrededor de un 10 % más 1 GB para el motor, en línea con lo que reserva vLLM.
- Ajuste fino. LoRA mantiene los pesos en 16 bits y añade un adaptador pequeño, su optimizador y las activaciones. QLoRA hace lo mismo sobre pesos de 4 bits. Un ajuste completo necesita unos 16 bytes por parámetro con Adam en precisión mixta (pesos, gradientes y estados del optimizador), más las activaciones.
- GPU. Llenamos cada GPU hasta el 90 % de su memoria y paramos en 8 por nodo. Los costes son precios de lista bajo demanda en regiones de EE. UU.; en las nubes tipo mercado mostramos la oferta mediana.