Requisitos de GPU de GLM-5.3: VRAM y GPU más barata
GLM-5.3 tiene 753,3 mil M parámetros, publicados en FP8. Es un modelo de mezcla de expertos: 8 de sus 256 expertos trabajan en cada token, unos 51,2 mil M parámetros, así que genera más o menos a la velocidad de un modelo de ese tamaño. Aun así, todos los expertos tienen que estar en la memoria de la GPU, por eso las cifras de memoria de abajo son las del modelo completo. Su licencia (glm-5.3) añade condiciones propias; léela antes de usar el modelo con fines comerciales.
- Parámetros
- 753,3 mil M
- Mínimo de memoria (INT4)
- unos 437 GB
- GPU más barata por hora (FP16)
- 8,99 US$
- Tipo
- Texto
- Parámetros 753,3 mil M
- Activos por token 51,2 mil M
- Tipo Texto
- Tarea text-generation
- Contexto máximo 1024K
- Licencia glm-5.3
- Descargas 1,9 M
- Me gusta 2,4 mil
Cálculo para GLM-5.3
Más ajustes
GLM-5.3 necesita unos 1659 GB de memoria de GPU
Inferencia (vLLM), FP16 / BF16, contexto de 8K tokens, una petición a la vez.
En qué se va la memoria
- Pesos 1507 GB
- Caché KV 0,74 GB
- Sobrecarga del motor 152 GB
- Total 1659 GB
El número de GPU deja libre un 10 % de cada tarjeta para picos. Prevé más si esperas prompts largos o muchos usuarios a la vez.
| Puesto | Configuración | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) | Proveedor |
|---|---|---|---|---|---|---|
| 1 | 7 × B300 288GBMás barataBlackwell Ultra · HBM3e | 8,99 US$ | 7se vende con 8 GPU; necesitas 7 | 71,92 US$ | 52.502 US$ | RunPod (se abre en una pestaña nueva)8x B300 |
| Más de 8: hacen falta varios nodos: GB200 186GB, MI300X 192GB, B200 180GB, H200 141GB, GH200 96GB, H100 NVL 94GB, RTX PRO 6000 96GB, H100 80GB, A100 80GB, L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Proveedor | Instancia | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) |
|---|---|---|---|---|---|
| RunPod (se abre en una pestaña nueva)Más barata | 8x B300us | 8,99 US$ | 7 × B300 288GB se vende con 8 GPU; necesitas 7 | unos 71,92 US$ | unos 52.502 US$ |
| Nebius (se abre en una pestaña nueva) | 8x B300 288GBeu/us | 9,50 US$ | 7 × B300 288GB se vende con 8 GPU; necesitas 7 | unos 76,00 US$ | unos 55.480 US$ |
| AWS (se abre en una pestaña nueva) | p6-b300.48xlargeus-east-1 | 17,80 US$ | 7 × B300 288GB se vende con 8 GPU; necesitas 7 | unos 142,42 US$ | unos 103.964 US$ |
Precios recogidos el 13 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai son mundiales).
Memoria por precisión y uso
| Precisión | Inferencia | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 1659 GB | 1934 GB | – | 13.270 GB |
| INT8 | 872 GB | – | – | – |
| INT4 | 437 GB | – | 712 GB | – |
La GPU más barata por precisión
Inferencia con contexto de 8K y una petición a la vez.
FP16 / BF16
unos 1659 GB · 8K tokens
Los pesos tal como se publican. Sin pérdidas, pero ocupa más.
7 × B300 288GB
RunPod (se abre en una pestaña nueva) · 8x B300
se vende con 8 GPU; necesitas 7- Por GPU / h
- 8,99 US$
- GPU necesarias
- 7
- Total / h
- unos 71,92 US$
- al mes, 24/7, aprox.
- 52.502 US$
INT8
unos 872 GB · 8K tokens
Pesos a la mitad de tamaño. En chat y RAG apenas se nota.
6 × MI300X 192GB
RunPod (se abre en una pestaña nueva) · 8x MI300X
se vende con 8 GPU; necesitas 6- Por GPU / h
- 2,39 US$
- GPU necesarias
- 6
- Total / h
- unos 19,12 US$
- al mes, 24/7, aprox.
- 13.958 US$
INT4
unos 437 GB · 8K tokens
Pesos a una cuarta parte. Las pequeñas pérdidas aparecen antes en matemáticas y código.
3 × MI300X 192GB
RunPod (se abre en una pestaña nueva) · 4x MI300X
se vende con 4 GPU; necesitas 3- Por GPU / h
- 2,39 US$
- GPU necesarias
- 3
- Total / h
- unos 9,56 US$
- al mes, 24/7, aprox.
- 6979 US$
Inferencia frente a ajuste fino
Inferencia (FP16)
1×
de la memoria que pide la inferencia
1659 GB
7 × B300 288GB · unos 71,92 US$
Ajuste LoRA
1,2×
de la memoria que pide la inferencia
1934 GB
8 × B300 288GB · unos 71,92 US$
Ajuste QLoRA
0,4×
de la memoria que pide la inferencia
712 GB
5 × MI300X 192GB · unos 19,12 US$
Ajuste completo
8×
de la memoria que pide la inferencia
13.270 GB
más de un nodo de 8 GPU
Para servirlo en FP16 basta con 7 × B300 288GB (RunPod). LoRA necesita 8 × B300 288GB (RunPod), QLoRA 5 × MI300X 192GB (RunPod) y un ajuste completo más de un nodo de 8 GPU. Entrenar guarda en memoria las activaciones y el estado del optimizador además de los pesos; por eso suele pedir más GPU que servir el mismo modelo.
¿Funciona en un Mac o en una sola RTX 4090?
RTX 4090 (24 GB)
No por sí sola. Incluso en INT4 necesita unos 437 GB, más que los 24 GB de la tarjeta. Bastan dos o más tarjetas o una GPU de centro de datos más grande.
Mac con Apple silicon
No de forma realista. Incluso en INT4 necesita unos 437 GB, más de lo que el Mac más grande puede dar a su GPU.
¿Ejecutarlo tú o pagar por token?
Ejecutarlo tú
La configuración más barata que encontramos en FP16 es 7 × B300 288GB en RunPod, unos 52.502 US$ al mes si funciona sin parar. Compensa con tráfico constante o si los datos deben quedarse en tus máquinas.
Usar una API alojada
Nuestra reseña de GLM-5.3 explica dónde usarlo mediante una API y cuánto cuesta. Pagar por token suele salir más barato con tráfico ligero o irregular.
Lee nuestra reseñaModelos parecidos
Modelos abiertos de tamaño parecido.
- GLM 5Texto753,9 mil M · unos 1660 GB FP16 · 1,2 M ↓Necesidades de GPU
- GLM 5.1Texto753,9 mil M · unos 1660 GB FP16 · 789,8 mil ↓Necesidades de GPU
- K-EXAONE 2.0Texto749,4 mil M · unos 1650 GB FP16 · 14,3 mil ↓Necesidades de GPU
- Hy4 previewTexto780 mil M · unos 1718 GB FP16 · 11,6 mil ↓Necesidades de GPU
- DeepSeek V3.2Texto685,4 mil M · unos 1509 GB FP16 · 8,4 M ↓Necesidades de GPU
- DeepSeek R1Texto684,5 mil M · unos 1508 GB FP16 · 1,7 M ↓Necesidades de GPU
GLM-5.3: preguntas frecuentes
¿Cuánta VRAM necesita GLM-5.3?
Unos 1659 GB en FP16, 872 GB en INT8 y 437 GB en INT4, con contexto de 8K y una petición a la vez. Los contextos más largos y más peticiones en paralelo añaden caché KV.
¿Cuál es la GPU más barata para ejecutar GLM-5.3?
7 × B300 288GB (unos 8,99 US$ por GPU / hora; se vende con 8 GPU; necesitas 7) en RunPod, por unos 71,92 US$ la hora para inferencia en FP16 / BF16 con contexto de 8K. Precios recogidos el 13 nov 2026; cambian a menudo.
¿Puedo hacer ajuste fino de GLM-5.3 en una sola GPU?
No en una sola GPU. Incluso QLoRA necesita unos 712 GB, más de lo que cabe en una GPU de 80 GB. LoRA necesita unos 1934 GB y un ajuste completo unos 13.270 GB.
¿Cómo se calculan estas cifras?
Los pesos son los parámetros por los bytes por parámetro (2 en FP16, 1 en INT8, 0,5 en INT4). La caché KV sale de las capas, las cabezas KV, el tamaño de cabeza y la longitud de contexto del modelo. Añadimos un 10 % más 1 GB para el motor y llenamos cada GPU hasta el 90 %. Los precios son de lista bajo demanda en regiones de EE. UU., tomados de la página pública de cada proveedor.
¿Funciona GLM-5.3 en una GPU de consumo como la RTX 4090?
No por sí sola. Incluso en INT4 necesita unos 437 GB, más que los 24 GB de la tarjeta. Bastan dos o más tarjetas o una GPU de centro de datos más grande.
¿Cabe GLM-5.3 en una sola H100 de 80 GB?
No. Incluso en INT4 necesita unos 437 GB, así que hacen falta varias GPU.
¿Cuántas GPU necesito para GLM-5.3?
En FP16 con contexto de 8K: 24 × 80 GB, 39 × 48 GB o 77 × 24 GB. En INT4 los pesos ocupan más o menos la cuarta parte.
¿Cuánta VRAM necesita GLM-5.3 en INT8?
Unos 872 GB: 791 GB para los pesos, 0,74 GB para una caché KV de 8K y 80 GB de sobrecarga del motor.
¿Cuánto cuesta tener GLM-5.3 funcionando 24/7 durante un mes?
Unos 52.502 US$ con la configuración más barata que encontramos (7 × B300 288GB (unos 8,99 US$ por GPU / hora; se vende con 8 GPU; necesitas 7), 71,92 US$ la hora durante 730 horas). Lo más barato en AWS, Google Cloud o Azure ronda los 103.964 US$ al mes.
FP16, INT8 o INT4: ¿cuál uso?
FP16 conserva toda la calidad y necesita más memoria (unos 1659 GB aquí). INT8 reduce los pesos a la mitad con poca pérdida para la mayoría de usos de chat. INT4 (AWQ, GPTQ o GGUF Q4) los deja en una cuarta parte, unos 437 GB en total, con una pequeña pérdida de calidad que se nota sobre todo en matemáticas y código.
¿Funciona GLM-5.3 en un Mac?
No de forma realista. Incluso en INT4 necesita unos 437 GB, más de lo que el Mac más grande puede dar a su GPU.
¿vLLM o llama.cpp?
vLLM está pensado para servir muchas peticiones a la vez en GPU de NVIDIA y AMD y reserva casi toda la memoria de la GPU para la caché KV. llama.cpp ejecuta archivos GGUF casi en cualquier equipo, incluidos Mac y CPU, y va bien para una persona o un equipo pequeño. Con la misma precisión, la memoria necesaria es parecida.
Precios recogidos el 13 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai son mundiales).
Cómo calculamos
- Pesos. Parámetros por bytes por parámetro: 2 en FP16, 1 en INT8, 0,5 en INT4, más un 5 % aproximado para las escalas de cuantización en INT8 e INT4.
- Caché KV. 2 × capas × cabezas KV × tamaño de cabeza × contexto × peticiones × 2 bytes, según el config.json del modelo. Si falta un dato, lo estimamos y lo indicamos.
- Sobrecarga. Alrededor de un 10 % más 1 GB para el motor, en línea con lo que reserva vLLM.
- Ajuste fino. LoRA mantiene los pesos en 16 bits y añade un adaptador pequeño, su optimizador y las activaciones. QLoRA hace lo mismo sobre pesos de 4 bits. Un ajuste completo necesita unos 16 bytes por parámetro con Adam en precisión mixta (pesos, gradientes y estados del optimizador), más las activaciones.
- GPU. Llenamos cada GPU hasta el 90 % de su memoria y paramos en 8 por nodo. Los costes son precios de lista bajo demanda en regiones de EE. UU.; en las nubes tipo mercado mostramos la oferta mediana.