Requisitos de GPU de gpt-oss-120b: VRAM y GPU más barata
gpt-oss-120b tiene 116,8 mil M parámetros, publicados en FP4. Es un modelo de mezcla de expertos: 4 de sus 128 expertos trabajan en cada token, unos 5750,6 M parámetros, así que genera más o menos a la velocidad de un modelo de ese tamaño. Aun así, todos los expertos tienen que estar en la memoria de la GPU, por eso las cifras de memoria de abajo son las del modelo completo. Se publica con licencia apache-2.0, que permite el uso comercial.
- Parámetros
- 116,8 mil M
- Mínimo de memoria (INT4)
- unos 69 GB
- GPU más barata por hora (FP16)
- 0,59 US$
- Tipo
- Texto
openai/gpt-oss-120b
Ver en Hugging Face (se abre en una pestaña nueva)Lee nuestra reseña
- Parámetros 116,8 mil M
- Activos por token 5750,6 M
- Tipo Texto
- Tarea text-generation
- Contexto máximo 128K
- Licencia apache-2.0
- Descargas 2,4 M
- Me gusta 5,5 mil
Cálculo para gpt-oss-120b
Más ajustes
gpt-oss-120b necesita unos 258 GB de memoria de GPU
Inferencia (vLLM), FP16 / BF16, contexto de 8K tokens, una petición a la vez.
En qué se va la memoria
- Pesos 234 GB
- Caché KV 0,3 GB
- Sobrecarga del motor 24 GB
- Total 258 GB
El número de GPU deja libre un 10 % de cada tarjeta para picos. Prevé más si esperas prompts largos o muchos usuarios a la vez.
| Puesto | Configuración | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) | Proveedor |
|---|---|---|---|---|---|---|
| 1 | 6 × A40 48GBMás barataAmpere · GDDR6 | 0,59 US$ | 6se vende con 8 GPU; necesitas 6 | 4,72 US$ | 3446 US$ | RunPod (se abre en una pestaña nueva)8x A40 |
| 2 | 2 × MI300X 192GBCDNA 3 · HBM3 | 2,39 US$ | 2 | 4,78 US$ | 3489 US$ | RunPod (se abre en una pestaña nueva)2x MI300X |
| 3 | 6 × RTX A6000 48GBAmpere · GDDR6 | 0,69 US$ | 6se vende con 8 GPU; necesitas 6 | 5,52 US$ | 4030 US$ | RunPod (se abre en una pestaña nueva)8x RTX A6000 |
| 4 | 3 × RTX PRO 6000 96GBBlackwell · GDDR7 | 1,72 US$ | 3se vende con 4 GPU; necesitas 3 | 6,89 US$ | 5033 US$ | Vast.ai (se abre en una pestaña nueva)4x RTX PRO 6000 S (median of 8 offers) |
| 5 | 4 × A100 80GBAmpere · HBM2e | 2,09 US$ | 4 | 8,36 US$ | 6103 US$ | RunPod (se abre en una pestaña nueva)4x A100 PCIe |
| 6 | 6 × L40S 48GBAda Lovelace · GDDR6 | 1,09 US$ | 6se vende con 8 GPU; necesitas 6 | 8,72 US$ | 6366 US$ | RunPod (se abre en una pestaña nueva)8x L40S |
| 7 | 6 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | 1,09 US$ | 6se vende con 8 GPU; necesitas 6 | 8,72 US$ | 6366 US$ | RunPod (se abre en una pestaña nueva)8x RTX 6000 Ada |
| 8 | 1 × B300 288GBBlackwell Ultra · HBM3e | 8,99 US$ | 1 | 8,99 US$ | 6563 US$ | RunPod (se abre en una pestaña nueva)1x B300 |
| 9 | 4 × H100 80GBHopper · HBM3 | 2,89 US$ | 4 | 11,56 US$ | 8439 US$ | RunPod (se abre en una pestaña nueva)4x H100 PCIe |
| 10 | 4 × H100 NVL 94GBHopper · HBM3 | 3,19 US$ | 4 | 12,76 US$ | 9315 US$ | RunPod (se abre en una pestaña nueva)4x H100 NVL |
| 11 | 3 × H200 141GBHopper · HBM3e | 3,79 US$ | 3se vende con 4 GPU; necesitas 3 | 15,16 US$ | 11.067 US$ | RunPod (se abre en una pestaña nueva)4x H200 NVL |
| 12 | 2 × B200 180GBBlackwell · HBM3e | 7,89 US$ | 2 | 15,78 US$ | 11.519 US$ | Lambda (se abre en una pestaña nueva)2x B200 SXM6 |
| 13 | 8 × A100 40GBAmpere · HBM2 | 1,99 US$ | 8 | 15,92 US$ | 11.622 US$ | Lambda (se abre en una pestaña nueva)8x HGX A100 |
| 14 | 2 × GB200 186GBBlackwell · HBM3e | 10,50 US$ | 2se vende con 4 GPU; necesitas 2 | 42,00 US$ | 30.660 US$ | CoreWeave (se abre en una pestaña nueva)GB200 NVL72 |
| Más de 8: hacen falta varios nodos: RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Proveedor | Instancia | Por GPU / h | GPU necesarias | Total / h | Total / mes (24/7) |
|---|---|---|---|---|---|
| RunPod (se abre en una pestaña nueva)Más barata | 8x A40us | 0,59 US$ | 6 × A40 48GB se vende con 8 GPU; necesitas 6 | unos 4,72 US$ | unos 3446 US$ |
| Vast.ai (se abre en una pestaña nueva) | 4x RTX PRO 6000 S (median of 8 offers)mercado mundial | 1,72 US$ | 3 × RTX PRO 6000 96GB se vende con 4 GPU; necesitas 3 | unos 6,89 US$ | unos 5033 US$ |
| Nebius (se abre en una pestaña nueva) | 1x B300 288GBeu/us | 9,50 US$ | 1 × B300 288GB | unos 9,50 US$ | unos 6935 US$ |
| Vultr (se abre en una pestaña nueva) | vbm-48c-1024gb-4-a100-gpu (bare metal)us | 2,40 US$ | 4 × A100 80GB | unos 9,59 US$ | unos 7000 US$ |
| Azure (se abre en una pestaña nueva) | NC96ads_A100_v4eastus | 3,67 US$ | 4 × A100 80GB | unos 14,69 US$ | unos 10.725 US$ |
| Lambda (se abre en una pestaña nueva) | 2x B200 SXM6us | 7,89 US$ | 2 × B200 180GB | unos 15,78 US$ | unos 11.519 US$ |
| AWS (se abre en una pestaña nueva) | g7e.24xlargeus-east-1 | 4,14 US$ | 3 × RTX PRO 6000 96GB se vende con 4 GPU; necesitas 3 | unos 16,57 US$ | unos 12.098 US$ |
| Google Cloud (se abre en una pestaña nueva) | g4-standard-192us-central1 | 4,50 US$ | 3 × RTX PRO 6000 96GB se vende con 4 GPU; necesitas 3 | unos 18,00 US$ | unos 13.140 US$ |
| CoreWeave (se abre en una pestaña nueva) | L40Sus | 2,25 US$ | 6 × L40S 48GB se vende con 8 GPU; necesitas 6 | unos 18,00 US$ | unos 13.140 US$ |
Precios recogidos el 13 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai son mundiales).
Memoria por precisión y uso
| Precisión | Inferencia | Ajuste LoRA | Ajuste QLoRA | Ajuste completo |
|---|---|---|---|---|
| FP16 / BF16 | 258 GB | 302 GB | – | 2060 GB |
| INT8 | 136 GB | – | – | – |
| INT4 | 69 GB | – | 112 GB | – |
La GPU más barata por precisión
Inferencia con contexto de 8K y una petición a la vez.
FP16 / BF16
unos 258 GB · 8K tokens
Los pesos tal como se publican. Sin pérdidas, pero ocupa más.
6 × A40 48GB
RunPod (se abre en una pestaña nueva) · 8x A40
se vende con 8 GPU; necesitas 6- Por GPU / h
- 0,59 US$
- GPU necesarias
- 6
- Total / h
- unos 4,72 US$
- al mes, 24/7, aprox.
- 3446 US$
INT8
unos 136 GB · 8K tokens
Pesos a la mitad de tamaño. En chat y RAG apenas se nota.
4 × A40 48GB
RunPod (se abre en una pestaña nueva) · 4x A40
- Por GPU / h
- 0,59 US$
- GPU necesarias
- 4
- Total / h
- unos 2,36 US$
- al mes, 24/7, aprox.
- 1723 US$
INT4
unos 69 GB · 8K tokens
Pesos a una cuarta parte. Las pequeñas pérdidas aparecen antes en matemáticas y código.
1 × RTX PRO 6000 96GB
RunPod (se abre en una pestaña nueva) · 1x RTX PRO 6000 MaxQ
- Por GPU / h
- 0,50 US$
- GPU necesarias
- 1
- Total / h
- unos 0,50 US$
- al mes, 24/7, aprox.
- 365 US$
Inferencia frente a ajuste fino
Inferencia (FP16)
1×
de la memoria que pide la inferencia
258 GB
6 × A40 48GB · unos 4,72 US$
Ajuste LoRA
1,2×
de la memoria que pide la inferencia
302 GB
7 × A40 48GB · unos 4,72 US$
Ajuste QLoRA
0,4×
de la memoria que pide la inferencia
112 GB
3 × A40 48GB · unos 2,36 US$
Ajuste completo
8×
de la memoria que pide la inferencia
2060 GB
8 × B300 288GB · unos 71,92 US$
Para servirlo en FP16 basta con 6 × A40 48GB (RunPod). LoRA necesita 7 × A40 48GB (RunPod), QLoRA 3 × A40 48GB (RunPod) y un ajuste completo 8 × B300 288GB (RunPod). Entrenar guarda en memoria las activaciones y el estado del optimizador además de los pesos; por eso suele pedir más GPU que servir el mismo modelo.
¿Funciona en un Mac o en una sola RTX 4090?
RTX 4090 (24 GB)
No por sí sola. Incluso en INT4 necesita unos 69 GB, más que los 24 GB de la tarjeta. Bastan dos o más tarjetas o una GPU de centro de datos más grande.
Mac con Apple silicon
Sí, con memoria suficiente. En INT4 necesita unos 69 GB, así que un Mac con 96 GB o más de memoria unificada (macOS deja a la GPU usar unas tres cuartas partes). La generación será más lenta que en una GPU de centro de datos.
¿Ejecutarlo tú o pagar por token?
Ejecutarlo tú
La configuración más barata que encontramos en FP16 es 6 × A40 48GB en RunPod, unos 3446 US$ al mes si funciona sin parar. Compensa con tráfico constante o si los datos deben quedarse en tus máquinas.
Usar una API alojada
Nuestra reseña de gpt-oss-120b explica dónde usarlo mediante una API y cuánto cuesta. Pagar por token suele salir más barato con tráfico ligero o irregular.
Lee nuestra reseñaModelos parecidos
Modelos abiertos de tamaño parecido.
- Laguna S 2.1Texto117,6 mil M · unos 260 GB FP16 · 511,5 mil ↓Necesidades de GPU
- GLM 4.5 AirTexto110,5 mil M · unos 246 GB FP16 · 1,2 M ↓Necesidades de GPU
- NVIDIA Nemotron 3 Super 120B A12B BF16Texto123,6 mil M · unos 274 GB FP16 · 916,3 mil ↓Necesidades de GPU
- Ornith-1.5-122BTexto125,1 mil M · unos 276 GB FP16 · 312,9 mil ↓Necesidades de GPU
- Ling-3.0-flash-SanteTexto127,5 mil M · unos 282 GB FP16 · 2,7 mil ↓Necesidades de GPU
- Sarvam-105BTexto106 mil M · unos 235 GB FP16 · 5,2 mil ↓Necesidades de GPU
gpt-oss-120b: preguntas frecuentes
¿Cuánta VRAM necesita gpt-oss-120b?
Unos 258 GB en FP16, 136 GB en INT8 y 69 GB en INT4, con contexto de 8K y una petición a la vez. Los contextos más largos y más peticiones en paralelo añaden caché KV.
¿Cuál es la GPU más barata para ejecutar gpt-oss-120b?
6 × A40 48GB (unos 0,59 US$ por GPU / hora; se vende con 8 GPU; necesitas 6) en RunPod, por unos 4,72 US$ la hora para inferencia en FP16 / BF16 con contexto de 8K. Precios recogidos el 13 nov 2026; cambian a menudo.
¿Puedo hacer ajuste fino de gpt-oss-120b en una sola GPU?
No en una sola GPU. Incluso QLoRA necesita unos 112 GB, más de lo que cabe en una GPU de 80 GB. LoRA necesita unos 302 GB y un ajuste completo unos 2060 GB.
¿Cómo se calculan estas cifras?
Los pesos son los parámetros por los bytes por parámetro (2 en FP16, 1 en INT8, 0,5 en INT4). La caché KV sale de las capas, las cabezas KV, el tamaño de cabeza y la longitud de contexto del modelo. Añadimos un 10 % más 1 GB para el motor y llenamos cada GPU hasta el 90 %. Los precios son de lista bajo demanda en regiones de EE. UU., tomados de la página pública de cada proveedor.
¿Funciona gpt-oss-120b en una GPU de consumo como la RTX 4090?
No por sí sola. Incluso en INT4 necesita unos 69 GB, más que los 24 GB de la tarjeta. Bastan dos o más tarjetas o una GPU de centro de datos más grande.
¿Cabe gpt-oss-120b en una sola H100 de 80 GB?
Sí, en INT4 con contexto de 8K.
¿Cuántas GPU necesito para gpt-oss-120b?
En FP16 con contexto de 8K: 4 × 80 GB, 6 × 48 GB o 12 × 24 GB. En INT4 los pesos ocupan más o menos la cuarta parte.
¿Cuánta VRAM necesita gpt-oss-120b en INT8?
Unos 136 GB: 123 GB para los pesos, 0,3 GB para una caché KV de 8K y 13 GB de sobrecarga del motor.
¿Cuánto cuesta tener gpt-oss-120b funcionando 24/7 durante un mes?
Unos 3446 US$ con la configuración más barata que encontramos (6 × A40 48GB (unos 0,59 US$ por GPU / hora; se vende con 8 GPU; necesitas 6), 4,72 US$ la hora durante 730 horas). Lo más barato en AWS, Google Cloud o Azure ronda los 10.725 US$ al mes.
FP16, INT8 o INT4: ¿cuál uso?
FP16 conserva toda la calidad y necesita más memoria (unos 258 GB aquí). INT8 reduce los pesos a la mitad con poca pérdida para la mayoría de usos de chat. INT4 (AWQ, GPTQ o GGUF Q4) los deja en una cuarta parte, unos 69 GB en total, con una pequeña pérdida de calidad que se nota sobre todo en matemáticas y código.
¿Funciona gpt-oss-120b en un Mac?
Sí, con memoria suficiente. En INT4 necesita unos 69 GB, así que un Mac con 96 GB o más de memoria unificada (macOS deja a la GPU usar unas tres cuartas partes). La generación será más lenta que en una GPU de centro de datos.
¿vLLM o llama.cpp?
vLLM está pensado para servir muchas peticiones a la vez en GPU de NVIDIA y AMD y reserva casi toda la memoria de la GPU para la caché KV. llama.cpp ejecuta archivos GGUF casi en cualquier equipo, incluidos Mac y CPU, y va bien para una persona o un equipo pequeño. Con la misma precisión, la memoria necesaria es parecida.
Precios recogidos el 13 nov 2026. Todos los costes son aproximados: bajo demanda, en dólares, sobre todo regiones de EE. UU. (los mercados como Vast.ai son mundiales).
Cómo calculamos
- Pesos. Parámetros por bytes por parámetro: 2 en FP16, 1 en INT8, 0,5 en INT4, más un 5 % aproximado para las escalas de cuantización en INT8 e INT4.
- Caché KV. 2 × capas × cabezas KV × tamaño de cabeza × contexto × peticiones × 2 bytes, según el config.json del modelo. Si falta un dato, lo estimamos y lo indicamos.
- Sobrecarga. Alrededor de un 10 % más 1 GB para el motor, en línea con lo que reserva vLLM.
- Ajuste fino. LoRA mantiene los pesos en 16 bits y añade un adaptador pequeño, su optimizador y las activaciones. QLoRA hace lo mismo sobre pesos de 4 bits. Un ajuste completo necesita unos 16 bytes por parámetro con Adam en precisión mixta (pesos, gradientes y estados del optimizador), más las activaciones.
- GPU. Llenamos cada GPU hasta el 90 % de su memoria y paramos en 8 por nodo. Los costes son precios de lista bajo demanda en regiones de EE. UU.; en las nubes tipo mercado mostramos la oferta mediana.