Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Requisitos de GPU do GLM 4.5 Air: VRAM e GPU mais barata

GLM 4.5 Air tem 110,5 bi parâmetros, publicados em BF16. É um modelo de mistura de especialistas: 8 dos seus 128 especialistas trabalham em cada token, cerca de 17 bi parâmetros, então ele gera texto mais ou menos na velocidade de um modelo desse tamanho. Ainda assim, todos os especialistas precisam ficar na memória da GPU, por isso os números de memória abaixo são do modelo inteiro. É publicado sob mit, que permite uso comercial.

Parâmetros
110,5 bi
Menor consumo (INT4)
cerca de 66 GB
GPU mais barata por hora (FP16)
US$ 0,59
Tipo
Texto
  • Parâmetros 110,5 bi
  • Ativos por token 17 bi
  • Tipo Texto
  • Tarefa text-generation
  • Contexto máximo 128K
  • Licença mit
  • Downloads 1,1 mi
  • Curtidas 650

Cálculo para GLM 4.5 Air

Precisão
Uso
Mais ajustes
Motor de inferência
Requisições simultâneas

GLM 4.5 Air precisa de cerca de 246 GB de memória de GPU

Inferência (vLLM), FP16 / BF16, contexto de 8K tokens, uma requisição por vez.

Para onde vai a memória

  • Pesos 221 GB
  • Cache KV 1,5 GB
  • Sobrecarga do runtime 23 GB
  • Total 246 GB

A contagem de GPUs deixa 10% de cada placa livre para picos. Reserve mais se espera prompts longos ou muitos usuários ao mesmo tempo.

GPUs que comportam, da mais barata à mais caraCada tipo de GPU acompanhado que comporta esta configuração em um nó, ordenado pelo custo total por hora
PosiçãoConfiguraçãoPor GPU / hGPUs necessáriasTotal / hTotal / mês (24/7)Provedor
16 × A40 48GBMais barataAmpere · GDDR6US$ 0,596vendida com 8 GPUs; você precisa de 6US$ 4,72US$ 3.446RunPod (abre em nova aba)8x A40
22 × MI300X 192GBCDNA 3 · HBM3US$ 2,392US$ 4,78US$ 3.489RunPod (abre em nova aba)2x MI300X
34 × A100 80GBAmpere · HBM2eUS$ 1,304US$ 5,18US$ 3.781Vast.ai (abre em nova aba)4x A100 SXM4 (median of 6 offers)
46 × RTX A6000 48GBAmpere · GDDR6US$ 0,696vendida com 8 GPUs; você precisa de 6US$ 5,52US$ 4.030RunPod (abre em nova aba)8x RTX A6000
53 × RTX PRO 6000 96GBBlackwell · GDDR7US$ 1,733vendida com 4 GPUs; você precisa de 3US$ 6,94US$ 5.065Vast.ai (abre em nova aba)4x RTX PRO 6000 S (median of 9 offers)
62 × H200 141GBHopper · HBM3eUS$ 3,792US$ 7,58US$ 5.533RunPod (abre em nova aba)2x H200 NVL
71 × B300 288GBBlackwell Ultra · HBM3eUS$ 8,001US$ 8,00US$ 5.840Lium (abre em nova aba)1x B300 SXM6
86 × L40S 48GBAda Lovelace · GDDR6US$ 1,096vendida com 8 GPUs; você precisa de 6US$ 8,72US$ 6.366RunPod (abre em nova aba)8x L40S
96 × RTX 6000 Ada 48GBAda Lovelace · GDDR6US$ 1,096vendida com 8 GPUs; você precisa de 6US$ 8,72US$ 6.366RunPod (abre em nova aba)8x RTX 6000 Ada
104 × H100 80GBHopper · HBM3US$ 2,894US$ 11,56US$ 8.439RunPod (abre em nova aba)4x H100 PCIe
113 × H100 NVL 94GBHopper · HBM3US$ 3,193vendida com 4 GPUs; você precisa de 3US$ 12,76US$ 9.315RunPod (abre em nova aba)4x H100 NVL
122 × B200 180GBBlackwell · HBM3eUS$ 7,892US$ 15,78US$ 11.519Lambda (abre em nova aba)2x B200 SXM6
137 × A100 40GBAmpere · HBM2US$ 1,997vendida com 8 GPUs; você precisa de 7US$ 15,92US$ 11.622Lambda (abre em nova aba)8x HGX A100
142 × GB200 186GBBlackwell · HBM3eUS$ 10,502vendida com 4 GPUs; você precisa de 2US$ 42,00US$ 30.660CoreWeave (abre em nova aba)GB200 NVL72
Mais de 8: precisa de vários nós: RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB
Custo por nuvemOferta mais barata que comporta, por provedor. Aproximado, preços coletados em 16 de nov. de 2026.
ProvedorInstânciaPor GPU / hGPUs necessáriasTotal / hTotal / mês (24/7)
RunPod (abre em nova aba)Mais barata8x A40usUS$ 0,596 × A40 48GB vendida com 8 GPUs; você precisa de 6cerca de US$ 4,72cerca de US$ 3.446
Vast.ai (abre em nova aba)4x A100 SXM4 (median of 6 offers)marketplace globalUS$ 1,304 × A100 80GB cerca de US$ 5,18cerca de US$ 3.781
Lium (abre em nova aba)1x B300 SXM6marketplace globalUS$ 8,001 × B300 288GB cerca de US$ 8,00cerca de US$ 5.840
Nebius (abre em nova aba)1x B300 288GBeu/usUS$ 9,501 × B300 288GB cerca de US$ 9,50cerca de US$ 6.935
Vultr (abre em nova aba)vbm-48c-1024gb-4-a100-gpu (bare metal)usUS$ 2,404 × A100 80GB cerca de US$ 9,59cerca de US$ 7.000
Azure (abre em nova aba)NC96ads_A100_v4eastusUS$ 3,674 × A100 80GB cerca de US$ 14,69cerca de US$ 10.725
Lambda (abre em nova aba)2x B200 SXM6usUS$ 7,892 × B200 180GB cerca de US$ 15,78cerca de US$ 11.519
AWS (abre em nova aba)g7e.24xlargeus-east-1US$ 4,143 × RTX PRO 6000 96GB vendida com 4 GPUs; você precisa de 3cerca de US$ 16,57cerca de US$ 12.098
Google Cloud (abre em nova aba)g4-standard-192us-central1US$ 4,503 × RTX PRO 6000 96GB vendida com 4 GPUs; você precisa de 3cerca de US$ 18,00cerca de US$ 13.140
CoreWeave (abre em nova aba)L40SusUS$ 2,256 × L40S 48GB vendida com 8 GPUs; você precisa de 6cerca de US$ 18,00cerca de US$ 13.140

Preços coletados em 16 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai e o Lium são globais).

Memória por precisão e uso

Com contexto de 8K tokens e uma requisição por vez. LoRA e o ajuste completo partem de pesos de 16 bits e o QLoRA de 4 bits, por isso as outras células ficam vazias.
PrecisãoInferênciaAjuste LoRAAjuste QLoRAAjuste completo
FP16 / BF16246 GB288 GB–1.950 GB
INT8130 GB–––
INT466 GB–108 GB–

A GPU mais barata por precisão

Inferência com contexto de 8K e uma requisição por vez.

FP16 / BF16

cerca de 246 GB · 8K tokens

Os pesos como foram publicados. Sem perda, mas com o maior consumo.

6 × A40 48GB

RunPod (abre em nova aba) · 8x A40

vendida com 8 GPUs; você precisa de 6
Por GPU / h
US$ 0,59
GPUs necessárias
6
Total / h
cerca de US$ 4,72
por mês, 24/7, aprox.
US$ 3.446

INT8

cerca de 130 GB · 8K tokens

Pesos com metade do tamanho. Em chat e RAG quase não se nota diferença.

4 × A40 48GB

RunPod (abre em nova aba) · 4x A40

Por GPU / h
US$ 0,59
GPUs necessárias
4
Total / h
cerca de US$ 2,36
por mês, 24/7, aprox.
US$ 1.723

INT4

cerca de 66 GB · 8K tokens

Pesos com um quarto do tamanho. As pequenas perdas aparecem primeiro em matemática e código.

1 × RTX PRO 6000 96GB

RunPod (abre em nova aba) · 1x RTX PRO 6000 MaxQ

Por GPU / h
US$ 0,50
GPUs necessárias
1
Total / h
cerca de US$ 0,50
por mês, 24/7, aprox.
US$ 365

Inferência ou ajuste fino

  • Inferência (FP16)

    1×

    da memória da inferência

    246 GB

    6 × A40 48GB · cerca de US$ 4,72

  • Ajuste LoRA

    1,2×

    da memória da inferência

    288 GB

    7 × A40 48GB · cerca de US$ 4,72

  • Ajuste QLoRA

    0,4×

    da memória da inferência

    108 GB

    3 × A40 48GB · cerca de US$ 2,36

  • Ajuste completo

    7,9×

    da memória da inferência

    1.950 GB

    8 × B300 288GB · cerca de US$ 71,92

Para servi-lo em FP16 basta 6 × A40 48GB (RunPod). LoRA precisa de 7 × A40 48GB (RunPod), QLoRA de 3 × A40 48GB (RunPod) e um ajuste completo de 8 × B300 288GB (RunPod). O treino mantém na memória as ativações e o estado do otimizador além dos pesos, por isso costuma pedir mais GPUs do que servir o mesmo modelo.

Roda em um Mac ou em uma única RTX 4090?

RTX 4090 (24 GB)

Sozinha, não. Mesmo em INT4 ele precisa de cerca de 66 GB, mais que os 24 GB da placa. Duas ou mais placas, ou uma GPU de data center maior, resolvem.

Mac com Apple silicon

Sim, com memória suficiente. Em INT4 ele precisa de cerca de 66 GB, então um Mac com 96 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.

Modelos parecidos

Modelos abertos de tamanho parecido.

Calcular outro modelo

GLM 4.5 Air: perguntas frequentes

Quanta VRAM o GLM 4.5 Air precisa?

Cerca de 246 GB em FP16, 130 GB em INT8 e 66 GB em INT4, com contexto de 8K e uma requisição por vez. Contextos maiores e mais requisições em paralelo somam cache KV.

Qual é a GPU mais barata para rodar o GLM 4.5 Air?

6 × A40 48GB (cerca de US$ 0,59 por GPU / hora; vendida com 8 GPUs; você precisa de 6) na RunPod, por cerca de US$ 4,72 a hora para inferência em FP16 / BF16 com contexto de 8K. Preços coletados em 16 de nov. de 2026; mudam com frequência.

Dá para fazer ajuste fino do GLM 4.5 Air em uma única GPU?

Não em uma GPU só. Mesmo o QLoRA precisa de cerca de 108 GB, mais do que cabe numa GPU de 80 GB. LoRA precisa de cerca de 288 GB e um ajuste completo de cerca de 1.950 GB.

Como esses números são calculados?

Os pesos são os parâmetros vezes os bytes por parâmetro (2 em FP16, 1 em INT8, 0,5 em INT4). O cache KV vem das camadas, cabeças KV, tamanho da cabeça e tamanho do contexto do modelo. Somamos cerca de 10% mais 1 GB para o runtime e enchemos cada GPU até 90%. Os preços são de tabela sob demanda em regiões dos EUA, coletados da página pública de cada provedor.

O GLM 4.5 Air roda em uma GPU de consumo como a RTX 4090?

Sozinha, não. Mesmo em INT4 ele precisa de cerca de 66 GB, mais que os 24 GB da placa. Duas ou mais placas, ou uma GPU de data center maior, resolvem.

O GLM 4.5 Air cabe em uma única H100 80GB?

Sim, em INT4 com contexto de 8K.

Quantas GPUs preciso para o GLM 4.5 Air?

Em FP16 com contexto de 8K: 4 × 80 GB, 6 × 48 GB ou 12 × 24 GB. Em INT4 os pesos ocupam cerca de um quarto da memória.

Quanta VRAM o GLM 4.5 Air precisa em INT8?

Cerca de 130 GB: 116 GB para os pesos, 1,5 GB para um cache KV de 8K e 13 GB de sobrecarga do runtime.

Quanto custa rodar o GLM 4.5 Air 24/7 por um mês?

Cerca de US$ 3.446 na configuração mais barata que encontramos (6 × A40 48GB (cerca de US$ 0,59 por GPU / hora; vendida com 8 GPUs; você precisa de 6), US$ 4,72 a hora por 730 horas). O mais barato na AWS, Google Cloud ou Azure fica em cerca de US$ 10.725 por mês.

FP16, INT8 ou INT4: qual usar?

FP16 mantém a qualidade total e usa mais memória (cerca de 246 GB aqui). INT8 corta os pesos pela metade com pouca perda na maioria dos usos de chat. INT4 (AWQ, GPTQ ou GGUF Q4) reduz para um quarto, cerca de 66 GB no total, com uma pequena queda de qualidade que aparece mais em matemática e código.

O GLM 4.5 Air roda em um Mac?

Sim, com memória suficiente. Em INT4 ele precisa de cerca de 66 GB, então um Mac com 96 GB ou mais de memória unificada (o macOS deixa a GPU usar cerca de três quartos dela). A geração será mais lenta que numa GPU de data center.

vLLM ou llama.cpp?

O vLLM foi feito para atender muitas requisições ao mesmo tempo em GPUs NVIDIA e AMD e reserva quase toda a memória da GPU para o cache KV. O llama.cpp roda arquivos GGUF em quase tudo, inclusive Macs e CPUs, e serve bem a uma pessoa ou a uma equipe pequena. Na mesma precisão, a memória necessária é parecida.

Preços coletados em 16 de nov. de 2026. Todos os custos são aproximados: sob demanda, em dólares, principalmente regiões dos EUA (marketplaces como o Vast.ai e o Lium são globais).

Como calculamos

  • Pesos. Parâmetros vezes bytes por parâmetro: 2 em FP16, 1 em INT8, 0,5 em INT4, mais cerca de 5% para as escalas de quantização em INT8 e INT4.
  • Cache KV. 2 × camadas × cabeças KV × tamanho da cabeça × contexto × requisições × 2 bytes, a partir do config.json do modelo. Quando falta um dado, estimamos e avisamos.
  • Sobrecarga. Cerca de 10% mais 1 GB para o runtime, em linha com o que o vLLM reserva.
  • Ajuste fino. LoRA mantém pesos em 16 bits e adiciona um adaptador pequeno, seu otimizador e as ativações. QLoRA faz o mesmo sobre pesos de 4 bits. Um ajuste completo precisa de cerca de 16 bytes por parâmetro com Adam em precisão mista (pesos, gradientes e estados do otimizador), mais as ativações.
  • GPUs. Enchemos cada GPU até 90% da memória e paramos em 8 por nó. Os custos são preços de tabela sob demanda em regiões dos EUA; nos marketplaces mostramos a oferta mediana.