Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

GLM 4.5 Air : configuration GPU requise, VRAM et GPU le moins cher

GLM 4.5 Air compte 110,5 Md paramètres, publiés en BF16. C’est un modèle à mélange d’experts : 8 de ses 128 experts traitent chaque token, soit environ 17 Md paramètres, il génère donc à peu près à la vitesse d’un modèle de cette taille. Tous les experts doivent malgré tout résider en mémoire GPU, d’où des chiffres de mémoire ci-dessous pour le modèle complet. Il est publié sous mit, qui autorise l’usage commercial.

Paramètres
110,5 Md
Empreinte minimale (INT4)
environ 66 Go
GPU le moins cher par heure (FP16)
0,59 $US
Type
Texte
  • Paramètres 110,5 Md
  • Actifs par token 17 Md
  • Type Texte
  • Tâche text-generation
  • Contexte max. 128K
  • Licence mit
  • Téléchargements 1,1 M
  • J’aime 650

Calcul pour GLM 4.5 Air

Précision
Usage
Plus de réglages
Moteur d’inférence
Requêtes simultanées

GLM 4.5 Air demande environ 246 Go de mémoire GPU

Inférence (vLLM), FP16 / BF16, contexte de 8K tokens, une requête à la fois.

Où va la mémoire

  • Poids 221 Go
  • Cache KV 1,5 Go
  • Surcoût du moteur 23 Go
  • Total 246 Go

Le nombre de GPU laisse 10 % de chaque carte libre pour les pics. Prévoyez davantage si vous attendez de longs prompts ou beaucoup d’utilisateurs en même temps.

Les GPU qui conviennent, du moins cher au plus cherChaque type de GPU suivi capable d’accueillir cette configuration sur un nœud, classé par coût horaire total
RangConfigurationPar GPU / hGPU nécessairesTotal / hTotal / mois (24/7)Fournisseur
16 × A40 48GBLa moins chèreAmpere · GDDR60,59 $US6vendue avec 8 GPU ; il vous en faut 64,72 $US3 446 $USRunPod (s’ouvre dans un nouvel onglet)8x A40
22 × MI300X 192GBCDNA 3 · HBM32,39 $US24,78 $US3 489 $USRunPod (s’ouvre dans un nouvel onglet)2x MI300X
34 × A100 80GBAmpere · HBM2e1,30 $US45,18 $US3 781 $USVast.ai (s’ouvre dans un nouvel onglet)4x A100 SXM4 (median of 6 offers)
46 × RTX A6000 48GBAmpere · GDDR60,69 $US6vendue avec 8 GPU ; il vous en faut 65,52 $US4 030 $USRunPod (s’ouvre dans un nouvel onglet)8x RTX A6000
53 × RTX PRO 6000 96GBBlackwell · GDDR71,73 $US3vendue avec 4 GPU ; il vous en faut 36,94 $US5 065 $USVast.ai (s’ouvre dans un nouvel onglet)4x RTX PRO 6000 S (median of 9 offers)
62 × H200 141GBHopper · HBM3e3,79 $US27,58 $US5 533 $USRunPod (s’ouvre dans un nouvel onglet)2x H200 NVL
71 × B300 288GBBlackwell Ultra · HBM3e8,00 $US18,00 $US5 840 $USLium (s’ouvre dans un nouvel onglet)1x B300 SXM6
86 × L40S 48GBAda Lovelace · GDDR61,09 $US6vendue avec 8 GPU ; il vous en faut 68,72 $US6 366 $USRunPod (s’ouvre dans un nouvel onglet)8x L40S
96 × RTX 6000 Ada 48GBAda Lovelace · GDDR61,09 $US6vendue avec 8 GPU ; il vous en faut 68,72 $US6 366 $USRunPod (s’ouvre dans un nouvel onglet)8x RTX 6000 Ada
104 × H100 80GBHopper · HBM32,89 $US411,56 $US8 439 $USRunPod (s’ouvre dans un nouvel onglet)4x H100 PCIe
113 × H100 NVL 94GBHopper · HBM33,19 $US3vendue avec 4 GPU ; il vous en faut 312,76 $US9 315 $USRunPod (s’ouvre dans un nouvel onglet)4x H100 NVL
122 × B200 180GBBlackwell · HBM3e7,89 $US215,78 $US11 519 $USLambda (s’ouvre dans un nouvel onglet)2x B200 SXM6
137 × A100 40GBAmpere · HBM21,99 $US7vendue avec 8 GPU ; il vous en faut 715,92 $US11 622 $USLambda (s’ouvre dans un nouvel onglet)8x HGX A100
142 × GB200 186GBBlackwell · HBM3e10,50 $US2vendue avec 4 GPU ; il vous en faut 242,00 $US30 660 $USCoreWeave (s’ouvre dans un nouvel onglet)GB200 NVL72
Plus de 8 : plusieurs nœuds nécessaires: RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB
Coût par cloudOffre la moins chère qui convient, par fournisseur. Approximatif, prix relevés le 16 nov. 2026.
FournisseurInstancePar GPU / hGPU nécessairesTotal / hTotal / mois (24/7)
RunPod (s’ouvre dans un nouvel onglet)La moins chère8x A40us0,59 $US6 × A40 48GB vendue avec 8 GPU ; il vous en faut 6environ 4,72 $USenviron 3 446 $US
Vast.ai (s’ouvre dans un nouvel onglet)4x A100 SXM4 (median of 6 offers)place de marché mondiale1,30 $US4 × A100 80GB environ 5,18 $USenviron 3 781 $US
Lium (s’ouvre dans un nouvel onglet)1x B300 SXM6place de marché mondiale8,00 $US1 × B300 288GB environ 8,00 $USenviron 5 840 $US
Nebius (s’ouvre dans un nouvel onglet)1x B300 288GBeu/us9,50 $US1 × B300 288GB environ 9,50 $USenviron 6 935 $US
Vultr (s’ouvre dans un nouvel onglet)vbm-48c-1024gb-4-a100-gpu (bare metal)us2,40 $US4 × A100 80GB environ 9,59 $USenviron 7 000 $US
Azure (s’ouvre dans un nouvel onglet)NC96ads_A100_v4eastus3,67 $US4 × A100 80GB environ 14,69 $USenviron 10 725 $US
Lambda (s’ouvre dans un nouvel onglet)2x B200 SXM6us7,89 $US2 × B200 180GB environ 15,78 $USenviron 11 519 $US
AWS (s’ouvre dans un nouvel onglet)g7e.24xlargeus-east-14,14 $US3 × RTX PRO 6000 96GB vendue avec 4 GPU ; il vous en faut 3environ 16,57 $USenviron 12 098 $US
Google Cloud (s’ouvre dans un nouvel onglet)g4-standard-192us-central14,50 $US3 × RTX PRO 6000 96GB vendue avec 4 GPU ; il vous en faut 3environ 18,00 $USenviron 13 140 $US
CoreWeave (s’ouvre dans un nouvel onglet)L40Sus2,25 $US6 × L40S 48GB vendue avec 8 GPU ; il vous en faut 6environ 18,00 $USenviron 13 140 $US

Prix relevés le 16 nov. 2026. Tous les coûts sont approximatifs : à la demande, en dollars US, surtout des régions des États-Unis (les places de marché comme Vast.ai et Lium sont mondiales).

Mémoire par précision et par usage

Avec un contexte de 8K tokens et une requête à la fois. LoRA et le fine-tuning complet partent de poids en 16 bits, QLoRA de 4 bits : les autres cases restent vides.
PrécisionInférenceFine-tuning LoRAFine-tuning QLoRAFine-tuning complet
FP16 / BF16246 Go288 Go–1 950 Go
INT8130 Go–––
INT466 Go–108 Go–

Le GPU le moins cher par précision

Inférence avec un contexte de 8K et une requête à la fois.

FP16 / BF16

environ 246 Go · 8K tokens

Les poids tels que publiés. Aucune perte, mais l’empreinte la plus lourde.

6 × A40 48GB

RunPod (s’ouvre dans un nouvel onglet) · 8x A40

vendue avec 8 GPU ; il vous en faut 6
Par GPU / h
0,59 $US
GPU nécessaires
6
Total / h
environ 4,72 $US
par mois, 24/7, environ
3 446 $US

INT8

environ 130 Go · 8K tokens

Des poids deux fois plus légers. Pour le chat et le RAG, la différence se voit à peine.

4 × A40 48GB

RunPod (s’ouvre dans un nouvel onglet) · 4x A40

Par GPU / h
0,59 $US
GPU nécessaires
4
Total / h
environ 2,36 $US
par mois, 24/7, environ
1 723 $US

INT4

environ 66 Go · 8K tokens

Des poids quatre fois plus légers. Les petites pertes apparaissent d’abord en maths et en code.

1 × RTX PRO 6000 96GB

RunPod (s’ouvre dans un nouvel onglet) · 1x RTX PRO 6000 MaxQ

Par GPU / h
0,50 $US
GPU nécessaires
1
Total / h
environ 0,50 $US
par mois, 24/7, environ
365 $US

Inférence ou fine-tuning

  • Inférence (FP16)

    1×

    de la mémoire nécessaire à l’inférence

    246 Go

    6 × A40 48GB · environ 4,72 $US

  • Fine-tuning LoRA

    1,2×

    de la mémoire nécessaire à l’inférence

    288 Go

    7 × A40 48GB · environ 4,72 $US

  • Fine-tuning QLoRA

    0,4×

    de la mémoire nécessaire à l’inférence

    108 Go

    3 × A40 48GB · environ 2,36 $US

  • Fine-tuning complet

    7,9×

    de la mémoire nécessaire à l’inférence

    1 950 Go

    8 × B300 288GB · environ 71,92 $US

Pour le servir en FP16, 6 × A40 48GB (RunPod) suffit. LoRA demande 7 × A40 48GB (RunPod), QLoRA 3 × A40 48GB (RunPod) et un fine-tuning complet 8 × B300 288GB (RunPod). L’entraînement garde en mémoire les activations et l’état de l’optimiseur en plus des poids, d’où un besoin fréquent de plus de GPU que pour servir le même modèle.

Fonctionne-t-il sur un Mac ou une seule RTX 4090 ?

RTX 4090 (24 Go)

Pas seule. Même en INT4, il demande environ 66 Go, plus que les 24 Go de la carte. Deux cartes ou plus, ou un GPU de centre de données plus grand, suffisent.

Mac avec puce Apple

Oui, avec assez de mémoire. En INT4, il demande environ 66 Go, donc un Mac avec 96 Go ou plus de mémoire unifiée (macOS en laisse environ les trois quarts au GPU). La génération sera plus lente que sur un GPU de centre de données.

Modèles similaires

Des modèles ouverts de taille comparable.

Calculer un autre modèle

GLM 4.5 Air : questions fréquentes

Combien de VRAM faut-il pour GLM 4.5 Air ?

Environ 246 Go en FP16, 130 Go en INT8 et 66 Go en INT4, avec un contexte de 8K et une requête à la fois. Un contexte plus long et davantage de requêtes en parallèle ajoutent du cache KV.

Quel est le GPU le moins cher pour faire tourner GLM 4.5 Air ?

6 × A40 48GB (environ 0,59 $US par GPU / heure; vendue avec 8 GPU ; il vous en faut 6) chez RunPod, pour environ 4,72 $US de l’heure en inférence FP16 / BF16 avec un contexte de 8K. Prix relevés le 16 nov. 2026 ; ils changent souvent.

Peut-on faire le fine-tuning de GLM 4.5 Air sur un seul GPU ?

Pas sur un seul GPU. Même QLoRA demande environ 108 Go, plus que ce que contient un GPU de 80 Go. LoRA demande environ 288 Go et un fine-tuning complet environ 1 950 Go.

Comment ces chiffres sont-ils calculés ?

Les poids correspondent aux paramètres multipliés par les octets par paramètre (2 en FP16, 1 en INT8, 0,5 en INT4). Le cache KV dépend des couches, des têtes KV, de la taille de tête et de la longueur de contexte du modèle. Nous ajoutons environ 10 % plus 1 Go pour le moteur et remplissons chaque GPU à 90 %. Les prix sont les tarifs catalogue à la demande dans les régions des États-Unis, relevés sur la page publique de chaque fournisseur.

GLM 4.5 Air fonctionne-t-il sur un GPU grand public comme la RTX 4090 ?

Pas seule. Même en INT4, il demande environ 66 Go, plus que les 24 Go de la carte. Deux cartes ou plus, ou un GPU de centre de données plus grand, suffisent.

GLM 4.5 Air tient-il sur une seule H100 80 Go ?

Oui, en INT4 avec un contexte de 8K.

Combien de GPU faut-il pour GLM 4.5 Air ?

En FP16 avec un contexte de 8K : 4 × 80 Go, 6 × 48 Go ou 12 × 24 Go. En INT4, les poids prennent environ le quart de la mémoire.

Combien de VRAM faut-il pour GLM 4.5 Air en INT8 ?

Environ 130 Go : 116 Go pour les poids, 1,5 Go pour un cache KV de 8K et 13 Go de surcoût du moteur.

Combien coûte GLM 4.5 Air en fonctionnement 24/7 pendant un mois ?

Environ 3 446 $US avec la configuration la moins chère que nous avons trouvée (6 × A40 48GB (environ 0,59 $US par GPU / heure; vendue avec 8 GPU ; il vous en faut 6), 4,72 $US de l’heure pendant 730 heures). Le moins cher chez AWS, Google Cloud ou Azure revient à environ 10 725 $US par mois.

FP16, INT8 ou INT4 : lequel choisir ?

Le FP16 garde toute la qualité et demande le plus de mémoire (environ 246 Go ici). L’INT8 divise les poids par deux avec peu de perte pour la plupart des usages de chat. L’INT4 (AWQ, GPTQ ou GGUF Q4) les réduit au quart, environ 66 Go au total, avec une légère baisse de qualité, surtout visible en maths et en code.

GLM 4.5 Air fonctionne-t-il sur un Mac ?

Oui, avec assez de mémoire. En INT4, il demande environ 66 Go, donc un Mac avec 96 Go ou plus de mémoire unifiée (macOS en laisse environ les trois quarts au GPU). La génération sera plus lente que sur un GPU de centre de données.

vLLM ou llama.cpp ?

vLLM est conçu pour servir de nombreuses requêtes à la fois sur des GPU NVIDIA et AMD et réserve l’essentiel de la mémoire GPU au cache KV. llama.cpp lit les fichiers GGUF sur presque tout, Mac et CPU compris, et convient à une personne ou à une petite équipe. À précision égale, la mémoire nécessaire est proche.

Prix relevés le 16 nov. 2026. Tous les coûts sont approximatifs : à la demande, en dollars US, surtout des régions des États-Unis (les places de marché comme Vast.ai et Lium sont mondiales).

Notre méthode de calcul

  • Poids. Paramètres multipliés par les octets par paramètre : 2 en FP16, 1 en INT8, 0,5 en INT4, plus environ 5 % pour les échelles de quantification en INT8 et INT4.
  • Cache KV. 2 × couches × têtes KV × taille de tête × contexte × requêtes × 2 octets, d’après le config.json du modèle. Si une valeur manque, nous l’estimons et le signalons.
  • Surcoût. Environ 10 % plus 1 Go pour le moteur, dans la ligne de ce que réserve vLLM.
  • Fine-tuning. LoRA garde des poids en 16 bits et ajoute un petit adaptateur, son optimiseur et les activations. QLoRA fait de même sur des poids en 4 bits. Un fine-tuning complet demande environ 16 octets par paramètre avec Adam en précision mixte (poids, gradients et états de l’optimiseur), plus les activations.
  • GPU. Nous remplissons chaque GPU à 90 % de sa mémoire et nous arrêtons à 8 par nœud. Les coûts sont les prix catalogue à la demande dans les régions des États-Unis ; pour les places de marché, nous montrons l’offre médiane.