GLM 4.7 FlashのGPU要件:VRAMと最安GPU
GLM 4.7 Flashのパラメータ数は312.2億で、BF16で公開されています。 Mixture-of-Expertsモデルで、64個のエキスパートのうち4個が各トークンを処理します(約51.7億パラメータ)。そのため生成速度はおおむねその規模のモデル並みです 。ただしすべてのエキスパートをGPUメモリに載せる必要があるため、下のメモリの数値はモデル全体のものです。 mitで公開されており、商用利用が認められています。
- パラメータ数
- 312.2億
- 最小メモリ(INT4)
- 約20 GB
- 最安GPUの1時間料金(FP16)
- $0.50
- 種類
- テキスト
zai-org/GLM-4.7-Flash
- パラメータ数 312.2億
- トークンあたりのアクティブ数 51.7億
- 種類 テキスト
- タスク text-generation
- 最大コンテキスト 198K
- ライセンス mit
- ダウンロード数 119.9万
- いいね 1908
GLM 4.7 Flashの計算結果
詳細設定
GLM 4.7 Flashに必要なGPUメモリは約70 GB
推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。
メモリの内訳
- 重み 62 GB
- KVキャッシュ 0.44 GB
- ランタイムのオーバーヘッド 7.3 GB
- 合計 70 GB
GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。
| 順位 | 構成 | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) | プロバイダー |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX PRO 6000 96GB最安Blackwell · GDDR7 | $0.50 | 1 | $0.50 | $365 | RunPod (新しいタブで開きます)1x RTX PRO 6000 MaxQ |
| 2 | 4 × RTX 3090 24GBAmpere · GDDR6X | $0.24 | 4 | $0.96 | $702 | Vast.ai (新しいタブで開きます)4x RTX 3090 (median of 9 offers) |
| 3 | 1 × A100 80GBAmpere · HBM2e | $1.12 | 1 | $1.12 | $820 | Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 16 offers) |
| 4 | 2 × A40 48GBAmpere · GDDR6 | $0.59 | 2 | $1.18 | $861 | RunPod (新しいタブで開きます)2x A40 |
| 5 | 2 × A100 40GBAmpere · HBM2 | $0.61 | 2 | $1.22 | $890 | Vast.ai (新しいタブで開きます)2x A100 SXM4 (median of 8 offers) |
| 6 | 2 × RTX A6000 48GBAmpere · GDDR6 | $0.69 | 2 | $1.38 | $1,007 | RunPod (新しいタブで開きます)2x RTX A6000 |
| 7 | 1 × H100 80GBHopper · HBM3 | $1.39 | 1 | $1.39 | $1,015 | Lium (新しいタブで開きます)1x H100 80GB HBM3 |
| 8 | 2 × L40S 48GBAda Lovelace · GDDR6 | $0.80 | 2 | $1.60 | $1,169 | Vast.ai (新しいタブで開きます)2x L40S (median of 6 offers) |
| 9 | 1 × GH200 96GBHopper · HBM3 | $1.99 | 1 | $1.99 | $1,453 | Vultr (新しいタブで開きます)vbm-72c-480gb-gh200-gpu (bare metal) |
| 10 | 2 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | $1.09 | 2 | $2.18 | $1,591 | RunPod (新しいタブで開きます)2x RTX 6000 Ada |
| 11 | 4 × RTX 4090 24GBAda Lovelace · GDDR6X | $0.58 | 4 | $2.32 | $1,696 | Vast.ai (新しいタブで開きます)4x RTX 4090 (median of 12 offers) |
| 12 | 1 × MI300X 192GBCDNA 3 · HBM3 | $2.39 | 1 | $2.39 | $1,745 | RunPod (新しいタブで開きます)1x MI300X |
| 13 | 4 × L4 24GBAda Lovelace · GDDR6 | $0.69 | 4 | $2.76 | $2,015 | RunPod (新しいタブで開きます)4x L4 |
| 14 | 1 × H200 141GBHopper · HBM3e | $2.90 | 1 | $2.90 | $2,117 | Lium (新しいタブで開きます)1x H200 NVL |
| 15 | 1 × H100 NVL 94GBHopper · HBM3 | $3.19 | 1 | $3.19 | $2,329 | RunPod (新しいタブで開きます)1x H100 NVL |
| 16 | 3 × RTX 5090 32GBBlackwell · GDDR7 | $0.80 | 34台単位での提供。必要なのは3台 | $3.20 | $2,338 | Vast.ai (新しいタブで開きます)4x RTX 5090 (median of 35 offers) |
| 17 | 1 × B200 180GBBlackwell · HBM3e | $5.60 | 1 | $5.60 | $4,088 | Lium (新しいタブで開きます)1x B200 |
| 18 | 4 × A10 24GBAmpere · GDDR6 | $1.42 | 4 | $5.67 | $4,141 | AWS (新しいタブで開きます)g5.12xlarge |
| 19 | 5 × V100 16GBVolta · HBM2 | $0.79 | 58台単位での提供。必要なのは5台 | $6.32 | $4,614 | Lambda (新しいタブで開きます)8x Tesla V100 |
| 20 | 5 × T4 16GBTuring · GDDR6 | $0.98 | 58台単位での提供。必要なのは5台 | $7.82 | $5,712 | AWS (新しいタブで開きます)g4dn.metal |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | $8.00 | 1 | $8.00 | $5,840 | Lium (新しいタブで開きます)1x B300 SXM6 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | $10.50 | 14台単位での提供。必要なのは1台 | $42.00 | $30,660 | CoreWeave (新しいタブで開きます)GB200 NVL72 |
| プロバイダー | インスタンス | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) |
|---|---|---|---|---|---|
| RunPod (新しいタブで開きます)最安 | 1x RTX PRO 6000 MaxQus | $0.50 | 1 × RTX PRO 6000 96GB | 約$0.50 | 約$365 |
| Vast.ai (新しいタブで開きます) | 4x RTX 3090 (median of 9 offers)世界中のマーケットプレイス | $0.24 | 4 × RTX 3090 24GB | 約$0.96 | 約$702 |
| Lium (新しいタブで開きます) | 1x RTX PRO 6000 Blackwell Server Edition世界中のマーケットプレイス | $1.19 | 1 × RTX PRO 6000 96GB | 約$1.19 | 約$869 |
| Nebius (新しいタブで開きます) | 1x RTX PRO 6000 96GBeu/us | $1.80 | 1 × RTX PRO 6000 96GB | 約$1.80 | 約$1,314 |
| Vultr (新しいタブで開きます) | vbm-72c-480gb-gh200-gpu (bare metal)us | $1.99 | 1 × GH200 96GB | 約$1.99 | 約$1,453 |
| Lambda (新しいタブで開きます) | 2x A6000us | $1.09 | 2 × RTX A6000 48GB | 約$2.18 | 約$1,591 |
| AWS (新しいタブで開きます) | g7e.2xlargeus-east-1 | $3.36 | 1 × RTX PRO 6000 96GB | 約$3.36 | 約$2,455 |
| Azure (新しいタブで開きます) | NC24ads_A100_v4eastus | $3.67 | 1 × A100 80GB | 約$3.67 | 約$2,681 |
| Google Cloud (新しいタブで開きます) | g2-standard-48us-central1 | $1.00 | 4 × L4 24GB | 約$4.00 | 約$2,921 |
| CoreWeave (新しいタブで開きます) | GH200us | $6.50 | 1 × GH200 96GB | 約$6.50 | 約$4,745 |
価格は2026年11月16日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiやLiumなどのマーケットプレイスは世界全体)。
精度と用途ごとのメモリ
| 精度 | 推論 | LoRAファインチューニング | QLoRAファインチューニング | フルファインチューニング |
|---|---|---|---|---|
| FP16 / BF16 | 70 GB | 83 GB | – | 553 GB |
| INT8 | 38 GB | – | – | – |
| INT4 | 20 GB | – | 32 GB | – |
精度別の最安GPU
8Kコンテキスト、同時リクエスト1件での推論。
FP16 / BF16
約70 GB · 8Kトークン
公開されたままの重み。劣化はありませんが、メモリは最も多く使います。
1 × RTX PRO 6000 96GB
RunPod (新しいタブで開きます) · 1x RTX PRO 6000 MaxQ
- GPU 1台 / 時間
- $0.50
- 必要な台数
- 1
- 合計 / 時間
- 約$0.50
- 月額(24時間稼働、概算)
- $365
INT8
約38 GB · 8Kトークン
重みは半分の大きさ。チャットやRAGではほとんど差が出ません。
1 × RTX A6000 48GB
Lium (新しいタブで開きます) · 1x RTX A6000
- GPU 1台 / 時間
- $0.42
- 必要な台数
- 1
- 合計 / 時間
- 約$0.42
- 月額(24時間稼働、概算)
- $307
INT4
約20 GB · 8Kトークン
重みは4分の1の大きさ。小さな劣化はまず数学やコードに表れます。
1 × RTX 3090 24GB
Lium (新しいタブ で開きます) · 1x RTX 3090 Ti
- GPU 1台 / 時間
- $0.16
- 必要な台数
- 1
- 合計 / 時間
- 約$0.16
- 月額(24時間稼働、概算)
- $117
推論とファインチューニング
推論 (FP16)
1×
(推論時のメモリ比)
70 GB
1 × RTX PRO 6000 96GB · 約$0.50
LoRAファインチューニング
1.2×
(推論時のメモリ比)
83 GB
1 × RTX PRO 6000 96GB · 約$0.50
QLoRAファインチューニン グ
0.5×
(推論時のメモリ比)
32 GB
1 × RTX A6000 48GB · 約$0.42
フルファインチューニング
7.9×
(推論時のメモリ比)
553 GB
4 × MI300X 192GB · 約$9.56
FP16での推論は1 × RTX PRO 6000 96GB (RunPod)で足ります。LoRAは1 × RTX PRO 6000 96GB (RunPod)、QLoRAは1 × RTX A6000 48GB (Lium)、フルファインチューニングは4 × MI300X 192GB (RunPod)が必要です。学習では重みに加えてアクティベーションとオプティマイザーの状態もメモリに置くため、同じモデルの推論より多くのGPUが要ることがよくあります。
MacやRTX 4090 1枚で動くか
RTX 4090(24GB)
はい。INT4、8Kコンテキストなら約20 GBで、カードの24GBに収まります。
Appleシリコン搭載Mac
はい、メモリが十分にあれば動きます。INT4で約20 GB必要なので、ユニファイドメモリ32GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。
似たモデル
規模が近いオープンモデル。
- Xing4.0-29B-A4Bテキスト312.2億 · 約70 GB FP16 · 5788 ↓GPU要件
- OTel 2.0 LLM 31B IT QLoRAテキスト312.7億 · 約72 GB FP16 · 168万 ↓GPU要件
- OTel 2.0 LLM 31B ITテキスト312.7億 · 約71 GB FP16 · 89.4万 ↓GPU要件
- NVIDIA Nemotron 3 Nano 30B A3B BF16テキスト315.8億 · 約71 GB FP16 · 121.4万 ↓GPU要件
- NVIDIA Nemotron 3.5 Lightning 30B A3B BF16テキスト315.8億 · 約71 GB FP16 · 90.7万 ↓GPU要件
- Qwen3 Coder 30B A3B Instructテキスト305.3億 · 約69 GB FP16 · 195.7万 ↓GPU要件
GLM 4.7 Flash:よくある質問
GLM 4.7 Flash に必要なVRAMは?
8Kコンテキスト、同時リクエスト1件で、FP16は約70 GB、INT8は約38 GB、INT4は約20 GBです。コンテキストを長くしたり同時リクエストを増やしたりすると、その分KVキャッシュが増えます。
GLM 4.7 Flashを動かす最安のGPUは?
RunPodの1 × RTX PRO 6000 96GB (約$0.50 GPU 1台・1時間あたり)で、FP16 / BF16・8Kコンテキストの推論なら1時間あたり約$0.50です。価格は2026年11月16日時点で、頻繁に変わります。
GLM 4.7 FlashはGPU 1枚でファインチューニングできる?
はい、QLoRAなら可能です。約32 GBで、80GBのGPU 1枚に収まります。LoRAは約83 GB、フルファインチューニングは約553 GB必要です。
この数値はどう計算している?
重みはパラメータ数×1パラメータあたりのバイト数(FP16は2、INT8は1、INT4は0.5)です。KVキャッシュはモデルの層数、KVヘッド数、ヘッドサイズ、コンテキスト長から求めます。ランタイム用に約10%と1GBを加え、各GPUのメモリの90%まで使う前提です。価格は各プロバイダーの公開価格ページから集めた、米国リージョンのオンデマンド定価です。
GLM 4.7 FlashはRTX 4090のような一般向けGPUで動く?
はい。INT4、8Kコンテキストなら約20 GBで、カードの24GBに収まります。
GLM 4.7 FlashはH100 80GB 1枚に収まる?
はい、8KコンテキストならFP16 / BF16, INT8, INT4で収まります。
GLM 4.7 FlashにはGPUが何台必要?
FP16、8Kコンテキストの場合、80GBなら1台、48GBなら2台、24GBなら4台です。INT4なら重みのメモリはおよそ4分の1になります。
INT8のGLM 4.7 Flashに必要なVRAMは?
約38 GBです。内訳は重み33 GB、8KのKVキャッシュ0.44 GB、ランタイムのオーバーヘッド4.3 GBです。
GLM 4.7 Flashを1か月24時間動かすといくら?
私たちが見つけた最安の構成(1 × RTX PRO 6000 96GB (約$0.50 GPU 1台・1時間あたり)、1時間$0.50×730時間)で約$365です。AWS、Google Cloud、Azureの最安は月約$2,455です。
FP16、INT8、INT4のどれを使うべき?
FP16は品質を保ったまま使えますが、メモリは最も多く必要です(ここでは約70 GB)。INT8は重みが半分になり、多くのチャット用途では品質の低下はわずかです。INT4(AWQ、GPTQ、GGUF Q4)は重みが4分の1になり、合計約20 GBですが、数学やコードで目立つ程度の小さな品質低下があります。
GLM 4.7 FlashはMacで動く?
はい、メモリが十分にあれば動きます。INT4で約20 GB必要なので、ユニファイドメモリ32GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。
vLLMとllama.cpp のどちら?
vLLMはNVIDIAやAMDのGPUで多数のリクエストを同時に処理するためのもので、GPUメモリの大半をKVキャッシュに確保します。llama.cppはGGUFファイルをMacやCPUを含むほぼあらゆる環境で動かせ、個人や小さなチームに向いています。同じ精度なら必要なメモリはほぼ同じです。
価格は2026年11月16日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiやLiumなどのマーケットプレイスは世界全体)。
計算方法
- 重み: パラメータ数×1パラメータあたりのバイト数。FP16は2、INT8は1、INT4は0.5で、INT8とINT4には量子化スケール分として約5%を加えます。
- KVキャッシュ: 2×層数×KVヘッド数×ヘッドサイズ×コンテキスト長×リクエスト数×2バイト。値はモデルのconfig.jsonから取ります。欠けている値は推定し、その旨を表示します。
- オーバーヘッド: 約10%に加えてランタイム用に1GB。vLLMが確保する量とほぼ同じです。
- ファインチューニング: LoRAは16ビットの重みに小さなアダプター、そのオプティマイザー、アクティベーションを加えます。QLoRAは4ビットの重みで同じことをします。フルファインチューニングは混合精度のAdamで1パラメータあたり約16バイト(重み、勾配、オプティマイザーの状態)にアクティベーションが加わります。
- GPU: 各GPUのメモリの90%まで使う前提で、1ノード8台までとします。費用は米国リージョンのオンデマンド定価で、マーケットプレイス型のクラウドは中央値です。