Qwen3.8-Flash-NextのGPU要件:VRAMと最安GPU
Qwen3.8-Flash-Nextのパラメータ数は1800億で、BF16で公開されています。 Mixture-of-Expertsモデルで、512個のエキスパートのうち10個が各トークンを処理します(約615.6億パラメータ)。そのため生成速度はおおむねその規模のモデル並みです。ただしすべてのエキスパートをGPUメモリに載せる必要があるため、下のメモリの数値はモデル全体のものです。 ライセンス(qwen-community-1.0)には独自の条件があります。商用利用の前に確認してください。
- パラメータ数
- 1800億
- 最小メモリ(INT4)
- 約105 GB
- 最安GPUの1時間料金(FP16)
- $2.39
- 種類
- ビジョン
Qwen/Qwen3.8-Flash-Next
- パラメータ数 1800億
- トークンあたりのアクティブ数 615.6億
- 種類 ビジョン
- タスク image-text-to-text
- 最大コンテキスト 256K
- ライセンス qwen-community-1.0
- ダウンロード数 309.8万
- いいね 7055
Qwen3.8-Flash-Nextの計算結果
詳細設定
Qwen3.8-Flash-Nextに必要なGPUメモリは約397 GB
推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。
メモリの内訳
- 重み 360 GB
- KVキャッシュ 0.2 GB
- ランタイムのオーバーヘッド 37 GB
- 合計 397 GB
GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。
| 順位 | 構成 | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) | プロバイダー |
|---|---|---|---|---|---|---|
| 1 | 3 × MI300X 192GB最安CDNA 3 · HBM3 | $2.39 | 34台単位での提供。必要なのは3台 | $9.56 | $6,979 | RunPod (新しいタブで開きます)4x MI300X |
| 2 | 5 × RTX PRO 6000 96GBBlackwell · GDDR7 | $1.80 | 58台単位での提供。必要なのは5台 | $14.40 | $10,512 | Nebius (新しいタブで開きます)8x RTX PRO 6000 96GB |
| 3 | 4 × H200 141GBHopper · HBM3e | $3.79 | 4 | $15.16 | $11,067 | RunPod (新しいタブで開きます)4x H200 NVL |
| 4 | 6 × A100 80GBAmpere · HBM2e | $2.09 | 68台単位での提供。必要なのは6台 | $16.72 | $12,206 | RunPod (新しいタブで開きます)8x A100 PCIe |
| 5 | 2 × B300 288GBBlackwell Ultra · HBM3e | $8.99 | 2 | $17.98 | $13,125 | RunPod (新しいタブで開きます)2x B300 |
| 6 | 6 × H100 80GBHopper · HBM3 | $2.89 | 68台単位での提供。必要なのは6台 | $23.12 | $16,878 | RunPod (新しいタブで開きます)8x H100 PCIe |
| 7 | 5 × H100 NVL 94GBHopper · HBM3 | $3.19 | 58台単位での提供。必要なのは5台 | $25.52 | $18,630 | RunPod (新しいタブで開きます)8x H100 NVL |
| 8 | 3 × B200 180GBBlackwell · HBM3e | $7.79 | 34台単位での提供。必要なのは3台 | $31.16 | $22,747 | Lambda (新しいタブで開きます)4x B200 SXM6 |
| 9 | 3 × GB200 186GBBlackwell · HBM3e | $10.50 | 34台単位での提供。必要なのは3台 | $42.00 | $30,660 | CoreWeave (新しいタブで開きます)GB200 NVL72 |
| 8台超:複数ノードが必要: L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| プロバイダー | インスタンス | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) |
|---|---|---|---|---|---|
| RunPod (新しいタブで開きます)最安 | 4x MI300Xus | $2.39 | 3 × MI300X 192GB 4台単位での提供。必要なのは3台 | 約$9.56 | 約$6,979 |
| Nebius (新しいタブで開きます) | 8x RTX PRO 6000 96GBeu/us | $1.80 | 5 × RTX PRO 6000 96GB 8台単位での提供。必要なのは5台 | 約$14.40 | 約$10,512 |
| CoreWeave (新しいタブで開きます) | RTX PRO 6000 Blackwell Server Edition (High Memory)us | $2.50 | 5 × RTX PRO 6000 96GB 8台単位での提供。必要なのは5台 | 約$20.00 | 約$14,600 |
| Vultr (新しいタブで開きます) | vbm-112c-2048gb-8-a100-gpu (bare metal)us | $2.80 | 6 × A100 80GB 8台単位での提供。必要なのは6台 | 約$22.40 | 約$16,352 |
| Vast.ai (新しいタブで開きます) | 4x H200 (median of 4 offers)世界中のマーケット プレイス | $5.67 | 4 × H200 141GB | 約$22.68 | 約$16,554 |
| Lambda (新しいタブで開きます) | 8x HGX A100us | $3.19 | 6 × A100 80GB 8 台単位での提供。必要なのは6台 | 約$25.52 | 約$18,630 |
| AWS (新しいタブで開きます) | p4de.24xlargeus-east-1 | $3.43 | 6 × A100 80GB 8台単位での提供。必要なのは6台 | 約$27.45 | 約$20,036 |
| Azure (新しいタブで開きます) | ND96amsr_A100_v4eastus | $4.10 | 6 × A100 80GB 8台単位での提供。必要なのは6台 | 約$32.77 | 約$23,922 |
| Google Cloud (新しいタブで開きます) | g4-standard-384us-central1 | $4.50 | 5 × RTX PRO 6000 96GB 8台単位での提供。必要なのは5台 | 約$36.00 | 約$26,280 |
価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体)。
精度と用途ごとのメモリ
| 精度 | 推論 | LoRAファインチューニング | QLoRAファインチューニング | フルファインチューニング |
|---|---|---|---|---|
| FP16 / BF16 | 397 GB | 463 GB | – | 3,172 GB |
| INT8 | 209 GB | – | – | – |
| INT4 | 105 GB | – | 171 GB | – |
精度別の最安GPU
8Kコンテキスト、同時リクエスト1件での推論。
FP16 / BF16
約397 GB · 8Kトークン
公開されたままの重み。劣化はありませんが、メモリは最も多く使います。
3 × MI300X 192GB
RunPod (新しいタブで開きます) · 4x MI300X
4台単位での提供。必要なのは3台- GPU 1台 / 時間
- $2.39
- 必要な台数
- 3
- 合計 / 時間
- 約$9.56
- 月額(24時間稼働、概算)
- $6,979
INT8
約209 GB · 8Kトークン
重みは半分の大きさ。チャットやRAGではほとんど差が出ません。
5 × A40 48GB
RunPod (新しいタブで開きます) · 8x A40
8台単位での提供。必要なのは5台- GPU 1台 / 時間
- $0.59
- 必要な台数
- 5
- 合計 / 時間
- 約$4.72
- 月額(24時間稼働、概算)
- $3,446
INT4
約105 GB · 8Kトークン
重みは4分の1の大きさ。小さな劣化はまず数学やコードに表れます。
3 × A40 48GB
RunPod (新しいタブで開きます) · 4x A40
4台単位での提供。必要なのは3台- GPU 1台 / 時間
- $0.59
- 必要な台数
- 3
- 合計 / 時間
- 約$2.36
- 月額(24時間稼働、概算)
- $1,723
推論とファインチューニング
推論 (FP16)
1×
(推論時のメモリ比)
397 GB
3 × MI300X 192GB · 約$9.56
LoRAファインチューニング
1.2×
(推論時のメモリ比)
463 GB
3 × MI300X 192GB · 約$9.56
QLoRAファインチューニング
0.4×
(推論時のメモリ比)
171 GB
4 × A40 48GB · 約$2.36
フルファインチューニング
8×
(推論時のメモリ比)
3,172 GB
8台構成のノード1つでは足りません
FP16での推論は3 × MI300X 192GB (RunPod)で足ります。LoRAは3 × MI300X 192GB (RunPod)、QLoRAは4 × A40 48GB (RunPod)、フルファインチューニングは8台構成のノード1つでは足りませんが必要です。学習では重みに加えてアクティベーションとオプティマイザーの状態もメモリに置くため、同じモデルの推論より多くのGPUが要ることがよくあります。
MacやRTX 4090 1枚で動くか
RTX 4090(24GB)
1枚では動きません。INT4でも約105 GB必要で、カードの24GBを超えます。2枚以上のカードか、より大きなデータセンター向けGPUが必要です。
Appleシリコン搭載Mac
はい、メモリが十分にあれば動きます。INT4で約105 GB必要なので、ユニファイドメモリ192GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。
自分で動かすか、トークン課金のAPIを使うか
自分で動かす
FP16で見つかった最安の構成はRunPodの3 × MI300X 192GBで、常時稼働なら月約$6,979です。トラフィックが安定している場合や、データを自社の環境から出せない場合に向いています。
ホスト型APIを使う
Qwen3.8-Flash-Nextのレビューで、APIで使える場所とその費用をまとめています。利用が少ない、または波がある場合は、トークン課金のほうが安くなることが多いです。
私たちのレビューを読む似たモデル
規模が近いオープンモデル。
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)ビジョン1966.1億 · 約437 GB FP16 · 40.3万 ↓GPU要件
- Command A+ビジョン2187.5億 · 約483 GB FP16 · 4453 ↓GPU要件
- MiniMax-M3.1-Flashビジョン2204.9億 · 約487 GB FP16 · 6.2万 ↓GPU要件
- Qwen3.5 122B A10Bビジョン1250.9億 · 約276 GB FP16 · 81万 ↓GPU要件
- Nemotron 3.5 Super VLビジョン1244.5億 · 約275 GB FP16 · 8万 ↓GPU要件
- Inkling Smallビジョン2659.6億 · 約588 GB FP16 · 108.1万 ↓GPU要件
Qwen3.8-Flash-Next:よくある質問
Qwen3.8-Flash-Nextに必要なVRAMは?
8Kコンテキスト、同時リクエスト1件で、FP16は約397 GB、INT8は約209 GB、INT4は約105 GBです。コンテキストを長くしたり同時リクエストを増やしたりすると、その分KVキャッシュが増えます。
Qwen3.8-Flash-Nextを動かす最安のGPUは?
RunPodの3 × MI300X 192GB (約$2.39 GPU 1台・1時間あたり; 4台単位での提供。必要なのは3台)で、FP16 / BF16・8Kコンテキストの推論なら1時間あたり約$9.56です。価格は2026年11月13日時点で、頻繁に変わります。
Qwen3.8-Flash-NextはGPU 1枚でファインチューニングできる?
GPU 1枚では無理です。QLoRAでも約171 GB必要で、80GBのGPUに収まりません。LoRAは約463 GB、フルファインチューニングは約3,172 GB必要です。
この数値は どう計算している?
重みはパラメータ数×1パラメータあたりのバイト数(FP16は2、INT8は1、INT4は0.5)です。KVキャッシュはモデルの層数、KVヘッド数、ヘッドサイズ、コンテキスト長から求めます。ランタイム用に約10%と1GBを加え、各GPUのメモリの90%まで使う前提です。価格は各プロバイダーの公開価格ページから集めた、米国リージョンのオンデマンド定価です。
Qwen3.8-Flash-NextはRTX 4090のような一般向けGPUで動く?
1枚では動きません。INT4でも約105 GB必要で、カードの24GBを超えます。2枚以上のカードか、より大きなデータセンター向けGPUが必要です。
Qwen3.8-Flash-NextはH100 80GB 1枚に収まる?
収まりません。INT4でも約105 GB必要なので、複数のGPUが要ります。
Qwen3.8-Flash-NextにはGPUが何台必要?
FP16、8Kコンテキストの場合、80GBなら6台、48GBなら10台、24GBなら19台です。INT4なら重みのメモリはおよそ4分の1になります。
INT8のQwen3.8-Flash-Nextに必要なVRAMは?
約209 GBです。内訳は重み189 GB、8KのKVキャッシュ0.2 GB、ランタイムのオーバーヘッド20 GBです。
Qwen3.8-Flash-Nextを1か月24時間動かすといくら?
私たちが見つけた最安の構成(3 × MI300X 192GB (約$2.39 GPU 1台・1時間あたり; 4台単位での提供。必要なのは3台)、1時間$9.56×730時間)で約$6,979です。AWS、Google Cloud、Azureの最安は月約$20,036です。
FP16、INT8、INT4のどれを使うべき?
FP16は品質を保ったまま使えますが、メモリは最も多く必要です(ここでは約397 GB)。INT8は重みが半分になり、多くのチャット用途では品質の低下はわずかです。INT4(AWQ、GPTQ、GGUF Q4)は重みが4分の1になり、合計約105 GBですが、数学やコードで目立つ程度の小さな品質低下があります。
Qwen3.8-Flash-NextはMacで動く?
はい、メモリが十分にあれば動きます。INT4で約105 GB必要なので、ユニファイドメモリ192GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。
vLLMとllama.cppのどちら?
vLLMはNVIDIAやAMDのGPUで多数のリクエストを同時に処理するためのもので、GPUメモリの大半をKVキャッシュに確保します。llama.cppはGGUFファイルをMacやCPUを含むほぼあらゆる環境で動かせ、個人や小さなチームに向いています。同じ精度なら必要なメモリはほぼ同じです。
価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体)。
計算方法
- 重み: パラメータ数×1パラメ ータあたりのバイト数。FP16は2、INT8は1、INT4は0.5で、INT8とINT4には量子化スケール分として約5%を加えます。
- KVキャッシュ: 2×層数×KVヘッド数×ヘッドサイズ×コンテキスト長×リクエスト数×2バイト。値はモデルのconfig.jsonから取ります。欠けている値は推定し、その旨を表示します。
- オーバーヘッド: 約10%に加えてランタイム用に1GB。vLLMが確保する量とほぼ同じです。
- ファインチューニング: LoRAは16ビットの重みに小さなアダプター、そのオプティマイザー、アクティベーションを加えます。QLoRAは4ビットの重みで同じことをします。フルファインチューニングは混合精度のAdamで1パラメータあたり約16バイト(重み、勾配、オプティマイザーの状態)にアクティベーションが加わります。
- GPU: 各GPUのメモリの90%まで使う前提で、1ノード8台までとします。費用は米国リージョンのオンデマンド定価で、マーケットプレイス型のクラウドは中央値です。