本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

Qwen3.8-Flash-NextのGPU要件:VRAMと最安GPU

Qwen3.8-Flash-Nextのパラメータ数は1800億で、BF16で公開されています。 Mixture-of-Expertsモデルで、512個のエキスパートのうち10個が各トークンを処理します(約615.6億パラメータ)。そのため生成速度はおおむねその規模のモデル並みです。ただしすべてのエキスパートをGPUメモリに載せる必要があるため、下のメモリの数値はモデル全体のものです。 ライセンス(qwen-community-1.0)には独自の条件があります。商用利用の前に確認してください。

パラメータ数
1800億
最小メモリ(INT4)
約105 GB
最安GPUの1時間料金(FP16)
$2.39
種類
ビジョン
  • パラメータ数 1800億
  • トークンあたりのアクティブ数 615.6億
  • 種類 ビジョン
  • タスク image-text-to-text
  • 最大コンテキスト 256K
  • ライセンス qwen-community-1.0
  • ダウンロード数 309.8万
  • いいね 7055

Qwen3.8-Flash-Nextの計算結果

精度
用途
詳細設定
推論エンジン
同時リクエスト数

Qwen3.8-Flash-Nextに必要なGPUメモリは約397 GB

推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。

メモリの内訳

  • 重み 360 GB
  • KVキャッシュ 0.2 GB
  • ランタイムのオーバーヘッド 37 GB
  • 合計 397 GB

GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。

収まるGPU(安い順)この設定を1ノードで扱える、追跡中のすべてのGPUの種類を1時間あたりの合計費用順に並べたもの
順位構成GPU 1台 / 時間必要な台数合計 / 時間合計 / 月(24時間稼働)プロバイダー
13 × MI300X 192GB最安CDNA 3 · HBM3$2.3934台単位での提供。必要なのは3台$9.56$6,979RunPod (新しいタブで開きます)4x MI300X
25 × RTX PRO 6000 96GBBlackwell · GDDR7$1.8058台単位での提供。必要なのは5台$14.40$10,512Nebius (新しいタブで開きます)8x RTX PRO 6000 96GB
34 × H200 141GBHopper · HBM3e$3.794$15.16$11,067RunPod (新しいタブで開きます)4x H200 NVL
46 × A100 80GBAmpere · HBM2e$2.0968台単位での提供。必要なのは6台$16.72$12,206RunPod (新しいタブで開きます)8x A100 PCIe
52 × B300 288GBBlackwell Ultra · HBM3e$8.992$17.98$13,125RunPod (新しいタブで開きます)2x B300
66 × H100 80GBHopper · HBM3$2.8968台単位での提供。必要なのは6台$23.12$16,878RunPod (新しいタブで開きます)8x H100 PCIe
75 × H100 NVL 94GBHopper · HBM3$3.1958台単位での提供。必要なのは5台$25.52$18,630RunPod (新しいタブで開きます)8x H100 NVL
83 × B200 180GBBlackwell · HBM3e$7.7934台単位での提供。必要なのは3台$31.16$22,747Lambda (新しいタブで開きます)4x B200 SXM6
93 × GB200 186GBBlackwell · HBM3e$10.5034台単位での提供。必要なのは3台$42.00$30,660CoreWeave (新しいタブで開きます)GB200 NVL72
8台超:複数ノードが必要: L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB
クラウド別の費用プロバイダーごとの収まる最安プラン。概算、価格は2026年11月13日時点。
プロバイダーインスタンスGPU 1台 / 時間必要な台数合計 / 時間合計 / 月(24時間稼働)
RunPod (新しいタブで開きます)最安4x MI300Xus$2.393 × MI300X 192GB 4台単位での提供。必要なのは3台約$9.56約$6,979
Nebius (新しいタブで開きます)8x RTX PRO 6000 96GBeu/us$1.805 × RTX PRO 6000 96GB 8台単位での提供。必要なのは5台約$14.40約$10,512
CoreWeave (新しいタブで開きます)RTX PRO 6000 Blackwell Server Edition (High Memory)us$2.505 × RTX PRO 6000 96GB 8台単位での提供。必要なのは5台約$20.00約$14,600
Vultr (新しいタブで開きます)vbm-112c-2048gb-8-a100-gpu (bare metal)us$2.806 × A100 80GB 8台単位での提供。必要なのは6台約$22.40約$16,352
Vast.ai (新しいタブで開きます)4x H200 (median of 4 offers)世界中のマーケットプレイス$5.674 × H200 141GB 約$22.68約$16,554
Lambda (新しいタブで開きます)8x HGX A100us$3.196 × A100 80GB 8台単位での提供。必要なのは6台約$25.52約$18,630
AWS (新しいタブで開きます)p4de.24xlargeus-east-1$3.436 × A100 80GB 8台単位での提供。必要なのは6台約$27.45約$20,036
Azure (新しいタブで開きます)ND96amsr_A100_v4eastus$4.106 × A100 80GB 8台単位での提供。必要なのは6台約$32.77約$23,922
Google Cloud (新しいタブで開きます)g4-standard-384us-central1$4.505 × RTX PRO 6000 96GB 8台単位での提供。必要なのは5台約$36.00約$26,280

価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体)。

精度と用途ごとのメモリ

コンテキスト8Kトークン、同時リクエスト1件の場合。LoRAとフルファインチューニングは16ビットの重み、QLoRAは4ビットの重みから始めるため、それ以外の欄は空欄です。
精度推論LoRAファインチューニングQLoRAファインチューニングフルファインチューニング
FP16 / BF16397 GB463 GB–3,172 GB
INT8209 GB–––
INT4105 GB–171 GB–

精度別の最安GPU

8Kコンテキスト、同時リクエスト1件での推論。

FP16 / BF16

約397 GB · 8Kトークン

公開されたままの重み。劣化はありませんが、メモリは最も多く使います。

3 × MI300X 192GB

RunPod (新しいタブで開きます) · 4x MI300X

4台単位での提供。必要なのは3台
GPU 1台 / 時間
$2.39
必要な台数
3
合計 / 時間
約$9.56
月額(24時間稼働、概算)
$6,979

INT8

約209 GB · 8Kトークン

重みは半分の大きさ。チャットやRAGではほとんど差が出ません。

5 × A40 48GB

RunPod (新しいタブで開きます) · 8x A40

8台単位での提供。必要なのは5台
GPU 1台 / 時間
$0.59
必要な台数
5
合計 / 時間
約$4.72
月額(24時間稼働、概算)
$3,446

INT4

約105 GB · 8Kトークン

重みは4分の1の大きさ。小さな劣化はまず数学やコードに表れます。

3 × A40 48GB

RunPod (新しいタブで開きます) · 4x A40

4台単位での提供。必要なのは3台
GPU 1台 / 時間
$0.59
必要な台数
3
合計 / 時間
約$2.36
月額(24時間稼働、概算)
$1,723

推論とファインチューニング

  • 推論 (FP16)

    1×

    (推論時のメモリ比)

    397 GB

    3 × MI300X 192GB · 約$9.56

  • LoRAファインチューニング

    1.2×

    (推論時のメモリ比)

    463 GB

    3 × MI300X 192GB · 約$9.56

  • QLoRAファインチューニング

    0.4×

    (推論時のメモリ比)

    171 GB

    4 × A40 48GB · 約$2.36

  • フルファインチューニング

    8×

    (推論時のメモリ比)

    3,172 GB

    8台構成のノード1つでは足りません

FP16での推論は3 × MI300X 192GB (RunPod)で足ります。LoRAは3 × MI300X 192GB (RunPod)、QLoRAは4 × A40 48GB (RunPod)、フルファインチューニングは8台構成のノード1つでは足りませんが必要です。学習では重みに加えてアクティベーションとオプティマイザーの状態もメモリに置くため、同じモデルの推論より多くのGPUが要ることがよくあります。

MacやRTX 4090 1枚で動くか

RTX 4090(24GB)

1枚では動きません。INT4でも約105 GB必要で、カードの24GBを超えます。2枚以上のカードか、より大きなデータセンター向けGPUが必要です。

Appleシリコン搭載Mac

はい、メモリが十分にあれば動きます。INT4で約105 GB必要なので、ユニファイドメモリ192GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。

自分で動かすか、トークン課金のAPIを使うか

自分で動かす

FP16で見つかった最安の構成はRunPodの3 × MI300X 192GBで、常時稼働なら月約$6,979です。トラフィックが安定している場合や、データを自社の環境から出せない場合に向いています。

ホスト型APIを使う

Qwen3.8-Flash-Nextのレビューで、APIで使える場所とその費用をまとめています。利用が少ない、または波がある場合は、トークン課金のほうが安くなることが多いです。

私たちのレビューを読む

似たモデル

規模が近いオープンモデル。

別のモデルを計算する

Qwen3.8-Flash-Next:よくある質問

Qwen3.8-Flash-Nextに必要なVRAMは?

8Kコンテキスト、同時リクエスト1件で、FP16は約397 GB、INT8は約209 GB、INT4は約105 GBです。コンテキストを長くしたり同時リクエストを増やしたりすると、その分KVキャッシュが増えます。

Qwen3.8-Flash-Nextを動かす最安のGPUは?

RunPodの3 × MI300X 192GB (約$2.39 GPU 1台・1時間あたり; 4台単位での提供。必要なのは3台)で、FP16 / BF16・8Kコンテキストの推論なら1時間あたり約$9.56です。価格は2026年11月13日時点で、頻繁に変わります。

Qwen3.8-Flash-NextはGPU 1枚でファインチューニングできる?

GPU 1枚では無理です。QLoRAでも約171 GB必要で、80GBのGPUに収まりません。LoRAは約463 GB、フルファインチューニングは約3,172 GB必要です。

この数値はどう計算している?

重みはパラメータ数×1パラメータあたりのバイト数(FP16は2、INT8は1、INT4は0.5)です。KVキャッシュはモデルの層数、KVヘッド数、ヘッドサイズ、コンテキスト長から求めます。ランタイム用に約10%と1GBを加え、各GPUのメモリの90%まで使う前提です。価格は各プロバイダーの公開価格ページから集めた、米国リージョンのオンデマンド定価です。

Qwen3.8-Flash-NextはRTX 4090のような一般向けGPUで動く?

1枚では動きません。INT4でも約105 GB必要で、カードの24GBを超えます。2枚以上のカードか、より大きなデータセンター向けGPUが必要です。

Qwen3.8-Flash-NextはH100 80GB 1枚に収まる?

収まりません。INT4でも約105 GB必要なので、複数のGPUが要ります。

Qwen3.8-Flash-NextにはGPUが何台必要?

FP16、8Kコンテキストの場合、80GBなら6台、48GBなら10台、24GBなら19台です。INT4なら重みのメモリはおよそ4分の1になります。

INT8のQwen3.8-Flash-Nextに必要なVRAMは?

約209 GBです。内訳は重み189 GB、8KのKVキャッシュ0.2 GB、ランタイムのオーバーヘッド20 GBです。

Qwen3.8-Flash-Nextを1か月24時間動かすといくら?

私たちが見つけた最安の構成(3 × MI300X 192GB (約$2.39 GPU 1台・1時間あたり; 4台単位での提供。必要なのは3台)、1時間$9.56×730時間)で約$6,979です。AWS、Google Cloud、Azureの最安は月約$20,036です。

FP16、INT8、INT4のどれを使うべき?

FP16は品質を保ったまま使えますが、メモリは最も多く必要です(ここでは約397 GB)。INT8は重みが半分になり、多くのチャット用途では品質の低下はわずかです。INT4(AWQ、GPTQ、GGUF Q4)は重みが4分の1になり、合計約105 GBですが、数学やコードで目立つ程度の小さな品質低下があります。

Qwen3.8-Flash-NextはMacで動く?

はい、メモリが十分にあれば動きます。INT4で約105 GB必要なので、ユニファイドメモリ192GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。

vLLMとllama.cppのどちら?

vLLMはNVIDIAやAMDのGPUで多数のリクエストを同時に処理するためのもので、GPUメモリの大半をKVキャッシュに確保します。llama.cppはGGUFファイルをMacやCPUを含むほぼあらゆる環境で動かせ、個人や小さなチームに向いています。同じ精度なら必要なメモリはほぼ同じです。

価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体)。

計算方法

  • 重み: パラメータ数×1パラメータあたりのバイト数。FP16は2、INT8は1、INT4は0.5で、INT8とINT4には量子化スケール分として約5%を加えます。
  • KVキャッシュ: 2×層数×KVヘッド数×ヘッドサイズ×コンテキスト長×リクエスト数×2バイト。値はモデルのconfig.jsonから取ります。欠けている値は推定し、その旨を表示します。
  • オーバーヘッド: 約10%に加えてランタイム用に1GB。vLLMが確保する量とほぼ同じです。
  • ファインチューニング: LoRAは16ビットの重みに小さなアダプター、そのオプティマイザー、アクティベーションを加えます。QLoRAは4ビットの重みで同じことをします。フルファインチューニングは混合精度のAdamで1パラメータあたり約16バイト(重み、勾配、オプティマイザーの状態)にアクティベーションが加わります。
  • GPU: 各GPUのメモリの90%まで使う前提で、1ノード8台までとします。費用は米国リージョンのオンデマンド定価で、マーケットプレイス型のクラウドは中央値です。