本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

Qwen3.8-27BのGPU要件:VRAMと最安GPU

Qwen3.8-27Bのパラメータ数は277.8億で、BF16で公開されています。 最大256Kトークンのコンテキストを扱えます。その長さではKVキャッシュだけで1リクエストあたり約17 GBになるため、長いプロンプトでは必要なGPUが変わることがあります。 apache-2.0で公開されており、商用利用が認められています。

パラメータ数
277.8億
最小メモリ(INT4)
約18 GB
最安GPUの1時間料金(FP16)
$0.50
種類
ビジョン
  • パラメータ数 277.8億
  • 種類 ビジョン
  • タスク image-text-to-text
  • 最大コンテキスト 256K
  • ライセンス apache-2.0
  • ダウンロード数 696万
  • いいね 2万

Qwen3.8-27Bの計算結果

精度
用途
詳細設定
推論エンジン
同時リクエスト数

Qwen3.8-27Bに必要なGPUメモリは約63 GB

推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。

メモリの内訳

  • 重み 56 GB
  • KVキャッシュ 0.54 GB
  • ランタイムのオーバーヘッド 6.6 GB
  • 合計 63 GB

GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。

収まるGPU(安い順)この設定を1ノードで扱える、追跡中のすべてのGPUの種類を1時間あたりの合計費用順に並べたもの
順位構成GPU 1台 / 時間必要な台数合計 / 時間合計 / 月(24時間稼働)プロバイダー
11 × RTX PRO 6000 96GB最安Blackwell · GDDR7$0.501$0.50$365RunPod (新しいタブで開きます)1x RTX PRO 6000 MaxQ
23 × RTX 3090 24GBAmpere · GDDR6X$0.2634台単位での提供。必要なのは3台$1.06$772Vast.ai (新しいタブで開きます)4x RTX 3090 (median of 5 offers)
32 × A40 48GBAmpere · GDDR6$0.592$1.18$861RunPod (新しいタブで開きます)2x A40
41 × A100 80GBAmpere · HBM2e$1.211$1.21$884Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 8 offers)
52 × A100 40GBAmpere · HBM2$0.622$1.24$903Vast.ai (新しいタブで開きます)2x A100 SXM4 (median of 3 offers)
62 × RTX A6000 48GBAmpere · GDDR6$0.692$1.38$1,007RunPod (新しいタブで開きます)2x RTX A6000
72 × L40S 48GBAda Lovelace · GDDR6$0.792$1.57$1,150Vast.ai (新しいタブで開きます)2x L40S (median of 4 offers)
81 × GH200 96GBHopper · HBM3$1.991$1.99$1,453Vultr (新しいタブで開きます)vbm-72c-480gb-gh200-gpu (bare metal)
93 × RTX 4090 24GBAda Lovelace · GDDR6X$0.5334台単位での提供。必要なのは3台$2.14$1,561Vast.ai (新しいタブで開きます)4x RTX 4090 (median of 14 offers)
102 × RTX 6000 Ada 48GBAda Lovelace · GDDR6$1.092$2.18$1,591RunPod (新しいタブで開きます)2x RTX 6000 Ada
111 × MI300X 192GBCDNA 3 · HBM3$2.391$2.39$1,745RunPod (新しいタブで開きます)1x MI300X
123 × L4 24GBAda Lovelace · GDDR6$0.6934台単位での提供。必要なのは3台$2.76$2,015RunPod (新しいタブで開きます)4x L4
131 × H100 80GBHopper · HBM3$2.891$2.89$2,110RunPod (新しいタブで開きます)1x H100 PCIe
143 × RTX 5090 32GBBlackwell · GDDR7$0.7334台単位での提供。必要なのは3台$2.94$2,143Vast.ai (新しいタブで開きます)4x RTX 5090 (median of 35 offers)
151 × H100 NVL 94GBHopper · HBM3$3.191$3.19$2,329RunPod (新しいタブで開きます)1x H100 NVL
161 × H200 141GBHopper · HBM3e$3.791$3.79$2,767RunPod (新しいタブで開きます)1x H200 NVL
173 × A10 24GBAmpere · GDDR6$1.4234台単位での提供。必要なのは3台$5.67$4,141AWS (新しいタブで開きます)g5.12xlarge
185 × V100 16GBVolta · HBM2$0.7958台単位での提供。必要なのは5台$6.32$4,614Lambda (新しいタブで開きます)8x Tesla V100
195 × T4 16GBTuring · GDDR6$0.9858台単位での提供。必要なのは5台$7.82$5,712AWS (新しいタブで開きます)g4dn.metal
201 × B200 180GBBlackwell · HBM3e$7.991$7.99$5,833RunPod (新しいタブで開きます)1x B200
211 × B300 288GBBlackwell Ultra · HBM3e$8.991$8.99$6,563RunPod (新しいタブで開きます)1x B300
221 × GB200 186GBBlackwell · HBM3e$10.5014台単位での提供。必要なのは1台$42.00$30,660CoreWeave (新しいタブで開きます)GB200 NVL72
クラウド別の費用プロバイダーごとの収まる最安プラン。概算、価格は2026年11月13日時点。
プロバイダーインスタンスGPU 1台 / 時間必要な台数合計 / 時間合計 / 月(24時間稼働)
RunPod (新しいタブで開きます)最安1x RTX PRO 6000 MaxQus$0.501 × RTX PRO 6000 96GB 約$0.50約$365
Vast.ai (新しいタブで開きます)4x RTX 3090 (median of 5 offers)世界中のマーケットプレイス$0.263 × RTX 3090 24GB 4台単位での提供。必要なのは3台約$1.06約$772
Nebius (新しいタブで開きます)1x RTX PRO 6000 96GBeu/us$1.801 × RTX PRO 6000 96GB 約$1.80約$1,314
Vultr (新しいタブで開きます)vbm-72c-480gb-gh200-gpu (bare metal)us$1.991 × GH200 96GB 約$1.99約$1,453
Lambda (新しいタブで開きます)2x A6000us$1.092 × RTX A6000 48GB 約$2.18約$1,591
AWS (新しいタブで開きます)g7e.2xlargeus-east-1$3.361 × RTX PRO 6000 96GB 約$3.36約$2,455
Azure (新しいタブで開きます)NC24ads_A100_v4eastus$3.671 × A100 80GB 約$3.67約$2,681
Google Cloud (新しいタブで開きます)g2-standard-48us-central1$1.003 × L4 24GB 4台単位での提供。必要なのは3台約$4.00約$2,921
CoreWeave (新しいタブで開きます)GH200us$6.501 × GH200 96GB 約$6.50約$4,745

価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体)。

精度と用途ごとのメモリ

コンテキスト8Kトークン、同時リクエスト1件の場合。LoRAとフルファインチューニングは16ビットの重み、QLoRAは4ビットの重みから始めるため、それ以外の欄は空欄です。
精度推論LoRAファインチューニングQLoRAファインチューニングフルファインチューニング
FP16 / BF1663 GB79 GB–497 GB
INT834 GB–––
INT418 GB–34 GB–

精度別の最安GPU

8Kコンテキスト、同時リクエスト1件での推論。

FP16 / BF16

約63 GB · 8Kトークン

公開されたままの重み。劣化はありませんが、メモリは最も多く使います。

1 × RTX PRO 6000 96GB

RunPod (新しいタブで開きます) · 1x RTX PRO 6000 MaxQ

GPU 1台 / 時間
$0.50
必要な台数
1
合計 / 時間
約$0.50
月額(24時間稼働、概算)
$365

INT8

約34 GB · 8Kトークン

重みは半分の大きさ。チャットやRAGではほとんど差が出ません。

1 × RTX PRO 6000 96GB

RunPod (新しいタブで開きます) · 1x RTX PRO 6000 MaxQ

GPU 1台 / 時間
$0.50
必要な台数
1
合計 / 時間
約$0.50
月額(24時間稼働、概算)
$365

INT4

約18 GB · 8Kトークン

重みは4分の1の大きさ。小さな劣化はまず数学やコードに表れます。

1 × RTX 3090 24GB

Vast.ai (新しいタブで開きます) · 1x RTX 3090 (median of 29 offers)

GPU 1台 / 時間
$0.25
必要な台数
1
合計 / 時間
約$0.25
月額(24時間稼働、概算)
$183

推論とファインチューニング

  • 推論 (FP16)

    1×

    (推論時のメモリ比)

    63 GB

    1 × RTX PRO 6000 96GB · 約$0.50

  • LoRAファインチューニング

    1.3×

    (推論時のメモリ比)

    79 GB

    1 × RTX PRO 6000 96GB · 約$0.50

  • QLoRAファインチューニング

    0.5×

    (推論時のメモリ比)

    34 GB

    1 × RTX PRO 6000 96GB · 約$0.50

  • フルファインチューニング

    7.9×

    (推論時のメモリ比)

    497 GB

    3 × MI300X 192GB · 約$9.56

FP16での推論は1 × RTX PRO 6000 96GB (RunPod)で足ります。LoRAは1 × RTX PRO 6000 96GB (RunPod)、QLoRAは1 × RTX PRO 6000 96GB (RunPod)、フルファインチューニングは3 × MI300X 192GB (RunPod)が必要です。学習では重みに加えてアクティベーションとオプティマイザーの状態もメモリに置くため、同じモデルの推論より多くのGPUが要ることがよくあります。

MacやRTX 4090 1枚で動くか

RTX 4090(24GB)

はい。INT4、8Kコンテキストなら約18 GBで、カードの24GBに収まります。

Appleシリコン搭載Mac

はい、メモリが十分にあれば動きます。INT4で約18 GB必要なので、ユニファイドメモリ24GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。

自分で動かすか、トークン課金のAPIを使うか

自分で動かす

FP16で見つかった最安の構成はRunPodの1 × RTX PRO 6000 96GBで、常時稼働なら月約$365です。トラフィックが安定している場合や、データを自社の環境から出せない場合に向いています。

ホスト型APIを使う

Qwen3.8-27Bのレビューで、APIで使える場所とその費用をまとめています。利用が少ない、または波がある場合は、トークン課金のほうが安くなることが多いです。

私たちのレビューを読む

似たモデル

規模が近いオープンモデル。

別のモデルを計算する

Qwen3.8-27B:よくある質問

Qwen3.8-27Bに必要なVRAMは?

8Kコンテキスト、同時リクエスト1件で、FP16は約63 GB、INT8は約34 GB、INT4は約18 GBです。コンテキストを長くしたり同時リクエストを増やしたりすると、その分KVキャッシュが増えます。

Qwen3.8-27Bを動かす最安のGPUは?

RunPodの1 × RTX PRO 6000 96GB (約$0.50 GPU 1台・1時間あたり)で、FP16 / BF16・8Kコンテキストの推論なら1時間あたり約$0.50です。価格は2026年11月13日時点で、頻繁に変わります。

Qwen3.8-27BはGPU 1枚でファインチューニングできる?

はい、QLoRAなら可能です。約34 GBで、80GBのGPU 1枚に収まります。LoRAは約79 GB、フルファインチューニングは約497 GB必要です。

この数値はどう計算している?

重みはパラメータ数×1パラメータあたりのバイト数(FP16は2、INT8は1、INT4は0.5)です。KVキャッシュはモデルの層数、KVヘッド数、ヘッドサイズ、コンテキスト長から求めます。ランタイム用に約10%と1GBを加え、各GPUのメモリの90%まで使う前提です。価格は各プロバイダーの公開価格ページから集めた、米国リージョンのオンデマンド定価です。

Qwen3.8-27BはRTX 4090のような一般向けGPUで動く?

はい。INT4、8Kコンテキストなら約18 GBで、カードの24GBに収まります。

Qwen3.8-27BはH100 80GB 1枚に収まる?

はい、8KコンテキストならFP16 / BF16, INT8, INT4で収まります。

Qwen3.8-27BにはGPUが何台必要?

FP16、8Kコンテキストの場合、80GBなら1台、48GBなら2台、24GBなら3台です。INT4なら重みのメモリはおよそ4分の1になります。

INT8のQwen3.8-27Bに必要なVRAMは?

約34 GBです。内訳は重み29 GB、8KのKVキャッシュ0.54 GB、ランタイムのオーバーヘッド4 GBです。

Qwen3.8-27Bを1か月24時間動かすといくら?

私たちが見つけた最安の構成(1 × RTX PRO 6000 96GB (約$0.50 GPU 1台・1時間あたり)、1時間$0.50×730時間)で約$365です。AWS、Google Cloud、Azureの最安は月約$2,455です。

FP16、INT8、INT4のどれを使うべき?

FP16は品質を保ったまま使えますが、メモリは最も多く必要です(ここでは約63 GB)。INT8は重みが半分になり、多くのチャット用途では品質の低下はわずかです。INT4(AWQ、GPTQ、GGUF Q4)は重みが4分の1になり、合計約18 GBですが、数学やコードで目立つ程度の小さな品質低下があります。

Qwen3.8-27BはMacで動く?

はい、メモリが十分にあれば動きます。INT4で約18 GB必要なので、ユニファイドメモリ24GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。

vLLMとllama.cppのどちら?

vLLMはNVIDIAやAMDのGPUで多数のリクエストを同時に処理するためのもので、GPUメモリの大半をKVキャッシュに確保します。llama.cppはGGUFファイルをMacやCPUを含むほぼあらゆる環境で動かせ、個人や小さなチームに向いています。同じ精度なら必要なメモリはほぼ同じです。

価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体)。

計算方法

  • 重み: パラメータ数×1パラメータあたりのバイト数。FP16は2、INT8は1、INT4は0.5で、INT8とINT4には量子化スケール分として約5%を加えます。
  • KVキャッシュ: 2×層数×KVヘッド数×ヘッドサイズ×コンテキスト長×リクエスト数×2バイト。値はモデルのconfig.jsonから取ります。欠けている値は推定し、その旨を表示します。
  • オーバーヘッド: 約10%に加えてランタイム用に1GB。vLLMが確保する量とほぼ同じです。
  • ファインチューニング: LoRAは16ビットの重みに小さなアダプター、そのオプティマイザー、アクティベーションを加えます。QLoRAは4ビットの重みで同じことをします。フルファインチューニングは混合精度のAdamで1パラメータあたり約16バイト(重み、勾配、オプティマイザーの状態)にアクティベーションが加わります。
  • GPU: 各GPUのメモリの90%まで使う前提で、1ノード8台までとします。費用は米国リージョンのオンデマンド定価で、マーケットプレイス型のクラウドは中央値です。