本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

GPU計算機

オープンモデルにはどれだけのGPUが必要か

Hugging Faceのオープンモデルを選ぶと、必要なメモリ、それに見合うGPUの台数、AWS・Google Cloud・Azure・GPUクラウドで動かすおおよその費用を計算します。

Qwen3 0.6B Qwen/Qwen3-0.6B

専用ページあり

Qwen3 0.6Bの計算結果

精度
用途
詳細設定
推論エンジン
同時リクエスト数

Qwen3 0.6Bに必要なGPUメモリは約3.7 GB

推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。

メモリの内訳

  • 重み 1.5 GB
  • KVキャッシュ 0.94 GB
  • ランタイムのオーバーヘッド 1.2 GB
  • 合計 3.7 GB

GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。

収まるGPU(安い順)この設定を1ノードで扱える、追跡中のすべてのGPUの種類を1時間あたりの合計費用順に並べたもの
順位構成GPU 1台 / 時間必要な台数合計 / 時間合計 / 月(24時間稼働)プロバイダー
11 × RTX 3090 24GB最安Ampere · GDDR6X$0.161$0.16$117Lium (新しいタブで開きます)1x RTX 3090 Ti
21 × RTX 4090 24GBAda Lovelace · GDDR6X$0.301$0.30$219Lium (新しいタブで開きます)1x RTX 4090
31 × RTX 5090 32GBBlackwell · GDDR7$0.401$0.40$292Lium (新しいタブで開きます)1x RTX 5090
41 × RTX A6000 48GBAmpere · GDDR6$0.421$0.42$307Lium (新しいタブで開きます)1x RTX A6000
51 × L4 24GBAda Lovelace · GDDR6$0.451$0.45$326Vast.ai (新しいタブで開きます)1x L4 (median of 3 offers)
61 × RTX PRO 6000 96GBBlackwell · GDDR7$0.501$0.50$365RunPod (新しいタブで開きます)1x RTX PRO 6000 MaxQ
71 × A40 48GBAmpere · GDDR6$0.521$0.52$381Vast.ai (新しいタブで開きます)1x A40 (median of 5 offers)
81 × T4 16GBTuring · GDDR6$0.531$0.53$384AWS (新しいタブで開きます)g4dn.xlarge
91 × RTX 6000 Ada 48GBAda Lovelace · GDDR6$0.751$0.75$548Lium (新しいタブで開きます)1x RTX 6000 Ada Generation
101 × L40S 48GBAda Lovelace · GDDR6$0.801$0.80$585Vast.ai (新しいタブで開きます)1x L40S (median of 7 offers)
111 × A100 40GBAmpere · HBM2$0.801$0.80$586Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 15 offers)
121 × A10 24GBAmpere · GDDR6$1.011$1.01$734AWS (新しいタブで開きます)g5.xlarge
131 × A100 80GBAmpere · HBM2e$1.121$1.12$820Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 16 offers)
141 × H100 80GBHopper · HBM3$1.391$1.39$1,015Lium (新しいタブで開きます)1x H100 80GB HBM3
151 × GH200 96GBHopper · HBM3$1.991$1.99$1,453Vultr (新しいタブで開きます)vbm-72c-480gb-gh200-gpu (bare metal)
161 × MI300X 192GBCDNA 3 · HBM3$2.391$2.39$1,745RunPod (新しいタブで開きます)1x MI300X
171 × H200 141GBHopper · HBM3e$2.901$2.90$2,117Lium (新しいタブで開きます)1x H200 NVL
181 × V100 16GBVolta · HBM2$3.061$3.06$2,234AWS (新しいタブで開きます)p3.2xlarge
191 × H100 NVL 94GBHopper · HBM3$3.191$3.19$2,329RunPod (新しいタブで開きます)1x H100 NVL
201 × B200 180GBBlackwell · HBM3e$5.601$5.60$4,088Lium (新しいタブで開きます)1x B200
211 × B300 288GBBlackwell Ultra · HBM3e$8.001$8.00$5,840Lium (新しいタブで開きます)1x B300 SXM6
221 × GB200 186GBBlackwell · HBM3e$10.5014台単位での提供。必要なのは1台$42.00$30,660CoreWeave (新しいタブで開きます)GB200 NVL72
クラウド別の費用プロバイダーごとの収まる最安プラン。概算、価格は2026年11月16日時点。
プロバイダーインスタンスGPU 1台 / 時間必要な台数合計 / 時間合計 / 月(24時間稼働)
Lium (新しいタブで開きます)最安1x RTX 3090 Ti世界中のマーケットプレイス$0.161 × RTX 3090 24GB 約$0.16約$117
Vast.ai (新しいタブで開きます)1x RTX 3090 (median of 32 offers)世界中のマーケットプレイス$0.261 × RTX 3090 24GB 約$0.26約$186
RunPod (新しいタブで開きます)1x RTX 3090 Tius$0.461 × RTX 3090 24GB 約$0.46約$336
AWS (新しいタブで開きます)g4dn.xlargeus-east-1$0.531 × T4 16GB 約$0.53約$384
Azure (新しいタブで開きます)NC4as_T4_v3eastus$0.531 × T4 16GB 約$0.53約$384
Google Cloud (新しいタブで開きます)g2-standard-4us-central1$0.711 × L4 24GB 約$0.71約$516
Lambda (新しいタブで開きます)1x A6000us$1.091 × RTX A6000 48GB 約$1.09約$796
Nebius (新しいタブで開きます)1x L40S 48GBeu/us$1.551 × L40S 48GB 約$1.55約$1,132
Vultr (新しいタブで開きます)vcg-l40s-16c-180g-48vramus$1.671 × L40S 48GB 約$1.67約$1,220
CoreWeave (新しいタブで開きます)GH200us$6.501 × GH200 96GB 約$6.50約$4,745

価格は2026年11月16日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiやLiumなどのマーケットプレイスは世界全体)。

似たモデル

規模が近いオープンモデル。

Qwen3 0.6B:よくある質問

Qwen3 0.6Bに必要なVRAMは?

8Kコンテキスト、同時リクエスト1件で、FP16は約3.7 GB、INT8は約2.9 GB、INT4は約2.5 GBです。コンテキストを長くしたり同時リクエストを増やしたりすると、その分KVキャッシュが増えます。

Qwen3 0.6Bを動かす最安のGPUは?

Liumの1 × RTX 3090 24GB (約$0.16 GPU 1台・1時間あたり)で、FP16 / BF16・8Kコンテキストの推論なら1時間あたり約$0.16です。価格は2026年11月16日時点で、頻繁に変わります。

Qwen3 0.6BはGPU 1枚でファインチューニングできる?

はい、QLoRAなら可能です。約2.5 GBで、80GBのGPU 1枚に収まります。LoRAは約3.7 GB、フルファインチューニングは約15 GB必要です。

この数値はどう計算している?

重みはパラメータ数×1パラメータあたりのバイト数(FP16は2、INT8は1、INT4は0.5)です。KVキャッシュはモデルの層数、KVヘッド数、ヘッドサイズ、コンテキスト長から求めます。ランタイム用に約10%と1GBを加え、各GPUのメモリの90%まで使う前提です。価格は各プロバイダーの公開価格ページから集めた、米国リージョンのオンデマンド定価です。

Qwen3 0.6BはRTX 4090のような一般向けGPUで動く?

はい。FP16 / BF16、8Kコンテキストなら約3.7 GBで、カードの24GBに収まります。

Qwen3 0.6BはH100 80GB 1枚に収まる?

はい、8KコンテキストならFP16 / BF16, INT8, INT4で収まります。

Qwen3 0.6BにはGPUが何台必要?

FP16、8Kコンテキストの場合、80GBなら1台、48GBなら1台、24GBなら1台です。INT4なら重みのメモリはおよそ4分の1になります。

INT8のQwen3 0.6Bに必要なVRAMは?

約2.9 GBです。内訳は重み0.79 GB、8KのKVキャッシュ0.94 GB、ランタイムのオーバーヘッド1.2 GBです。

Qwen3 0.6Bを1か月24時間動かすといくら?

私たちが見つけた最安の構成(1 × RTX 3090 24GB (約$0.16 GPU 1台・1時間あたり)、1時間$0.16×730時間)で約$117です。AWS、Google Cloud、Azureの最安は月約$384です。

FP16、INT8、INT4のどれを使うべき?

FP16は品質を保ったまま使えますが、メモリは最も多く必要です(ここでは約3.7 GB)。INT8は重みが半分になり、多くのチャット用途では品質の低下はわずかです。INT4(AWQ、GPTQ、GGUF Q4)は重みが4分の1になり、合計約2.5 GBですが、数学やコードで目立つ程度の小さな品質低下があります。

Qwen3 0.6BはMacで動く?

はい、メモリが十分にあれば動きます。INT4で約2.5 GB必要なので、ユニファイドメモリ16GB以上のMacが目安です(macOSはその約4分の3をGPUに割り当てます)。生成速度はデータセンター向けGPUより遅くなります。

vLLMとllama.cppのどちら?

vLLMはNVIDIAやAMDのGPUで多数のリクエストを同時に処理するためのもので、GPUメモリの大半をKVキャッシュに確保します。llama.cppはGGUFファイルをMacやCPUを含むほぼあらゆる環境で動かせ、個人や小さなチームに向いています。同じ精度なら必要なメモリはほぼ同じです。

価格は2026年11月16日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiやLiumなどのマーケットプレイスは世界全体)。

人気のモデル

精度ごとの数値をまとめた専用ページ。

計算方法

  • 重み: パラメータ数×1パラメータあたりのバイト数。FP16は2、INT8は1、INT4は0.5で、INT8とINT4には量子化スケール分として約5%を加えます。
  • KVキャッシュ: 2×層数×KVヘッド数×ヘッドサイズ×コンテキスト長×リクエスト数×2バイト。値はモデルのconfig.jsonから取ります。欠けている値は推定し、その旨を表示します。
  • オーバーヘッド: 約10%に加えてランタイム用に1GB。vLLMが確保する量とほぼ同じです。
  • ファインチューニング: LoRAは16ビットの重みに小さなアダプター、そのオプティマイザー、アクティベーションを加えます。QLoRAは4ビットの重みで同じことをします。フルファインチューニングは混合精度のAdamで1パラメータあたり約16バイト(重み、勾配、オプティマイザーの状態)にアクティベーションが加わります。
  • GPU: 各GPUのメモリの90%まで使う前提で、1ノード8台までとします。費用は米国リージョンのオンデマンド定価で、マーケットプレイス型のクラウドは中央値です。