GPU計算機
オープンモデルにはどれだけのGPUが必要か
Hugging Faceのオープンモデルを選ぶと、必要なメモリ、それに見合うGPUの台数、AWS・Google Cloud・Azure・GPUクラウドで動かすおおよその費用を計算します。
Qwen3 0.6B Qwen/Qwen3-0.6B
専用ページありQwen3 0.6Bの計算結果
詳細設定
Qwen3 0.6Bに必要なGPUメモリは約3.7 GB
推論（vLLM）、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。
メモリの内訳
- 重み 1.5 GB
- KVキャッシュ 0.94 GB
- ランタイムのオーバーヘッド 1.2 GB
- 合計 3.7 GB
GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。
| 順位 | 構成 | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月（24時間稼働） | プロバイダー |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX 3090 24GB最安Ampere · GDDR6X | $0.25 | 1 | $0.25 | $183 | Vast.ai （新しいタブで開きます）1x RTX 3090 (median of 29 offers) |
| 2 | 1 × V100 16GBVolta · HBM2 | $0.15 | 12台単位での提供。必要なのは1台 | $0.30 | $220 | Vast.ai （新しいタブで開きます）2x Tesla V100 (median of 4 offers) |
| 3 | 1 × RTX 4090 24GBAda Lovelace · GDDR6X | $0.48 | 1 | $0.48 | $354 | Vast.ai （新しいタブで開きます）1x RTX 4090 (median of 34 offers) |
| 4 | 1 × RTX PRO 6000 96GBBlackwell · GDDR7 | $0.50 | 1 | $0.50 | $365 | RunPod （新しいタブで開きます）1x RTX PRO 6000 MaxQ |
| 5 | 1 × T4 16GBTuring · GDDR6 | $0.53 | 1 | $0.53 | $384 | AWS （新しいタブで開きます）g4dn.xlarge |
| 6 | 1 × A40 48GBAmpere · GDDR6 | $0.59 | 1 | $0.59 | $431 | RunPod （新しいタブで開きます）1x A40 |
| 7 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | $0.67 | 1 | $0.67 | $488 | Vast.ai （新しいタブで開きます）1x RTX 6000Ada (median of 8 offers) |
| 8 | 1 × A100 40GBAmpere · HBM2 | $0.68 | 1 | $0.68 | $497 | Vast.ai （新しいタブで開きます）1x A100 SXM4 (median of 8 offers) |
| 9 | 1 × RTX A6000 48GBAmpere · GDDR6 | $0.69 | 1 | $0.69 | $504 | RunPod （新しいタブで開きます）1x RTX A6000 |
| 10 | 1 × L4 24GBAda Lovelace · GDDR6 | $0.69 | 1 | $0.69 | $504 | RunPod （新しいタブで開きます）1x L4 |
| 11 | 1 × L40S 48GBAda Lovelace · GDDR6 | $0.78 | 1 | $0.78 | $571 | Vast.ai （新しいタブで開きます）1x L40S (median of 6 offers) |
| 12 | 1 × RTX 5090 32GBBlackwell · GDDR7 | $0.87 | 1 | $0.87 | $634 | Vast.ai （新しいタブで開きます）1x RTX 5090 (median of 55 offers) |
| 13 | 1 × A10 24GBAmpere · GDDR6 | $1.01 | 1 | $1.01 | $734 | AWS （新しいタブで開きます）g5.xlarge |
| 14 | 1 × A100 80GBAmpere · HBM2e | $1.21 | 1 | $1.21 | $884 | Vast.ai （新しいタブで開きます）1x A100 SXM4 (median of 8 offers) |
| 15 | 1 × GH200 96GBHopper · HBM3 | $1.99 | 1 | $1.99 | $1,453 | Vultr （新しいタブで開きます）vbm-72c-480gb-gh200-gpu (bare metal) |
| 16 | 1 × MI300X 192GBCDNA 3 · HBM3 | $2.39 | 1 | $2.39 | $1,745 | RunPod （新しいタブで開きます）1x MI300X |
| 17 | 1 × H100 80GBHopper · HBM3 | $2.89 | 1 | $2.89 | $2,110 | RunPod （新しいタブで開きます）1x H100 PCIe |
| 18 | 1 × H100 NVL 94GBHopper · HBM3 | $3.19 | 1 | $3.19 | $2,329 | RunPod （新しいタブで開きます）1x H100 NVL |
| 19 | 1 × H200 141GBHopper · HBM3e | $3.79 | 1 | $3.79 | $2,767 | RunPod （新しいタブで開きます）1x H200 NVL |
| 20 | 1 × B200 180GBBlackwell · HBM3e | $7.99 | 1 | $7.99 | $5,833 | RunPod （新しいタブで開きます）1x B200 |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | $8.99 | 1 | $8.99 | $6,563 | RunPod （新しいタブで開きます）1x B300 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | $10.50 | 14台単位での提供。必要なのは1台 | $42.00 | $30,660 | CoreWeave （新しいタブで開きます）GB200 NVL72 |
| プロバイダー | インスタンス | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月（24時間稼働） |
|---|---|---|---|---|---|
| Vast.ai （新しいタブで開きます）最安 | 1x RTX 3090 (median of 29 offers)世界中のマーケットプレイス | $0.25 | 1 × RTX 3090 24GB | 約$0.25 | 約$183 |
| RunPod （新しいタブで開きます） | 1x RTX 3090 Tius | $0.46 | 1 × RTX 3090 24GB | 約$0.46 | 約$336 |
| AWS （新しいタブで開きます） | g4dn.xlargeus-east-1 | $0.53 | 1 × T4 16GB | 約$0.53 | 約$384 |
| Azure （新しいタブで開きます） | NC4as_T4_v3eastus | $0.53 | 1 × T4 16GB | 約$0.53 | 約$384 |
| Google Cloud （新しいタブで開きます） | g2-standard-4us-central1 | $0.71 | 1 × L4 24GB | 約$0.71 | 約$516 |
| Lambda （新しいタブで開きます） | 1x A6000us | $1.09 | 1 × RTX A6000 48GB | 約$1.09 | 約$796 |
| Nebius （新しいタブで開きます） | 1x L40S 48GBeu/us | $1.55 | 1 × L40S 48GB | 約$1.55 | 約$1,132 |
| Vultr （新しいタブで開きます） | vcg-l40s-16c-180g-48vramus | $1.67 | 1 × L40S 48GB | 約$1.67 | 約$1,220 |
| CoreWeave （新しいタブで開きます） | GH200us | $6.50 | 1 × GH200 96GB | 約$6.50 | 約$4,745 |
価格は2026年11月13日時点。費用はすべて概算です（オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体）。
似たモデル
規模が近いオープンモデル。
- Qwen3 0.6Bテキスト7.5億 · 約3.7 GB FP16 · 99.4万 ↓GPU要件
- gpt2 largeテキスト8.1億 · 約3 GB FP16 · 104.3万 ↓GPU要件
- BitNet b1.58 2B4Tテキスト8.5億 · 約3.2 GB FP16 · 9866 ↓GPU要件
- Qwen3 0.6B Baseテキスト6億 · 約3.3 GB FP16 · 57.2万 ↓GPU要件
- bloomz 560mテキスト5.6億 · 約2.7 GB FP16 · 59.5万 ↓GPU要件
- Limite 1B - Violettoテキスト10.4億 · 約3.7 GB FP16 · 3985 ↓GPU要件
Qwen3 0.6B：よくある質問
Qwen3 0.6Bに必要なVRAMは？
8Kコンテキスト、同時リクエスト1件で、FP16は約3.7 GB、INT8は約2.9 GB、INT4は約2.5 GBです。コンテキストを長くしたり同時リクエストを増やしたりすると、その分KVキャッシュが増えます。
Qwen3 0.6Bを動かす最安のGPUは？
Vast.aiの1 × RTX 3090 24GB (約$0.25 GPU 1台・1時間あたり)で、FP16 / BF16・8Kコンテキストの推論なら1時間あたり約$0.25です。価格は2026年11月13日時点で、頻繁に変わります。
Qwen3 0.6BはGPU 1枚でファインチューニングできる？
はい、QLoRAなら可能です。約2.5 GBで、80GBのGPU 1枚に収まります。LoRAは約3.7 GB、フルファインチューニングは約15 GB必要です。
この数値はどう計算している？
重みはパラメータ数×1パラメータあたりのバイト数（FP16は2、INT8は1、INT4は0.5）です。KVキャッシュはモデルの層数、KVヘッド数、ヘッドサイズ、コンテキスト長から求めます。ランタイム用に約10%と1GB を加え、各GPUのメモリの90%まで使う前提です。価格は各プロバイダーの公開価格ページから集めた、米国リージョンのオンデマンド定価です。
Qwen3 0.6BはRTX 4090のような一般向けGPUで動く？
はい。FP16 / BF16、8Kコンテキストなら約3.7 GBで、カードの24GBに収まります。
Qwen3 0.6BはH100 80GB 1枚に収まる？
はい、8KコンテキストならFP16 / BF16, INT8, INT4で収まります。
Qwen3 0.6BにはGPUが何台必要？
FP16、8Kコンテキストの場合、80GBなら1台、48GBなら1台、24GBなら1台です。INT4なら重みのメモリはおよそ4分の1になります。
INT8のQwen3 0.6Bに必要なVRAMは？
約2.9 GBです。内訳は重み0.79 GB、8KのKVキャッシュ0.94 GB、ランタイムのオーバーヘッド1.2 GBです。
Qwen3 0.6Bを1か月24時間動かすといくら？
私たちが見つけた最安の構成（1 × RTX 3090 24GB (約$0.25 GPU 1台・1時間あたり)、1時間$0.25×730時間）で約$183です。AWS、Google Cloud、Azureの最安は月約$384です。
FP16、INT8、INT4のどれを使うべき？
FP16は品質を保ったまま使えますが、メモリは最も多く必要です（ここでは約3.7 GB）。INT8は重みが半分になり、多くのチャット用途では品質の低下はわずかです。INT4（AWQ、GPTQ、GGUF Q4）は重みが4分の1にな り、合計約2.5 GBですが、数学やコードで目立つ程度の小さな品質低下があります。
Qwen3 0.6BはMacで動く？
はい、メモリが十分にあれば動きます。INT4で約2.5 GB必要なので、ユニファイドメモリ16GB以上のMacが目安です（macOSはその約4分の3をGPUに割り当てます）。生成速度はデータセンター向けGPUより遅くなります。
vLLMとllama.cppのどちら？
vLLMはNVIDIAやAMDのGPUで多数のリクエストを同時に処理するためのもので、GPUメモリの大半をKVキャッシュに確保します。llama.cppはGGUFファイルをMacやCPUを含むほぼあらゆる環境で動かせ、個人や小さなチームに向いています。同じ精度なら必要なメモリはほぼ同じです。
価格は2026年11月13日時点。費用はすべて概算です（オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケットプレイスは世界全体）。
人気のモデル
精度ごとの数値をまとめた専用ページ。
- all-MiniLM-L6-v2埋め込み2271.4万 · 約1 GB FP16 · 1.7億 ↓GPU要件
- Qwen3 0.6Bテキスト7.5億 · 約3.7 GB FP16 · 1914.1万 ↓GPU要件
- Qwen3 14Bテキスト147.7億 · 約35 GB FP16 · 1301.1万 ↓GPU要件
- Qwen3 Embedding 0.6B埋め込み6億 · 約2.3 GB FP16 · 862万 ↓GPU要件
- DeepSeek V3.2テキスト6853.6億 · 約1,509 GB FP16 · 844.2万 ↓GPU要件
- bge large en v1.5埋め込み3.4億 · 約1.7 GB FP16 · 774.5万 ↓GPU要件
- Qwen3 VL 8B Instructビジョン87.7億 · 約22 GB FP16 · 713万 ↓GPU要件
- multilingual e5 large埋め込み5.6億 · 約2.2 GB FP16 · 711.3万 ↓GPU要件
- Qwen3.8-27Bビジョン277.8億 · 約63 GB FP16 · 696万 ↓GPU要件
- Gemma 4ビジョン312.7億 · 約71 GB FP16 · 661.5万 ↓GPU要件
- MiniMax H3 (Hailuo 3.0)動画331.2億 · 約74 GB FP16 · 653.6万 ↓GPU要件
- Qwen2.5 7B Instructテキスト76.2億 · 約18 GB FP16 · 644.5万 ↓GPU要件
- GLM-5.3-Flashビジョン3213.2億 · 約708 GB FP16 · 639.1万 ↓GPU要件
- Qwen3.5 9Bビジョン96.5億 · 約23 GB FP16 · 620.1万 ↓GPU要件
- Qwen3 8Bテキスト81.9億 · 約20 GB FP16 · 616.5万 ↓GPU要件
- Unlimited OCRビジョン33.4億 · 約8.9 GB FP16 · 595.2万 ↓GPU要件
- Qwen2.5 VL 7B Instructビジョン82.9億 · 約20 GB FP16 · 582.5万 ↓GPU要件
- gpt-oss-20bテキスト209.1億 · 約47 GB FP16 · 567.4万 ↓GPU要件
- gemma 4 26B A4B itビジョン258.1億 · 約58 GB FP16 · 525.2万 ↓GPU要件
- Qwen2.5 1.5B Instructテキスト15.4億 · 約4.7 GB FP16 · 514.6万 ↓GPU要件
- Qwen3.5 4Bビジョン46.6億 · 約12 GB FP16 · 508.8万 ↓GPU要件
- Whisper large-v3-turbo音声8.1億 · 約2.8 GB FP16 · 488万 ↓GPU要件
- dolphin 2.9.1 yi 1.5 34bテキスト343.9億 · 約79 GB FP16 · 483.7万 ↓GPU要件
- Qwen3.5 2Bビジョン22.7億 · 約6.1 GB FP16 · 462.6万 ↓GPU要件
- snowflake arctic embed l v2.0埋め込み5.7億 · 約2.2 GB FP16 · 446.5万 ↓GPU要件
- Qwen2.5 0.5B Instructテキスト4.9億 · 約2.2 GB FP16 · 429.2万 ↓GPU要件
- Llama 3.1 8B Instructテキスト80.3億 · 約20 GB FP16 · 419.9万 ↓GPU要件
- Qwen3.6 35B A3Bビジョン359.5億 · 約80 GB FP16 · 403.6万 ↓GPU要件
- OmniVoice音声6.1億 · 約2.3 GB FP16 · 393.4万 ↓GPU要件
- Qwen3 VL 4B Instructビジョン44.4億 · 約12 GB FP16 · 349.2万 ↓GPU要件
- Qwen3 4Bテキスト40.2億 · 約11 GB FP16 · 320.7万 ↓GPU要件
- Qwen3.5 0.8Bビジョン8.7億 · 約3 GB FP16 · 320万 ↓GPU要件
- Qwen3 32Bテキスト327.6億 · 約75 GB FP16 · 314.6万 ↓GPU要件
- Qwen3.8-Flash-Nextビジョン1800億 · 約397 GB FP16 · 309.8万 ↓GPU要件
- Qwen3 1.7Bテキスト20.3億 · 約6.5 GB FP16 · 302万 ↓GPU要件
- Qwen3 4B Instruct 2507テキスト40.2億 · 約11 GB FP16 · 262.2万 ↓GPU要件
- gpt-oss-120bテキスト1168.3億 · 約258 GB FP16 · 243.3万 ↓GPU要件
- Qwen3.6 27Bビジョン277.8億 · 約63 GB FP16 · 241.6万 ↓GPU要件
- Qwen3 Embedding 4B埋め込み40.2億 · 約9.8 GB FP16 · 238.9万 ↓GPU要件
- DeepSeek V4 Flash 0731テキスト3041.8億 · 約671 GB FP16 · 236.7万 ↓GPU要件
- moondream2ビジョン19.3億 · 約6 GB FP16 · 235.9万 ↓GPU要件
- Qwen3-Embedding and Qwen3-Reranker埋め込み75.7億 · 約18 GB FP16 · 233.4万 ↓GPU要件
- mxbai embed large v1埋め込み3.4億 · 約1.7 GB FP16 · 224.7万 ↓GPU要件
- Qwen2.5 3B Instructテキスト30.9億 · 約8.1 GB FP16 · 220.6万 ↓GPU要件
- SAM 3 (Segment Anything Model 3)ビジョン8.6億 · 約2.9 GB FP16 · 209.2万 ↓GPU要件
- bge reranker large埋め込み5.6億 · 約2.2 GB FP16 · 202.3万 ↓GPU要件
- DeepSeek OCRビジョン33.4億 · 約8.9 GB FP16 · 190.1万 ↓GPU要件
- NVIDIA Nemotron 3 Nano 4B BF16テキスト39.7億 · 約11 GB FP16 · 188.6万 ↓GPU要件
- GLM-5.3テキスト7533.3億 · 約1,659 GB FP16 · 185.3万 ↓GPU要件
- Qwen2.5 Coder 14B Instructテキスト147.7億 · 約35 GB FP16 · 183.1万 ↓GPU要件
計算方法
- 重み： パラメータ数×1パラメータあたりのバイト数。FP16は2、INT8は1、INT4は0.5で、INT8とINT4には量子化スケール分として約5%を加えます。
- KVキャッシュ： 2×層数×KVヘッド数×ヘッドサイズ×コンテキスト長×リクエスト数×2バイト。値はモデルのconfig.jsonから取ります。欠けている値は推定し、その旨を表示します。
- オーバーヘッド： 約10%に加えてランタイム用に1GB。vLLMが確保する量とほぼ同じです。
- ファインチューニング： LoRAは16ビットの重みに小さなアダプター、そのオプティマイザー、アクティベーションを加えます。QLoRAは4ビットの重みで同じことをします。フルファインチューニングは混合精度のAdamで1パラメータあたり約16バイト（重み、勾配、オプティマイザーの状態）にアクテ ィベーションが加わります。
- GPU： 各GPUのメモリの90%まで使う前提で、1ノード8台までとします。費用は米国リージョンのオンデマンド定価で、マーケットプレイス型のクラウドは中央値です。