Llama 3.2 1B InstructのGPU要件:VRAMと最安GPU
Llama 3.2 1B Instructのパラメータ数は12.4億で、BF16で公開されています。 最大128Kトークンのコンテキストを扱えます。その長さではKVキャッシュだけで1リクエス トあたり約4.3 GBになるため、長いプロンプトでは必要なGPUが変わることがあります。 ライセンス(llama3.2)には独自の条件があります。商用利用の前に確認してください。
- パラメータ数
- 12.4億
- 最小メモリ(INT4)
- 約2 GB
- 最安GPUの1時間料金(FP16)
- $0.16
- 種類
- テキスト
meta-llama/Llama-3.2-1B-Instruct
- パラメータ数 12.4億
- 種類 テキスト
- タスク text-generation
- 最大コンテキスト 128K
- ライセンス llama3.2
- ダウンロード数 131.3万
- いいね 2008
Llama 3.2 1B Instructの計算結果
詳細設定
Llama 3.2 1B Instructに必要なGPUメモリは約4 GB
推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。
メモリの内訳
- 重み 2.5 GB
- KVキャッシュ 0.27 GB
- ランタイムのオーバーヘッド 1.3 GB
- 合計 4 GB
GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。
| 順位 | 構成 | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) | プロバイダー |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX 3090 24GB最安Ampere · GDDR6X | $0.16 | 1 | $0.16 | $117 | Lium (新しいタブで開きます)1x RTX 3090 Ti |
| 2 | 1 × RTX 4090 24GBAda Lovelace · GDDR6X | $0.30 | 1 | $0.30 | $219 | Lium (新しいタブで開きます)1x RTX 4090 |
| 3 | 1 × RTX 5090 32GBBlackwell · GDDR7 | $0.40 | 1 | $0.40 | $292 | Lium (新しいタブで開きます)1x RTX 5090 |
| 4 | 1 × RTX A6000 48GBAmpere · GDDR6 | $0.42 | 1 | $0.42 | $307 | Lium (新しいタブで開きます)1x RTX A6000 |
| 5 | 1 × L4 24GBAda Lovelace · GDDR6 | $0.45 | 1 | $0.45 | $326 | Vast.ai (新しいタブで開きます)1x L4 (median of 3 offers) |
| 6 | 1 × RTX PRO 6000 96GBBlackwell · GDDR7 | $0.50 | 1 | $0.50 | $365 | RunPod (新しいタブで開きます)1x RTX PRO 6000 MaxQ |
| 7 | 1 × A40 48GBAmpere · GDDR6 | $0.52 | 1 | $0.52 | $381 | Vast.ai (新しいタブで開きます)1x A40 (median of 5 offers) |
| 8 | 1 × T4 16GBTuring · GDDR6 | $0.53 | 1 | $0.53 | $384 | AWS (新しいタブで開きます)g4dn.xlarge |
| 9 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | $0.75 | 1 | $0.75 | $548 | Lium (新しいタブで開きます)1x RTX 6000 Ada Generation |
| 10 | 1 × L40S 48GBAda Lovelace · GDDR6 | $0.80 | 1 | $0.80 | $585 | Vast.ai (新しいタブで開きます)1x L40S (median of 7 offers) |
| 11 | 1 × A100 40GBAmpere · HBM2 | $0.80 | 1 | $0.80 | $586 | Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 15 offers) |
| 12 | 1 × A10 24GBAmpere · GDDR6 | $1.01 | 1 | $1.01 | $734 | AWS (新しいタブで開きます)g5.xlarge |
| 13 | 1 × A100 80GBAmpere · HBM2e | $1.12 | 1 | $1.12 | $820 | Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 16 offers) |
| 14 | 1 × H100 80GBHopper · HBM3 | $1.39 | 1 | $1.39 | $1,015 | Lium (新しいタブで開きます)1x H100 80GB HBM3 |
| 15 | 1 × GH200 96GBHopper · HBM3 | $1.99 | 1 | $1.99 | $1,453 | Vultr (新しいタブで開きます)vbm-72c-480gb-gh200-gpu (bare metal) |
| 16 | 1 × MI300X 192GBCDNA 3 · HBM3 | $2.39 | 1 | $2.39 | $1,745 | RunPod (新しいタブで開きます)1x MI300X |
| 17 | 1 × H200 141GBHopper · HBM3e | $2.90 | 1 | $2.90 | $2,117 | Lium (新しいタブで開きます)1x H200 NVL |
| 18 | 1 × V100 16GBVolta · HBM2 | $3.06 | 1 | $3.06 | $2,234 | AWS |