Whisper large-v3-turboのGPU要件:VRAMと最安GPU
Whisper large-v3-turboのパラメータ数は8.1億で、FP16で公開されています。 mitで公開されており、商用利用が認められています。
- パラメータ数
- 8.1億
- 最小メモリ(INT4)
- 約1.5 GB
- 最安GPU の1時間料金(FP16)
- $0.25
- 種類
- 音声
openai/whisper-large-v3-turbo
- パラメータ数 8.1億
- 種類 音声
- タスク automatic-speech-recognition
- ライセンス mit
- ダウンロード数 488万
- いいね 3528
Whisper large-v3-turboの計算結果
詳細設定
Whisper large-v3-turboに必要なGPUメモリは約2.8 GB
推論(vLLM)、FP16 / BF16、コンテキスト8Kトークン、同時リクエスト1件。 モデル設定の一部が欠けていたため、KVキャッシュは推定値です。
メモリの内訳
- 重み 1.6 GB
- ランタイムのオーバーヘッド 1.2 GB
- 合計 2.8 GB
GPUの台数は、急な負荷に備えて各カードの10%を空けて計算しています。長いプロンプトや多数の同時利用が見込まれる場合は余裕を持たせてください。
| 順位 | 構成 | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) | プロバイダー |
|---|---|---|---|---|---|---|
| 1 | 1 × RTX 3090 24GB最安Ampere · GDDR6X | $0.25 | 1 | $0.25 | $183 | Vast.ai (新しいタブで開きます)1x RTX 3090 (median of 29 offers) |
| 2 | 1 × V100 16GBVolta · HBM2 | $0.15 | 12台単位での提供。必要なのは1台 | $0.30 | $220 | Vast.ai (新しいタブで開きます)2x Tesla V100 (median of 4 offers) |
| 3 | 1 × RTX 4090 24GBAda Lovelace · GDDR6X | $0.48 | 1 | $0.48 | $354 | Vast.ai (新しいタブで開きます)1x RTX 4090 (median of 34 offers) |
| 4 | 1 × RTX PRO 6000 96GBBlackwell · GDDR7 | $0.50 | 1 | $0.50 | $365 | RunPod (新しいタブで開きます)1x RTX PRO 6000 MaxQ |
| 5 | 1 × T4 16GBTuring · GDDR6 | $0.53 | 1 | $0.53 | $384 | AWS (新しいタブで開きます)g4dn.xlarge |
| 6 | 1 × A40 48GBAmpere · GDDR6 | $0.59 | 1 | $0.59 | $431 | RunPod (新しいタ ブで開きます)1x A40 |
| 7 | 1 × RTX 6000 Ada 48GBAda Lovelace · GDDR6 | $0.67 | 1 | $0.67 | $488 | Vast.ai (新しいタブで開きます)1x RTX 6000Ada (median of 8 offers) |
| 8 | 1 × A100 40GBAmpere · HBM2 | $0.68 | 1 | $0.68 | $497 | Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 8 offers) |
| 9 | 1 × RTX A6000 48GBAmpere · GDDR6 | $0.69 | 1 | $0.69 | $504 | RunPod (新しいタブで開きます)1x RTX A6000 |
| 10 | 1 × L4 24GBAda Lovelace · GDDR6 | $0.69 | 1 | $0.69 | $504 | RunPod (新しいタブで開きます)1x L4 |
| 11 | 1 × L40S 48GBAda Lovelace · GDDR6 | $0.78 | 1 | $0.78 | $571 | Vast.ai (新しいタブで開きます)1x L40S (median of 6 offers) |
| 12 | 1 × RTX 5090 32GBBlackwell · GDDR7 | $0.87 | 1 | $0.87 | $634 | Vast.ai (新しいタブで開きます)1x RTX 5090 (median of 55 offers) |
| 13 | 1 × A10 24GBAmpere · GDDR6 | $1.01 | 1 | $1.01 | $734 | AWS (新しいタブで開きます)g5.xlarge |
| 14 | 1 × A100 80GBAmpere · HBM2e | $1.21 | 1 | $1.21 | $884 | Vast.ai (新しいタブで開きます)1x A100 SXM4 (median of 8 offers) |
| 15 | 1 × GH200 96GBHopper · HBM3 | $1.99 | 1 | $1.99 | $1,453 | Vultr (新しいタブで開きます)vbm-72c-480gb-gh200-gpu (bare metal) |
| 16 | 1 × MI300X 192GBCDNA 3 · HBM3 | $2.39 | 1 | $2.39 | $1,745 | RunPod (新しいタブで開きます)1x MI300X |
| 17 | 1 × H100 80GBHopper · HBM3 | $2.89 | 1 | $2.89 | $2,110 | RunPod (新しいタブで開きます)1x H100 PCIe |
| 18 | 1 × H100 NVL 94GBHopper · HBM3 | $3.19 | 1 | $3.19 | $2,329 | RunPod (新しいタブで開きます)1x H100 NVL |
| 19 | 1 × H200 141GBHopper · HBM3e | $3.79 | 1 | $3.79 | $2,767 | RunPod (新しいタブで開きます)1x H200 NVL |
| 20 | 1 × B200 180GBBlackwell · HBM3e | $7.99 | 1 | $7.99 | $5,833 | RunPod (新しいタブで開きます)1x B200 |
| 21 | 1 × B300 288GBBlackwell Ultra · HBM3e | $8.99 | 1 | $8.99 | $6,563 | RunPod (新しいタブで開きます)1x B300 |
| 22 | 1 × GB200 186GBBlackwell · HBM3e | $10.50 | 14台単位での提供。必要なのは1台 | $42.00 | $30,660 | CoreWeave (新しいタブで開きます)GB200 NVL72 |
| プロバイダー | インスタンス | GPU 1台 / 時間 | 必要な台数 | 合計 / 時間 | 合計 / 月(24時間稼働) |
|---|---|---|---|---|---|
| Vast.ai (新しいタブで開きます)最安 | 1x RTX 3090 (median of 29 offers)世界中のマーケットプレイス | $0.25 | 1 × RTX 3090 24GB | 約$0.25 | 約$183 |
| RunPod (新しいタブで開きます) | 1x RTX 3090 Tius | $0.46 | 1 × RTX 3090 24GB | 約$0.46 | 約$336 |
| AWS (新しいタブで開きます) | g4dn.xlargeus-east-1 | $0.53 | 1 × T4 16GB | 約$0.53 | 約$384 |
| Azure (新しいタブで開きます) | NC4as_T4_v3eastus | $0.53 | 1 × T4 16GB | 約$0.53 | 約$384 |
| Google Cloud (新しいタブで開きます) | g2-standard-4us-central1 | $0.71 | 1 × L4 24GB | 約$0.71 | 約$516 |
| Lambda (新しいタブで開きます) | 1x A6000us | $1.09 | 1 × RTX A6000 48GB | 約$1.09 | 約$796 |
| Nebius (新しいタブで開きます) | 1x L40S 48GBeu/us | $1.55 | 1 × L40S 48GB | 約$1.55 | 約$1,132 |
| Vultr (新しいタブで開き ます) | vcg-l40s-16c-180g-48vramus | $1.67 | 1 × L40S 48GB | 約$1.67 | 約$1,220 |
| CoreWeave (新しいタブで開きます) | GH200us | $6.50 | 1 × GH200 96GB | 約$6.50 | 約$4,745 |
価格は2026年11月13日時点。費用はすべて概算です(オンデマンド、米ドル、主に米国リージョン。Vast.aiなどのマーケッ トプレイスは世界全体)。
精度と用途ごとのメモリ
| 精度 | 推論 | LoRAファインチューニング | QLoRAファインチューニング | フルファインチューニング |
|---|---|---|---|---|
| FP16 / BF16 | 2.8 GB | 4.2 GB | – | 16 GB |
| INT8 | 1.9 GB | – | – | – |
| INT4 | 1.5 GB | – | 2.9 GB | – |
精度別の最安GPU
8Kコンテキスト、同時リクエスト1件での推論。
FP16 / BF16
約2.8 GB · 8Kトークン
公開されたままの重み。劣化はありませんが、メモリは最も多く使います。
1 × RTX 3090 24GB
Vast.ai (新しいタブで開きます) · 1x RTX 3090 (median of 29 offers)
- GPU 1台 / 時間
- $0.25
- 必要な台数
- 1
- 合計 / 時間
- 約$0.25
- 月額(24時間稼働、概算)
- $183
INT8
約1.9 GB · 8Kトークン
重みは半分の大きさ。チャットやRAGではほとんど差が出ません。
1 × RTX 3090 24GB
Vast.ai (新しいタブで開きます) · 1x RTX 3090 (median of 29 offers)
- GPU 1台 / 時間
- $0.25
- 必要な台数
- 1