選び方
- Kubernetesを運用せずにカスタムモデルやパイプライン：サーバーレスGPUプラットフォーム。
- 人気のオープンモデルをAPI経由で：ホスト型モデルマーケットプレイス。
- 既存のクラウド上のアプリやエージェント：クラウドプロバイダー自身のツールを、MCP経由でエージェントに操作させます。
確認すべきポイント
選択肢を分けるポイントを、重要な順に並べています。
01
自分のモデルを持ち込むか、カタログから選ぶか
まず、自分の重みとコードをデプロイするのか、他社のホスト型モデルを呼び出すのかを決めましょう。GPUプラットフォーム（Modal、Runpod、Baseten）は、渡したコンテナやPythonコードを何でも動かします。マーケットプレイス（Replicate、fal）は、使いたいモデルがすでにカタログにある場合に最も力を発揮します。クラウドのモデルサービス（Amazon Bedrock、GoogleのAgent Platform）はカタログが中心で、たとえばBedrockのCustom Model Importが受け付けるのはごく一部のアーキテクチャだけです。ファインチューニングしたモデルや珍しいモデルだと、選択肢はすぐに狭まります。
02
サーバーレスか専用GPUか
サーバーレスのワーカーはリクエストが来ると起動し、トラフィックが終わると停止するので、待機中は費用がかかりませんが、コールドスタートが発生します。専用GPUは常に起動しており、毎時間費用がかかり、すぐに応答します。急増するトラフィックや少ないトラフィックにはサーバーレスが、安定したトラフィックには専用または予約の容量のほうが安くなります。ほとんどのプラットフォームは両方を提供しています。Runpodにはflexと常時稼働のactiveワーカーがあり、Basetenは専用GPUを待機料金なしで分単位で課金し、クラウドのサービスはプロビジョニング済みのスループットを販売しています。
03
コールドスタートは自分のモデルで測る
コールドスタートとは、最初の応答の前にコンテナを起動し、重みをGPUメモリに読み込むまでの時間です。ベンダーはRunpodのFlashBootの200 ms未満という主張のように最良のケースを示しますが、読み込み時間はモデルのサイズとイメージのサイズとともに増えます。コールドスタートの時間が課金されるか（Runpodでは課金されます）、待機中のワーカーが停止するまでどれだけ待つか、最低限の数のウォームなワーカーを維持できるかを確認してください。
04
価格モデルと倍率
同じ条件で 比べましょう。GPUプラットフォームはハードウェアの秒または分単位で、マーケットプレイスは多くの場合出力画像1枚や動画1秒単位で、モデルサービスは100万トークン単位で課金し、バッチの区分は約半額、優先の区分は定価より高くなります。次に細かい条件を読んでください。Modalはリージョンの固定に1.15〜1.75倍、プリエンプトされない容量に3倍を課し、Googleのリージョンエンドポイントはグローバルより約10%高くなります。継続的なワークロードなら、選ぶ前にそれぞれの価格モデルで月々の請求額を計算しましょう。
05
GPUの在庫と種類
必要なGPUが掲載されていて、必要な数が実際に確保できるかを確認してください。H100はRunpodのCommunity Cloudの1時間約$2.69から、Basetenの専用の$6.50まで幅があり、最上位では今やB200が一般的です。安いコミュニティやスポットの容量は中断されることがあります。学習や非常に大きなモデルには、InfiniBandのような高速なインターコネクトを備えたマルチGPUノードがあるかを確認しましょう。
06
データの所在とコンプライアンス
リクエストがどこで処理されるか、データが誰かのモデルの学習に使われるか、実際に使う製品の区分にどの認証が適用されるかを尋ねましょう。Amazon Bedrockは、プロンプトが基盤モデルの改善に使われないと明言しており、HIPAAの対象です。RunpodはSOC 2 Type IIとISO 27001を取得していますが、コンプライアンスのページではCommunity Cloudのホストが対象範囲かどうかが示されておらず、自社のガイダンスでは規制対象のデータをシングルテナントのSecure Cloudに送るよう勧めています。Baseten Enterpriseは自分のクラウドアカウント内で動かせます。データを特定のリージョンにとどめる必要があるなら、リージョンの固定が可能か、その費用はいくらかを確認してください。
07
オートスケーリングの制御
優れたオートスケーリングでは、レプリカの最小数と最大数、レプリカごとの同時実行数の目標、スケールダウンまでの遅延を設定できます。それがなければ、待機中のGPUに払いすぎるか、急増時にリクエストを取りこぼすことになります。無料プランや入門プランの既定の同時実行数の上限を確認してください。低いことがよくあります。
08
ロックイン
移植しやすいデプロイとは、普通のコンテナとOpenAI互換のエンドポイントです。ロックインは、プラットフォーム固有のSDK、ReplicateのCogのようなパッケージ形式、そしてBedrock AgentsやKnowledge Bases、GoogleのAgent RuntimeやMemory Bankのような上位のサービスとともに強まります。それが妥当な取引であることもありますが、採用する前に、離れるときの費用を見込んでおきましょう。
選択肢の違い
サーバーレスGPUプラットフォーム（Modal、Runpod、Baseten）は、トラフィックに応じてスケールするGPU上で、自分のコードやコンテナを動かします。Modalはコード優先のPython、Runpodは最も安く素のGPUに最も近く、Basetenは信頼性の高い本番エンドポイントを中心に作られ、トークン単位のModel APIsも備えています。モデルのマーケットプレイス（Replicate、fal、Hugging Face）は、既製のモデルのカタログを1つのAPIの背後にまとめ、自分のモデルもデプロイできます。Replicateとfalは画像、動画、音声に寄っており、Hugging FaceはHubに専用のInference Endpointsと、パートナーのプロバイダーへのルーターを組み合わせています。
ハイパースケーラーのモデルサービス（Amazon Bedrock、旧Vertex AIのGoogle Agent Platform）は、既存のクラウドアカウントの中で、その認証、ネットワーク、コンプライアンス、請求とともに、フロンティアモデルやオープンモデルをトークン単位で販売しています。企業の調達を通すには最も簡単な道で、離れるのは最も難しい道です。このステージに挙げたクラウドプロバイダーのMCPサーバーは、これらのプラットフォームの代わりではなく、どのインフラを選んでもエージェントが操作できるようにするものです。
9 個のツールを比較
当サイトの評価順です。各レビューで出典、料金、評価の詳細を確認できます。
| ツール | 評価 | 当サイトの評価 | 向いている用途 | 料金 |
|---|---|---|---|---|
| Hugging Faceツール | 4.7/5 | モデルのハブとしては欠かせず、ホスティングとしては競争力はあっても平凡で、まもなく最大のAIチップの販売元の傘下に入ります。 | オープンなモデルを探し、共有し、試し、ファインチューニングするエンジニアと研究チーム、そして非公開のモデルの登録先が必要な組織。 | 無料のアカウント（100GBのプライベートストレージ、推論のクレジットなし）、PROは月$9（$2の計算クレジット）、Teamはユーザーあたり月$20、Enterpriseはユーザーあたり月$50です。SpacesのGPUは1時間あたり$0.40から、Inference Endpointsは1時間あたり$0.03（CPU）から、H100は1時間あたり$4.50です。 |
| Modalツール | 4.5/5 | Modalは、当サイトが調べたどのクラウドよりも少ない手間でPython関数をGPUサービスに変えてくれます。ただし、保証が必要になった途端に割増料金がかかります。 | サーバーを管理せずに独自モデルを提供したり、GPUジョブを実行したりしたいPython開発者やMLチームに向いています。 | Starterは$0+コンピュート料金(月$30のクレジット、3席、同時に10 GPU)、Teamは月$250+コンピュート料金($100のクレジット、席数無制限、50 GPU)、Enterpriseは個別見積もりです。秒単位の課金で、H100は1時間約$3.95、A100 80GBは1時間約$2.50、B200は1時間約$6.25です。 |
| falツール | 4.4/5 | 画像や動画の生成が製品の中心にあるなら、falは新しいモデルが最初に届く場所で、出力ごとの価格は最も予算を立てやすいものです。 | アプリに画像や動画の生成を加え、1つのAPIの背後で多くのモデルを使いたいプロダクトチーム。 | 出力ごとの課金です。例として、Nano Bananaは画像1枚約$0.04、Nano Banana Proは画像1枚$0.15、Kling v3 Proは動画1秒$0.14、FLUX.1 [schnell]は1メガピクセル$0.003です。GPUはH100が定価で1時間$4.50（$2.49から）、B200が1時間$7.99（$5.49から）です。購入したクレジットは365日有効です。Enterpriseは見積もりです。 |
| Runpodツール | 4.3/5 | Runpodには安いGPU時間があります。ただし自分でコンテナを用意すること、そしてコンプライアンスが実際にどちらのクラウドを対象にしているかを確認することをいとわない場合に限ります。 | 学習、ファインチューニング、自己管理の推論エンドポイントのために安いGPUを求め、Dockerを扱えるMLエンジニア。 | Podsは1時間あたり、H100 SXMがSecure $3.99 / Community $2.69、A100 SXMが$1.79 / $1.39、B200が$7.99 / $5.98です。Serverlessは秒単位で、H100が1時間約$4.79、A100 80GBが1時間$2.72、4090が1時間$1.10です。ストレージは月1 GBあたり$0.05からです。 |
| Amazon Bedrockツール | 4.3/5 | 会社がすでにAWSで動いているなら、BedrockはClaudeや主要なオープンモデルをAWSのサービスの一つにしてくれます。そうでないなら、長い料金ページとクォータの仕組みを学ぶことになります。 | すでにAWSを使っていて、エンタープライズ水準のデータ管理と一つの請求でClaudeやオープンモデルを使いたい企業。 | オンデマンドで100万トークンあたりの料金。例：DeepSeek V3.2は入力$0.62・出力$1.85（米国）、Qwen3 Next 80Bは$0.15・$1.20（米国）。BatchとFlexは50%引き、Priorityは+75%。プロビジョンドスループットはモデルユニット・時間単位。Custom Model Importはモデルユニット1分あたり$0.05718（US EastとWest）。Guardrailsは1,000テキストユニットあたり$0.10から。 |
| Basetenツール | 4.2/5 | Basetenはコンプライアンスの書類がそろった状態でモデルを本番運用してくれます。ただし専用GPUは、ほかで借りられる価格よりはっきり高くつきます。 | ゼロデータリテンション、HIPAA、自社クラウドで動かす選択肢を必要とし、独自モデルやファインチューニングしたモデルを本番で提供する企業。 | Basicは月$0の従量課金。ProとEnterpriseは見積もり。Model APIは100万トークンあたりの料金で、例えばGPT OSS 120Bは入力$0.10・出力$0.50、Kimi K3は$3・$15。専用GPUは分単位課金で、T4は1時間約$0.63、A100は約$4.00、H100は約$6.50、B200は約$9.98です。 |
| Replicateツール | 4.2/5 | Replicateは、開発者が新しい画像・動画モデルを今日の午後に試すために行く場所です。そして1つのモデルを一日中動かし始めると、請求額が痛くなる場所でもあります。 | 自前のGPUを運用せずに、アプリに画像、動画、音声の生成を加えたい開発者。 | 出力ごとの課金（例：FLUX 1.1 Proは画像1枚$0.04、FLUX Schnellは1,000枚$3）またはハードウェアの秒単位の課金です。T4は1時間$0.81、L40Sは$3.51、A100 80GBは$5.04、H100は$5.49、8x H100は$43.92です。無料プランの記載はなく、大口の利用には数量割引があります。 |
| Google Agent Platform (Vertex AI)ツール | 4.2/5 | Geminiはここに最初に登場し、Claudeも同じ請求書にまとまります。ただし2つのローンチ価格が10週間以内に2倍になり、Googleの名称変更でドキュメントは2つに分かれてしまいました。 | Google Cloudを使うチームや、Geminiに標準化する人で、企業向けの管理機能とClaudeを1つのアカウントで使いたい場合に向いています。 | 100万トークンあたり、たとえばGemini 3.8 Flashは入力$0.75／出力$3.75（2026年12月31日まで、その後$1.50／$7.50）、Gemini 4 Argonは$2／$10（2026年11月30日まで、その後$4／$20）、Gemini 3.1 Pro Previewは$2／$12、Claude Sonnet 5.5は$2／$10です。グローバル以外のエンドポイントは10%高く、バッチは半額です。プロビジョンドスループットは期間に応じてGSU時間あたり$2.74から$7.14です。 |
| InsForgeリポジトリ | 3.8/5 | agent自身がバックエンドを検査および変更できる環境を必要としているという妥当な賭けに基づいています。現時点では登場して日が浅い点や、一部の機能でVercelとOpenRouterに依存している点が制約となっています。 | coding agentにフルスタックのプロトタイプを構築させ、バックエンドの管理もagentに任せたい個人開発者や小規模チームに適しています。 | Apache 2.0でセルフホストは無料です。InsForge Cloudは、Free、Pro（月額25ドル、年払い時は月額20ドル、加えてプロジェクトあたり月額5ドルからのcomputeと月額10ドルのクレジット）、Enterprise（カスタム）が用意されています。 |
仕様の比較
このステップで重要な仕様です。2026年10月23日に確認しました。導入前に提供元のサイトで確認してください。
| ツール | 種類 | 課金の基準 | 自分のモデルの持ち込み | オンデマンドのH100 | データの所在・コンプライアンス |
|---|---|---|---|---|---|
| Hugging Face | HubとInference Endpoints | 時間単位（エンドポイント）、トークン単位（ルーター） | 可能、任意のHubのモデル | 1時間$4.50から | 非公開 |
| Modal | サーバーレスGPU（Python SDK） | コンピュートの秒単位 | 可能、任意のPythonコード | 1時間約$3.95 | リージョンの固定は1.15〜1.75倍 |
| fal | メディアモデルのAPIとGPU | 出力単位またはGPU時間単位 | 可能、レンタルGPU上で | 定価は1時間$4.50、$2.49から | 非公開 |
| Runpod | GPUクラウド：podとサーバーレス | 秒単位（サーバーレス）、時間単位（pod） | 可能、任意のコンテナ | 1時間$2.69〜$3.99（pod） | 31リージョン。SOC 2、HIPAA（Secure Cloud） |
| Amazon Bedrock | ハイパースケーラーのモデルサービス | トークン単位またはプロビジョニングの時間単位 | 限定的（Llama、Mistral、Flan） | 該当なし | AWSのリージョン。HIPAAの対象 |
| Baseten | 専用GPUとModel APIs | GPUの分単位またはトークン単位 | 可能 | 1時間約$6.50 | Enterpriseは自分のクラウドで動かせる |
| Replicate | モデルマーケットプレイスとCog | 出力単位または秒単位 | 可能、Cogでパッケージ化 | 1時間$5.49 | 非公開 |
| Google Agent Platform (Vertex AI) | ハイパースケーラーのモデルサービス | トークン単位またはプロビジョニングのGSU | チューニング。Model Gardenのオープンモデル | 該当なし | リージョンエンドポイントは約10%増 |
エージェントに接続する
Claude、ChatGPT、Cursor などのアシスタントがこれらのツールを直接使えるようにする MCP サーバーです。
このステージが使われる場面
- 文書とのチャット：まず Modal から始めます。
- カスタマーサポートエージェント：まず AWS MCP Server から始めます。
- 長期記憶を持つアシスタント：まず Cloudflare MCP Server から始めます。
- 画像生成パイプライン：まず fal, Replicate から始めます。
- 動画制作：まず fal から始めます。
- 音声エージェント：まず Modal から始めます。
- 文書処理：まず AWS MCP Server から始めます。
- 自社専用のファインチューニング済みモデル：まず Modal, Baseten から始めます。