Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

Baseten

オープンモデルや独自モデルを本番で動かすための推論基盤です。共有のModel APIか、同社のクラウドまたは自社のクラウドにある専用GPUで使えます。

レビュー: Andrew Miller · 更新

Basetenを見る 従量課金

当サイトの評価

4.2/5

Basetenはコンプライアンスの書類がそろった状態でモデルを本番運用してくれます。ただし専用GPUは、ほかで借りられる価格よりはっきり高くつきます。

Basetenとは?

Basetenは、AIモデルを本番で確実に動かす必要がある企業のためにモデルをホストします。GPT OSS 120B、DeepSeek V4.1、GLM-5.3、Kimi K3などのオープンモデル向けの、トークン単位課金の共有APIであるModel APIと、自社のモデルやファインチューニングしたモデルを専用に確保したGPUで動かす専用デプロイを提供しています。同じハードウェアで学習ジョブも実行できます。

Basicプランには月額料金がなく、利用分だけを支払います。新規アカウントには金額非公表のクレジットが付きます。Model APIでは、GPT OSS 120Bが100万トークンあたり入力$0.10・出力$0.50です。専用GPUは分単位で課金され、T4の1時間約$0.63から、H100の約$6.50、B200の約$9.98まであります。Enterpriseの顧客は自社のクラウドアカウントでBasetenを動かせます。

Basetenの料金は?

プラン価格内容
Basic$0/month従量課金
ProBy quote
EnterpriseBy quote

Basicは月$0の従量課金。ProとEnterpriseは見積もり。Model APIは100万トークンあたりの料金で、例えばGPT OSS 120Bは入力$0.10・出力$0.50、Kimi K3は$3・$15。専用GPUは分単位課金で、T4は1時間約$0.63、A100は約$4.00、H100は約$6.50、B200は約$9.98です。

Basetenは使う価値があるか?

自分で作ったモデルが実際の顧客に答えるようになると、難しいのはもはやモデルではありません。動かし続けること、データを安全に保つこと、セキュリティの承認者を通すことが課題になります。

Basetenはモデルを代わりに動かします。共有のModel APIで人気のオープンモデルを呼び出してトークン単位で払うことも、自社のモデルやファインチューニングしたモデルを専用に確保したGPUに置くこともできます。同社のセキュリティ方針は、どちらにもゼロデータリテンションを約束しています。同期リクエストの入力と出力は記録されず、永続ストレージにも書き込まれず、顧客のコンテンツは学習に使われません。例外は非同期リクエストで、入力は処理が終わるまでだけ保持されます。

SOC 2 Type IIとHIPAAは無料のBasicプランでも適用されます。これは珍しく、医療や金融の顧客に販売するなら重要です。

共有APIは、標準の選択肢にできるほど安価です。GPT OSS 120Bは100万トークンあたり入力$0.10・出力$0.50、DeepSeek V4.1 Flashは$0.30と$1.20で、ホスト型のオープンモデルの価格帯では安い部類です。ほとんどのモデルでキャッシュされた入力は通常の10分の1の料金です。2026年8月からはBasetenはHugging FaceのInference Providerにもなっています。

自社のモデルの出荷は、ほぼコマンド一つで済みます。Basetenのオープンソースの設定形式であるTrussでモデルを記述し、CLIでプッシュし、バージョン間で安定したエンドポイントURLに昇格させます。Enterpriseでは、これをすべて自社のVPCや両方のクラウドのハイブリッドで動かせ、既存のクラウドのコミットメントも消化できます。AWSやGoogleにすでに前払いしている企業にとっては、これが決め手になることがよくあります。

注意点:請求額が膨らむのは専用ハードウェアです。H100は分単位課金で1時間約$6.50になり、Modalの約$3.95を上回ります。A100は$4.00で、Modalは$2.50です。H100を1台24時間動かし続けると月約$4,680になります。不足しがちなGPUへの優先アクセスには見積もり制のProプランが必要で、Model APIのデフォルトの上限は控えめです。認証済みのBasicアカウントは毎分120リクエスト・500,000トークンで、Proではトークンの上限が2倍の100万になります。

結論:共有APIは汎用品のような価格で、専用GPUはコンプライアンスのための買い物です。セキュリティ審査にふつうなら何か月もかかるなら、その割増は安いものです。そうでないなら、必要のない書類のためにModalより1時間あたり約65%多く払うことになります。

真価を発揮する場面

  • 従業員40人のヘルステック企業のMLエンジニア

    ファインチューニングした診療記録モデルをHIPAAのもとで提供する

    Trussでモデルをパッケージ化し、専用のH100にプッシュして、安定したエンドポイントに昇格させます。HIPAAとSOC 2 Type IIはBasicでも適用されます。H100を1台動かし続けると月約$4,680で、トラフィックに応じてレプリカを縮小できればそれより安くなります。

  • B2BアプリにLLM機能を追加するバックエンドチーム

    GPUを運用せずに高性能なオープンモデルを呼び出す

    GPT OSS 120BのModel APIを使います。月20億の入力トークンと5億の出力トークンで約$450で、同期呼び出しはゼロデータリテンションです。

  • AWSのコミットメントを持つ銀行のインフラ責任者

    データを銀行のクラウドアカウントの外に出さずにオープンモデルをホストする

    EnterpriseはBasetenを銀行自身のVPCにデプロイし、既存のクラウドのコミットメントを消化します。価格は見積もりで、公開されていません。

導入前に確認すること

導入
Truss CLIをインストールし、config.yamlにモデルを記述して、baseten model pushを実行します。まずライブリロード付きの開発用デプロイが立ち上がり、その後に昇格させる本番用デプロイが続きます。
連携
Trussは既存のvLLM、SGLang、Tritonのコンテナもラップできます。Model APIはHugging Face Inference Providers経由でも使えます。
データとプライバシー
同期のModel APIと専用推論の呼び出しはゼロデータリテンションで、顧客のコンテンツでの学習はありません。すべてのプランでSOC 2 Type IIとHIPAA。データ所在地の管理とセルフホストはEnterpriseで提供されます。
大規模利用時のコスト
1分$0.10833のH100は、一度もアイドルにならなければ月約$4,680で、Modalなら約$2,844です。分単位課金でアイドル時間は無料なので、トラフィックの波が大きい場合は差が縮まります。
制限
BasicはBaseten Cloudでのみ動き、GPUへの優先アクセスはありません。Model APIのデフォルト上限は、未認証のBasicアカウントで毎分15リクエスト・100,000トークン、認証後は120と500,000、Proでは120と100万です。

良い点

  • Model APIと専用推論でゼロデータリテンション
  • 無料のBasicを含むすべてのプランでSOC 2 Type IIとHIPAA
  • GPT OSS 120Bは100万トークンあたり$0.10・$0.50
  • Enterpriseは自社のVPCで動き、既存のクラウドのコミットメントを使えます

気になる点

  • 専用H100は1時間あたりModalより約65%高いです
  • 無料クレジットの金額は非公表で、BasicのModel API上限は低めです
  • GPUへの優先アクセスには見積もり制のProプランが必要です
  • 非同期リクエストは入力を一時的に保存します

おすすめの人

ゼロデータリテンション、HIPAA、自社クラウドで動かす選択肢を必要とし、独自モデルやファインチューニングしたモデルを本番で提供する企業。

Basetenの代替

Baseten:よくある質問

Basetenは使う価値があるか?
Basetenはコンプライアンスの書類がそろった状態でモデルを本番運用してくれます。ただし専用GPUは、ほかで借りられる価格よりはっきり高くつきます。 評価は5点満点中4.2点です。
Basetenの料金は?
Basicは月$0の従量課金。ProとEnterpriseは見積もり。Model APIは100万トークンあたりの料金で、例えばGPT OSS 120Bは入力$0.10・出力$0.50、Kimi K3は$3・$15。専用GPUは分単位課金で、T4は1時間約$0.63、A100は約$4.00、H100は約$6.50、B200は約$9.98です。
Basetenの欠点は?
専用H100は1時間あたりModalより約65%高いです; 無料クレジットの金額は非公表で、BasicのModel API上限は低めです; GPUへの優先アクセスには見積もり制のProプランが必要です; 非同期リクエストは入力を一時的に保存します.
Basetenは誰に向いているか?
ゼロデータリテンション、HIPAA、自社クラウドで動かす選択肢を必要とし、独自モデルやファインチューニングしたモデルを本番で提供する企業。
チームや本番環境でBasetenを使うと費用はいくらか?
1分$0.10833のH100は、一度もアイドルにならなければ月約$4,680で、Modalなら約$2,844です。分単位課金でアイドル時間は無料なので、トラフィックの波が大きい場合は差が縮まります。
Basetenは企業データを扱っても安全か?
同期のModel APIと専用推論の呼び出しはゼロデータリテンションで、顧客のコンテンツでの学習はありません。すべてのプランでSOC 2 Type IIとHIPAA。データ所在地の管理とセルフホストはEnterpriseで提供されます。
Basetenの代わりになるものは?
当サイトでレビューした中で最も近い代替はModal, Together AI, Fireworks AI 、 Replicateです。

回答確認日:2026年10月26日