本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

セルフホスティング(AIモデル)

AIモデルのセルフホスティング(self-hosting)とは、プロバイダーのAPIを呼び出す代わりに、自社のサーバー、レンタルしたGPU、ノートPCなど、自分が管理するハードウェアでモデルを動かすことです。モデルを選び、データを手元に置けますが、インフラは自分で運用します。

別名: self-hosted, self-hosted LLM, on-premises AI

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

ホスト型APIでは、プロバイダーがモデルを動かし、あなたがデータを送ります。セルフホスティングはその逆で、モデルの重み、通常はオープンウェイトモデルをダウンロードし、自分で提供します。

チームが選ぶ理由

主な理由は管理とプライバシーです。プロンプトと出力が自分の環境から出ないため、データレジデンシーや、第三者に送ることが許されないデータの扱いに役立ちます。また、モデルのバージョンを正確に固定できるので勝手に変わることはなく、ファインチューニングもできます。利用量が多く安定している場合は、GPUを借りたり所有したりする方が、トークン単位で支払うより安くなることがあります。

実現方法

1台のマシンでは、Ollama、llama.cpp、LM StudioがローカルLLMを動かし、localhostでAPIを提供します。本番のトラフィックには、vLLMやSGLangなどのサーバーがcontinuous batchingとOpenAI互換APIを加えるため、既存のクライアントコードはそのまま動きます。ハードウェアは自前でも、GPUクラウドから借りても構いません。モデルに必要なものはGPU calculatorで見積もれます。

コスト

稼働率、スケーリング、セキュリティパッチ、監視、キャパシティ計画は自分の責任です。トラフィックが少ないときもGPUは遊んだまま費用がかかります。最良のオープンなモデルでも、一部のタスクでは先頭を行くクローズドなモデルに及ばないことがあり、セルフホストがまったくできないクローズドなモデルもあります。各モデルのライセンスも利用条件を定めています。

中間の選択肢

推論プロバイダーの専用デプロイや、Modalのようなマネージドプラットフォームでは、サーバーを自分で管理せずに、選んだモデルを確保済みのハードウェアで動かせます。運用コストを抑えつつある程度の管理が得られますが、データは依然として自分のネットワークの外に出ます。

関連用語

モデルサービング
モデルサービング(model serving)とは、学習済みのモデルを、アプリケーションがネットワーク経由で呼び出すサービスとして動かすことです。重みをGPUに読み込み、リクエストをキューに入れてバッチ処理し、メモリを管理して結果を返すソフトウェアを使います。
データレジデンシー
データレジデンシー(data residency)とは、顧客のデータを EU など選んだ地理的な地域で保存し、多くの場合は処理もするための管理の仕組みです。データの所在地に関する法律、契約、顧客のルールを満たすために使います。
ローカルLLM
ローカルLLMとは、プロバイダーのクラウドAPIではなく、自分のコンピューター、スマートフォン、サーバー上で動かす言語モデルのことです。プロンプトとデータが自分のハードウェアにとどまり、インターネット接続なしでも動作します。
オープンウェイトモデル
オープンウェイトモデル(open-weight model)とは、学習済みの重みが公開され、誰でもダウンロードして実行できるモデルです。学習コードや学習データ全体は含まれないことが多く、必ずしもオープンソースではありません。
GPU クラウド
GPU クラウド(GPU cloud)とは、AI の学習、ファインチューニング、推論のために GPU マシンを時間単位や秒単位で貸し出すサービスです。neocloud と呼ばれることもある専門の事業者は GPU に特化しており、大手の汎用クラウドより安いことがよくあります。

出典