セルフホスティング(AIモデル)
AIモデルのセルフホスティング(self-hosting)とは、プロバイダーのAPIを呼び出す代わりに、自社のサーバー、レンタルしたGPU、ノートPCなど、自分が管理するハードウェアでモデルを動かすことです。モデルを選び、データを手元に置けますが、インフラは自分で運用します。
別名: self-hosted, self-hosted LLM, on-premises AI
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
ホスト型APIでは、プロバイダーがモデルを動かし、あなたがデータを送ります。セルフホスティングはその逆で、モデルの重み、通常はオープンウェイトモデルをダウンロードし、自分で提供します。
チームが選ぶ理由
主な理由は管理とプライバシーです。プロンプトと出力が自分の環境から出ないため、データレジデンシーや、第三者に送ることが許されないデータの扱いに役立ちます。また、モデルのバージョンを正確に固定できるので勝手に変わることはなく、ファインチューニングもできます。利用量が多く安定している場合は、GPUを借りたり所有したりする方が、トークン単位で支払うより安くなることがあります。
実現方法
1台のマシンでは、Ollama、llama.cpp、LM StudioがローカルLLMを動かし、localhostでAPIを提供します。本番のトラフィックには、vLLMやSGLangなどのサーバーがcontinuous batchingとOpenAI互換APIを加えるため、既存のクライアントコードはそのまま動きます。ハードウェアは自前でも、GPUクラウドから借りても構いません。モデルに必要なものはGPU calculatorで見積もれます。
コスト
稼働率、スケーリング、セキュリティパッチ、監視、キャパシティ計画は自分の責任です。トラフィックが少ないときもGPUは遊んだまま費用がかかります。最良のオープンなモデルでも、一部のタスクでは先頭を行くクローズドなモデルに及ばないことがあり、セルフホストがまったくできないクローズドなモデルもあります。各モデルのライセンスも利用条件を定めています。
中間の選択肢
推論プロバイダーの専用デプロイや、Modalのようなマネージドプラットフォームでは、サーバーを自分で管理せずに、選んだモデルを確保済みのハードウェアで動かせます。運用コストを抑えつつある程度の管理が得られますが、データは依然として自分のネットワークの外に出ます。
関連用語
- モデルサービング
- モデルサービング(model serving)とは、学習済みのモデルを、アプリケーションがネットワーク経由で呼び出すサービスとして動かすことです。重みをGPUに読み込み、リクエストをキューに入れてバッチ処理し、メモリを管理して結果を返すソフトウェアを使います。
- データレジデンシー
- データレジデンシー(data residency)とは、顧客のデータを EU など選んだ地理的な地域で保存し、多くの場合は処理もするための管理の仕組みです。データの所在地に関する法律、契約、顧客のルールを満たすために使います。
- ローカルLLM
- ローカルLLMとは、プロバイダーのクラウドAPIではなく、自分のコンピューター、スマートフォン、サーバー上で動かす言語モデルのことです。プロンプトとデータが自分のハードウェアにとどまり、インターネット接続なしでも動作します。
- オープンウェイトモデル
- オープンウェイトモデル(open-weight model)とは、学習済みの重みが公開され、誰でもダウンロードして実行できるモデルです。学習コードや学習データ全体は含まれないことが多く、必ずしもオープンソースではありません。
- GPU クラウド
- GPU クラウド(GPU cloud)とは、AI の学習、ファインチューニング、推論のために GPU マシンを時間単位や秒単位で貸し出すサービスです。neocloud と呼ばれることもある専門の事業者は GPU に特化しており、大手の汎用クラウドより安いことがよくあります。