Foundry Localとは?
Foundry Localは、言語モデルと音声モデルを利用者自身のデバイス上で動かすためのMicrosoftの実行環境です。約20 MBのパッケージで、C、C++、C#、JavaScript、Python、Rust向けのネイティブSDKを備え、ONNX Runtimeの上に構築されています。初回利用時に厳選されたカタログからモデルをダウンロードしてキャッシュし、ハードウェアに最適な実行プロバイダとしてNPU、GPU、CPUのいずれかを選びます。
カタログにはGPT OSS、Qwen、DeepSeek、Mistral、Phiなどのチャットモデルと文字起こし用のWhisperが含まれ、それぞれ一般向けハードウェア用に量子化され、アプリが特定の版を固定できるようバージョン管理されています。Responses APIを含むOpenAIのリクエスト形式に対応し、OpenAI互換のローカルWebサーバー(任意)とプレビュー版のCLIも備えます。Windows、Apple silicon搭載のmacOS、Linuxで動作し、Azureの契約もAPIキーも不要です。
リポジトリは活発で、2026年11月2日のv2.3.0とCLIプレビュー0.13.0に続き、11月3日にv2.3.1が出ました。SDKはMITライセンスで、CLIは別のMicrosoftライセンス条項に従います。
Foundry Localは使う 価値があるか?
Foundry LocalはOllamaやllama.cppとは別の問題を解きます。後者はキーボードの前にいる人のためにモデルを動かしますが、Foundry Localは配布するアプリに組み込むことを前提にしており、SDKを通じて自分のプロセス内で動き、パッケージに約20 MBを加えるだけです。モデルは初回利用時にダウンロードされ、実行環境がNPU、GPU、CPUを選び、アプリはオフラインでもトークン課金なしで動きます。
この方針がトレードオフを決めています。カタログは意図的に絞られています。Microsoftが各モデルを量子化し一般向けハードウェアで検証しているので、選択肢はOllamaのライブラリより少ないものの、未知のマシンでも挙動が予測しやすくなります。9月のv2.1.0からは、独自のONNX Runtime GenAIモデルも登録できます。6言語のSDKとOpenAI互換のリクエスト形式により、移植の手間は小さく済みます。
開発は速いペースで進んでいます。10月23日のバージョン2.2.1でコーディング向けのツール呼び出しが加わり、11月2日の2.3.0でコーディングモデルへの対応が改善され、ParakeetとWhisperによる文字起こしが修正されました。リポジトリのスター数は約2,600で、Ollamaの184,000に比べると小さく、問題が起きたときにコミュニティから得られる回答も少なくなります。
出荷前に確認すべき初期設定が三つあります。テレメトリは初期状態で有効です。Microsoftはプロンプト、出力、音声、生のデバイス識別子は収集しないとしており、必須でないテレメトリは設定またはORT_DISABLE_TELEMETRY=1で無効にできます。CUDAとcuDNNのランタイムは同梱されなくなり、別途インストールが必要です。任意のローカルWebサーバーは同じマ シン上の他のプロセスから呼び出せるOpenAI形式のエンドポイントを公開するので、必要でなければ本番ビルドでは無効にしておきます。
サーバー向けの基盤ではありません。READMEによれば一度に1人のユーザーを扱い、リクエストのキューも連続バッチ処理もなく、複数ユーザーの負荷にはvLLMやTritonを勧めています。データをデバイス内に留める必要があるデスクトップアプリやエッジアプリには、Microsoftが提供する中で最もすっきりした選択肢です。
真価を発揮する場面
Windows向けデスクトップアプリを提供する医療ソフトウェア企業
テキストをクラウドに送らずに診療記録を要約する
C#のSDKとカタログのPhiまたはQwenモデルを組み込みます。テキストは医療従事者のPCに留まり、トークン課金はなく、アプリはモデルの版を固定するので更新で出力が変わりません。
技術者がオフラインで作業するフィールドサービス企業
電波のないノートPCで音声メモを文字起こしする
SDKのネイティブなWhisper文字起こしをPythonまたはJavaScriptから使います。モデルは初回ダウンロード後にキャッシュされるので、接続がなくても文字起こしできます。
OpenAIのSDKですでにアプリを書いている開発者
クライアントを書き直さずにローカルモードを提供する
既存のOpenAIクライアントを、OpenAIのリクエスト形式を受け付けるFoundry Localの任意のローカルサーバーに向けます。配布時は、サーバーを動かさずに済むようプロセス内SDKに切り替えます。
導入前に確認すること
- 導入
- SDKをインストールし(例:pip install foundry-local-sdk、npm install foundry-local-sdk)、カタログのモデルを指定すれば、数行のコードでダウンロード、キャッシュ、読み込みが行われます。WindowsではwingetでCLIを入れられます。
- 連携
- C、C++、C#、JavaScript、Python、Rust向けSDK。Responses APIを含むOpenAI互換の形式。LangChainなどのツール向けの任意のローカルWebサーバー。
- データとプライバシー
- 推論はデバイス上で行われます。テレメトリは初期設定で有効ですが、プライバシーに関する注記によればプロンプト、出力、音声、生のデバイス識別子は除外され、必須でないテレメトリは無効にできます。
- 大規模利用時のコスト
- ライセンス料もトークン料金もありません。費用は利用者のハードウェアと各モデルのダウンロード容量です。
- 制限
- 一度に1人のユーザー向けで、リクエストのキューも連続バッチ処理もありません。使えるのはカタログのモデルか登録したONNXモデルのみ。CUDAとcuDNNは別途インストールが必要です。
良い点
- アプリに組み込める約20 MBの実行環境と、6言語のSDK
- ONNX Runtimeを通じてNPU、GPU、CPUを自動選択
- 一般向けハー ドウェアで検証された、厳選済みでバージョン管理されたモデルカタログ
- Responses APIの形式を含むOpenAI互換のリクエスト
- 頻繁なリリース。2026年11月3日にv2.3.1
気になる点
- テレメトリが初期設定で有効
- カタログがOllamaやllama.cppより小さい
- 単一ユーザー向けの設計でバッチ処理がない
- CUDAとcuDNNは別途インストールが必要
- CLIはまだプレビューで、MIT以外の条項
おすすめの人
APIキーやクラウド料金なしで、利用者のマシン上でローカルモデルを動かす必要があるデスクトップアプリやエッジアプリを出荷する開発者。
Foundry Localの代替
Foundry Local:よくある質問
- Foundry Localは使う価値があるか?
- Foundry Localはデスクトップアプリに小型モデルを組み込むすっきりした方法ですが、厳選されたカタログ、初期設定で有効なテレメトリ、単一ユーザー向けの設計のため、ワークステーションでOllamaの代わりにするには力不足です。 評価は5点満点中3.9点です。
- Foundry Localの料金は?
- 無料。SDKはMIT、CLIはMicrosoft独自のライセンス条項、各モデルはそれぞれのライセンスに従います。Azureの契約やトークン単位の料金は不要です。
- Foundry Localの欠点は?
- テレメトリが初期設定で有効; カタログがOllamaやllama.cppより小さい; 単一ユーザー向けの設計でバッチ処理がない; CUDAとcuDNNは別途インストールが必要; CLIはまだプレビューで、MIT以外の条項.
- Foundry Localは誰に向いているか?
- APIキーやクラウド料金なしで、利用者のマシン上でローカルモデルを動かす必要があるデスクトップアプリやエッジアプリを出荷する開発者。
- チームや本番環境でFoundry Localを使うと費用はいくらか?
- ライセンス料もトークン料金もありません。費用は利用者のハードウェアと各モデルのダウンロード容量です。
- Foundry Localは企業データを扱っても安全か?
- 推論はデバイス上で行われます。テレメトリは初期設定で有効ですが、プライバシーに関する注記によればプロンプト、出力、音声、生のデバイス識別子は除外され、必須でないテレメトリは無効にできます。
- Foundry Localの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はOllama, llama.cpp, llamafile 、 MLXです。
回答確認日:2026年11月6日