Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

llamafile

LLMとそのランタイムを単一の実行可能ファイルにまとめ、何もインストールすることなく多くのオペレーティングシステム上で動作させます。

レビュー: Sheela · 更新

GitHubで見る オープンソース

当サイトの評価

3.9/5

動作するローカルモデルを誰かに手渡す最も単純な方法ですが、内部でラップしているllama.cpp本体と比べると機能面で見劣りします。

llamafileとは?

llamafileは、オープンモデルをダウンロードして実行できる1つのファイルに変換します。llama.cppとCosmopolitan Libcを組み合わせているため、同じファイルがx86-64およびARM64のCPUを搭載したmacOS、Windows、Linux、FreeBSD、OpenBSD、NetBSDで動作します。

本プロジェクトはMozilla Buildersのプロジェクトとして開始され、Mozilla.aiによって保守されています。2025年5月の0.9.3から2026年3月の0.10.0までの期間を経て、0.10シリーズではアップストリームのllama.cppを忠実に追従する新しいビルドシステムに移行しました。ドキュメントによると、より新しいモデルのサポートが追加された一方で、0.9の一部の機能が欠落している可能性があり、すべてのGPUやプラットフォームでテストされているわけではありません。

また、whisper.cppをベースにした単一ファイルの音声文字起こしツールであるwhisperfileも含まれています。プロジェクトはApache 2.0ライセンスで、llama.cppおよびwhisper.cppに対する変更点はMITライセンスです。

llamafileは使う価値があるか?

llamafileは推論ではなく、配布の課題を解決します。1つの実行ファイルにエンジンと、必要に応じて重みが保持されます。macOSとLinuxでは実行権限を付与して実行し、Windowsでは拡張子を.exeに変更します。GitHubのスター数は約26,500件あり、2026年3月以降に0.10のリリースを7回行っており、最新版は9月15日にリリースされました。

このポータビリティには制約もあります。Windowsは4 GBを超える実行可能ファイルを実行できないため、小さな量子化モデルを超えるサイズの場合は、バイナリ単体と個別のGGUFファイルを用意するか、WSLを使用する必要があります。x86-64 CPUではAVXが必須です。GPUサポートはMetal、CUDA、ROCm、Vulkanをカバーしていますが、ドキュメントではAMDおよびWindows向けはベストエフォートと記載されており、バックエンドのロードに失敗した場合、--gpuで強制指定しない限り、llamafileは何の通知もなく静かにCPUへとフォールバックします。

セキュリティ設計は、一般的なローカル実行環境よりも慎重です。--serverモードでは、LinuxおよびOpenBSD上でアウトバウンド接続とファイル書き込みを遮断するpledgeサンドボックスを適用し、--confine-readsはモデルのディレクトリ外にあるすべてのファイルを隠蔽します。ドキュメントには不完全な点も率直に記載されています。GPUが有効な場合、macOSやWindows上、およびデフォルトの複合モードではサンドボックスは一切機能しません。サーバーはデフォルトで127.0.0.1:8080をリッスンし、--host 0.0.0.0を指定すると、--api-keyを設定しない限りAPIキーなしでネットワークに公開されます。

日常的な用途においては、llama.cpp本体のほうが新しいモデルやフラグがいち早く導入され、モデル管理の面ではOllamaのほうが優れています。llamafileの強みは引き渡しにあります。ワークショップ用のUSBメモリ、オフライン環境の現地ノートPC、Pythonを導入する予定のない同僚へのデモなどが該当します。そうした用途において、Windowsの4 GBの上限が最も重要な制約となります。

真価を発揮する場面

  • 40人規模のワークショップを運営する開発者リレーションエンジニア

    参加者が持ち込むノートPCの種類を問わず、5分以内にローカルモデルとチャットできるようにすること

    Windowsでも動作するように、4 GB未満のQwen3.5 0.8Bなどの構築済み小型llamafileを配布します。Pythonもパッケージマネージャも不要ですが、最も低性能なノートPCでも動く十分小さなモデルを選択する必要があります。

  • インターネットのない環境で活動する現地調査員

    オフラインのノートPC上でインタビューを文字起こしし、メモを要約すること

    ドライブにwhisperfileとllamafileを用意し、両方をCPUで実行します。端末外にデータが出ることはありません。旧式のCPUでは低速になることが見込まれ、x86-64ではAVXが必須です。

  • クラウド禁止方針のもとでローカルAIを試験導入している50人規模の企業のIT責任者

    外部ベンダーにデータを送信することなく、社内向けチャットエンドポイントを従業員に提供すること

    Linuxマシン上で--confine-readsを指定して--serverを実行し、重みは専用ディレクトリに保存し、ポート8080の前面にリバースプロキシを配置します。サンドボックスはCPUモードでのみ機能するため、GPUサーバーには独自の分離環境が必要です。

導入前に確認すること

導入
.llamafileをダウンロードし、chmod +xを実行して起動します(Windowsでは.exeに名前を変更します)。または単体バイナリをダウンロードし、-mで任意のGGUFを指定します。0.8Bのサンプルモデルであれば、ノートPCのCPUでも数分以内に応答します。
連携
ポート8080のOpenAI互換エンドポイントを備えたllama.cppサーバーおよびWeb UI、--cliおよび--chatターミナルモード、オプションの内蔵ツールおよびMCPプロキシ、文字起こし用のwhisperfileを提供します。
データとプライバシー
ローカルで動作します。ドキュメントにテレメトリに関する記載はなく、GitHubのコード検索でもテレメトリのコードは見当たりません。Linux上のサーバーモードはアウトバウンド接続と書き込みをブロックしますが、GPUモード、macOS、Windows、およびデフォルトの複合モードはサンドボックスなしで動作し、信頼できないソースからのllamafileはサンドボックスを解除する可能性があります。
大規模利用時のコスト
無料で利用でき、Mozilla.aiからの有料版はありません。ハードウェアは、重みを保持できる十分なRAMを備えたAVX x86-64またはARMv8 CPU、および必要に応じてMetal、CUDA、ROCm、Vulkan対応のGPUなど、モデルを動作させられる構成が必要です。
制限
オープンなIssueとプルリクエストが216件あります。Windows実行ファイルの4 GB上限、同梱CUDAにおけるIQ量子化カーネルの欠如、AMD環境でマルチGPUが正常に動作しない可能性、0.10でテストされていない0.9のサンプルコードの存在などが挙げられます。

良い点

  • インストール不要の単一ファイル
  • x86-64およびARM64の6つのOSで動作
  • Linux上でアウトバウンドネットワークを遮断するサーバーサンドボックス
  • whisperfileによる音声文字起こし機能を同梱

気になる点

  • Windowsにおける実行ファイルの4 GB制限
  • GPU有効時、またはmacOSおよびWindowsではサンドボックスが無効
  • GPUバックエンドが失敗した場合に通知なくCPUへフォールバック
  • 0.10の再構築により0.9の一部の機能が削除

おすすめの人

オフライン環境を含め、セットアップ不要でローカルモデルを共有または実行する必要がある方に最適です。

llamafileの代替

llamafile:よくある質問

llamafileは使う価値があるか?
動作するローカルモデルを誰かに手渡す最も単純な方法ですが、内部でラップしているllama.cpp本体と比べると機能面で見劣りします。 評価は5点満点中3.9点です。
llamafileの料金は?
Apache 2.0ライセンスに基づく無料でオープンソースのソフトウェアであり、llama.cppへの変更点はMITライセンスが適用されます。
llamafileの欠点は?
Windowsにおける実行ファイルの4 GB制限; GPU有効時、またはmacOSおよびWindowsではサンドボックスが無効; GPUバックエンドが失敗した場合に通知なくCPUへフォールバック; 0.10の再構築により0.9の一部の機能が削除.
llamafileは誰に向いているか?
オフライン環境を含め、セットアップ不要でローカルモデルを共有または実行する必要がある方に最適です。
チームや本番環境でllamafileを使うと費用はいくらか?
無料で利用でき、Mozilla.aiからの有料版はありません。ハードウェアは、重みを保持できる十分なRAMを備えたAVX x86-64またはARMv8 CPU、および必要に応じてMetal、CUDA、ROCm、Vulkan対応のGPUなど、モデルを動作させられる構成が必要です。
llamafileは企業データを扱っても安全か?
ローカルで動作します。ドキュメントにテレメトリに関する記載はなく、GitHubのコード検索でもテレメトリのコードは見当たりません。Linux上のサーバーモードはアウトバウンド接続と書き込みをブロックしますが、GPUモード、macOS、Windows、およびデフォルトの複合モードはサンドボックスなしで動作し、信頼できないソースからのllamafileはサンドボックスを解除する可能性があります。
llamafileの代わりになるものは?
当サイトでレビューした中で最も近い代替はllama.cpp 、 Ollamaです。

回答確認日:2026年10月26日