edge0とは？
Edge0 という会社による edge0 は、mixture-of-experts の言語モデル向けの推論フレームワークで、エキスパートの重みを SSD に置いたまま、各トークンが必要とするたびに読み込 みます。これを実用的な速さにしているのは 2 つの追加要素です。1 つは prerouter で、層ごとの小さな学習済みネットワークが、次の層のエキスパートを 1 トークン先に予測し、読み込みを計算と重ねます。もう 1 つは Recover-LoRA で、フル精度のモデルから蒸留したアダプターが、4 ビット量子化で失われた品質の大半を取り戻します。
動かすのは自社の 2 つのチェックポイント、Edge0-35B-A3B-preview（Qwen3.6-35B-A3B がベース）と Edge0-8B-A1B-preview（inclusionAI の Ling 3.0 tiny がベース）で、重みの隣にアダプターを置いて Hugging Face と ModelScope で公開されています。Python パッケージと OpenAI 互換のサーバーは Apple Silicon の Mac 専用です。別のネイティブエンジンが macOS アプリ、iPhone アプリ、Android アプリ、Windows アプリを動かしており、最後の 2 つはパッチを当てた llama.cpp を使います。これらすべてにまたがる統一フレームワークは 2026 年第 4 四半期に約束されており、技術レポートは arXiv 2609.18063 です。
リポジトリは 2026 年 9 月 8 日に作成され、GitHub のスターは約 8,800、フォークは 1,370 で、ライセンスは Apache 2.0 です。リリース v0.1.0（10 月 21 日）には macOS アプリ、Android の APK、署名のない iPhone の IPA が含まれ、v0.1.1（10 月 29 日）は Android だけを更新しています。
edge0は使う価値があるか？
edge0 は、SSD からストリーミングするというアイデアを、技術レポート、ベンチマークごとの品質の数値、4 つのネイティブアプリで裏付けています。そしてスターの数から想像されるより範囲は狭く、動かせるのは 2 つのチェックポイントだけで、どちらもプレビュー版、どちらも同 じチームが学習したものです。リポジトリの 1 行の説明は、35B のモデルを約 2.5 GB の RAM で動かすと約束しています。実測値は 2.9 GiB で、これは MLX のアロケーターのピークであって、プロセスが保持している量ではありません。16 GB の MacBook M2 では、prerouter を有効にした場合のプロセスのメモリを 4.91 から 6.39 GiB と論文は報告しており、残りはオペレーティングシステムが回収できるエキスパートのページです。外部のコントリビューターがこの違いを指摘した後、README は列の名前を変更しました。
速度の数値はほぼすべてチーム自身のものです。24 GB のリファレンス機 Mac mini M4 Pro で、README は 35B で 14.9-17.7 tok/s、8B で 23.9-25.3 としています。論文はより速い構成で 20.4 tok/s と報告し、比較対象として、19.5 GB の重みをすべてメモリに保持する素の mlx-lm サーバーを 3.9 としています。このマシンではそれでは余裕がなさすぎてページングが起きるためです。prerouter が最も効くのは、重みが収まらないときです。16 GB の M2 では、論文の測定で 3.5 tok/s が公開版のルーティング幅で 6.4 に上がりますが、24 GB のマシンでは無効にしても 20.4 に対して 19.9 と、わずかしか下がりません。したがって README の「up to +59%」は、メモリの余裕のなさと遅いストレージに左右されます。各プラットフォームの README は、MacBook Air M3 で 10-12 tok/s、iPhone 16 Pro で 6.4 tok/s、16 GB の Snapdragon 8 Elite のタブレットで 6-9 tok/s を加えており、タブレットでは新しい話題の最初のターンで、エキスパートがフラッシュから読み込まれるまで 10-15 秒待たされます。外部の証拠は乏しいです。コミュニティの投稿の 1 つは M4 Pro で 8B が 14.55 と 27.17 tok/s としており、16 GB の M1 Pro で最初のトークンまで 10.8 秒待たされるという報告は修正につながりました。35B の独立した測定は見つかりませんでした。
品質は測定されています。これはローカル推論のプロジェクトでは珍しいことですが、測ったのはチーム自身で、独自の OpenCompass の実行によるものです。5 つのベンチマークで、int4 の 35B の平均は 79.2 で、fp16 の Qwen3.6 ベースは 83.2 です。8B は 69.9 に対して 72.7 です。失われているのは長い推論です。AIME 2026 は 35B で 6.1 ポイント、8B で 10.0 ポイント下がる一方、8B の MMLU-Pro はベースより 4.3 ポイント高くなっています。モデルカードは、このプレビュー版ではツールの使用と複数ステップのエージェント作業が「currently weak」だとしており、Papers with Code でスコアを検証するよう求める Hugging Face でのリクエストは今も未解決です。
SSD への負荷は読み込みで、帯域も控えめです。公開版の幅では、論文の 16 GB の M2 は decode の 1 ステップあたり 50.9 から 58.9 MiB を転送し、ディスクが稼働していたのは各ステップの最大 12% でした。つまりコストは摩耗ではなく待ち時間です。弱点はプロンプトの読み込みです。8B のデフォルト設定は、--prefill-ondemand のスイッチが追加されるまで、リクエストのたびに 4.06 GiB のエキスパートを読み直していました。エンジンは一度に 1 つのリクエストしか処理せず、Android で 35B を動かすには 12 GB 以上が必要で、8 GB のスマートフォンでは 8B が 1.14 tok/s に落ちました。配布は開発者向けの水準です。iPhone の IPA は署名がなく、自分の Apple ID で署名し直す必要があります（無料の ID では約 7 日）。APK は Google Play にありません。macOS アプリはアドホック署名で、検疫フラグを外すまで Gatekeeper にブロックされます。Windows にはバイナリのリリースがありません。Windows での 35B の 27.7 tok/s は、重みが RAM に載る 48 GB のマシンでの数値で、チーム自身の比較でも、そのパッチは素の llama.cpp と同等とされています。
最も近い競合の Janas とは、ほとんど重なりません。Janas は GGUF から変換した Qwen、Gemma、Llama の系統を x86-64 の Linux と Windows で動かし、作者は 1 人で、まだ外部のコードをマージできません。edge0 は 2 つのモデルを Apple Silicon とスマートフォンで動かし、コントリビューターは 14 人で、ツール呼び出しを含む外部のプルリクエストがマージされています。どちらも相手のハードウェアでは測定されておらず、どちらも公開しているのは主に自分たちの数値です。Edge0 の背後に誰がいるのかは、コードほどはっきりしていません。2026 年 7 月に作成された GitHub の組織は所在地を米国としており、論文の著者 5 人は名前が出ていて、ウェブサイトではイヤホン、メガネ、玩具、ロボット向けのオンデバイスのモデルを販売していますが、確認したときには About ページが 404 を返しました。約 8,800 のスターに対して 1,370 のフォークという比率は、Janas の 548 に対する 44 より高いものです。数だけでは理由は分かりません。
真価を発揮する場面
24 GB の Mac mini M4 Pro を持つ開発者
35B クラスのモデルをローカルで動かし、メモリの大半を他の作業のために空けておく
python パッケージをインストールし、23 GB の Edge0-35B-A3B-preview チェ ックポイントをダウンロードして、edge0 serve edge0-35b を実行すると、127.0.0.1:8000 に OpenAI 互換のエンドポイントができます。README は 2.9 GiB のアロケーターのピークで 14.9-17.7 tok/s と報告しています。エキスパートを SSD から読み込む間は最初の返答が遅く、リクエストは一度に 1 つずつ処理されます。
コンシューマー向けアプリのスタートアップのモバイルエンジニア
iPhone 16 Pro や 16 GB の Snapdragon 8 Elite の Android 端末で、オフラインのチャットを試作する
モデルを同梱して（35B で約 20 GB）、自分のバンドル ID で Xcode から iOS アプリをビルドするか、0.1.1 の APK をサイドロードして変換済みの GGUF を取り込みます。チームの報告では、35B は iPhone で 6.4 tok/s、Android のタブレットで 6-9 tok/s です。どちらのアプリもストアにはないので、これは製品ではなく実現可能性の確認です。
社員の Mac でプライベートなアシスタントを検討している 20 人規模の会社の CTO
edge0 のモデルを土台にして安全かどうか判断する
コードと重みは Apache 2.0 で、ベースは Apache 2.0（Qwen）と MIT（Ling）のライセンスなので、商用利用が可能です。リスクは成熟度です。モデルカードがツールの使用に弱いとするプレビュー版のチェックポイント、2026 年第 4 四半期に予定されたままの統一フレ ームワーク、1 リクエストずつのサーバーです。同時ユーザー 1 人につき Mac 1 台の予算を見込み、フレームワークが出たら再テストしてください。
導入前に確認すること
- 導入
- M1 以降の Mac で Python 3.10 以降（3.12 推奨）を使い、python フォルダを pip install し、チェックポイント（35B で約 23 GB、8B で 4.2 GB）を取得して、edge0 demo を実行します。macOS アプリには M3 以降と macOS 14 が必要です。Android には arm64 と Android 13 が必要です。Windows は Visual Studio 2022、Vulkan SDK、Rust、Node を使ったソースからのビルドで、エンジンのビルドに約 10-20 分かかります。
- 連携
- edge0 serve と macOS のデーモンは、ツール呼び出し付きの OpenAI 互換 /v1/chat/completions と、transformers 風の Python API（AutoEngine）を提供します。Android と Windows のエンジンは、b11100 に固定し edge0 のパッチを当てた llama.cpp です。Windows ではループバック上の llama-server で提供します。
- データとプライバシー
- Hugging Face か ModelScope からダウンロードした後はローカルで動きます。macOS アプリはモデル、チャット、ログを ~/.edge0 に保存し、サーバーは 127.0.0.1 にバインドします。macOS で LAN からアクセスするにはベアラートークンが必要です。テレメトリの 記載はありません。コードとモデルは Apache 2.0 で、ベースは Qwen3.6-35B-A3B（Apache 2.0）と Ling-3.0-tiny-base（MIT）です。
- 大規模利用時のコスト
- 有料版はないので、費用はハードウェアです。リファレンスは 24 GB の Mac mini M4 Pro で、論文の 16 GB の M2 では 35B が 6.4 tok/s で動きます。エンジンは一度に 1 つのリクエストしか処理しないため、同時ユーザーが増えればマシンも増えます。
- 制限
- 登録されているのは Edge0 の 2 つのチェックポイントだけです。別のモデル系統には、アダプターに加えて、そのモデル用に学習した prerouter のヘッドと LoRA が必要で、リポジトリに学習コードは見つかりませんでした。CUDA や Linux のビルドはまだなく、モデルカードによるとエージェントとツールの使用は弱く、2026 年第 4 四半期に予定されている統一フレームワークでインターフェースが変わる可能性があります。
良い点
- ベンチマークごとの品質低下を公開。35B は 83.2 に対して 79.2
- README によると、24 GB の Mac mini で 35B の MoE が 14.9-17.7 tok/s
- macOS、iPhone、Android、Windows のネイティブアプリと、OpenAI 互換のサーバー
- コードとモデルは Apache 2.0。外部のプルリクエストもマージされる
気になる点
- 動かせるのは自社の 2 つのプレビュー版チェックポイントだけで、他のモデルに適用するための学習コードがリポジトリにない
- Python のフレームワークは Apple Silicon 専用で、CUDA と Linux はまだ約束の段階
- 速度の数値はほぼすべて自己申告
- アプリはサイドロードのみ。署名のない IPA、Google Play 外の APK、アドホック署名の Mac アプリ
おすすめの人
35B クラスのモデルをローカルで使いたい 16 から 24 GB の Apple Silicon の所有者と、最近のスマートフォンでオンデバイスのチャットを試すモバイル開発者で、プレビュー版のモデルを受け入れられる人。
edge0の代替
edge0：よくある質問
- edge0は使う価値があるか？
- 35B のモデルを 24 GB の Mac やスマートフォンに収める、慎重でよく文書化された方法です。ただし動かせるのは開発元が選んだ 2 つのプレビュー版モデルだけで、速度の数値はほぼすべて開発元自身のものです。 評価は5点満点中3.6点です。
- edge0の料金は？
- モデルを含め、Apache 2.0 の無料オープンソースです。有料版はありません。
- edge0の欠点は？
- 動かせるのは自社の 2 つのプレビュー版チェックポイントだけで、他のモデルに適用するための学習コードがリポジトリにない; Python のフレームワークは Apple Silicon 専用で、CUDA と Linux はまだ約束の段階; 速度の数値はほぼすべて自己申告; アプリはサイドロードのみ。署名のない IPA、Google Play 外の APK、アドホック署名の Mac アプリ.
- edge0は誰に向いているか？
- 35B クラスのモデルをローカルで使いたい 16 から 24 GB の Apple Silicon の所有者と、最近のスマートフォンでオンデバイスのチャットを試すモバイル開発者で、プレビュー版のモデルを受け入れられる人。
- チームや本番環境でedge0を使うと費用はいくらか？
- 有料版はないので、費用はハードウェアです。リファレンスは 24 GB の Mac mini M4 Pro で、論文の 16 GB の M2 では 35B が 6.4 tok/s で動きます。エンジンは一度に 1 つのリクエストしか処理しないため、同時ユーザーが増えればマシンも増えます。
- edge0は企業データを扱っても安全か？
- Hugging Face か ModelScope からダウンロードした後はローカルで動きます。macOS アプリはモデル、チャット、ログを ~/.edge0 に保存し、サーバーは 127.0.0.1 にバインドします。macOS で LAN からアクセスするにはベアラー トークンが必要です。テレメトリの記載はありません。コードとモデルは Apache 2.0 で、ベースは Qwen3.6-35B-A3B（Apache 2.0）と Ling-3.0-tiny-base（MIT）です。
- edge0の代わりになるものは？
- 当サイトでレビューした中で最も近い代替はJanas, llama.cpp, MLX 、 Ollamaです。
回答確認日：2026年10月31日