DwarfStar (ds4)とは?
DwarfStar(公開名 ds4)は、Salvatore Sanfilippo(antirez、Redis の作者)が C で書いた小さなネイティブ推論エンジンです。対応モデルは意図的に絞られています:DeepSeek V4 Flash と V4.1 Flash、DeepSeek V4 PRO、GLM 5.2、5.3、5.3 Flash、そして Qwen3.8 Flash Next です。汎用の GGUF ランナーではなく、プロジェクト自身が作成した GGUF ファイルしか読み込みません。
リポジトリには、マルチターン CLI(`ds4`)、ネイティブのコーディングエージェント(`ds4-agent`)、OpenAI 形式の chat と Responses、Anthropic 形式の messages のエンドポイントを持つ HTTP サーバー(`ds4-server`)、能力の回帰テスト用の `ds4-eval` が含まれます。主な対象は Apple silicon 上の Metal で、ほかに CUDA(DGX Spark や L40S などのマルチ GPU カード)と Strix Halo 上の ROCm に対応します。SSD ストリーミングにより RAM より大きなモデルをディスクから実行でき、2 台のマシンで RDMA やレイヤーパイプラインを使って 1 つのモデルを分担することもできます。
DwarfStar (ds4)は使う価値があるか?
ds4 は、個人が所有できるハードウェアで DeepSeek V4 Flash を動かす最も直接的な方法です。README は DeepSeek と GLM には 96 GB 以上、Qwen3.8 Flash Next には 64 GB の Mac を想定しており、最初にダウンロードする Flash Q2 は約 81 GiB です。コミュニティサイトは 128 GB の M5 Max で、32K コンテキスト時に生成 34.4 トークン/秒、prefill 557 トークン/秒を記録しており、README は L40S カード 8 枚で 16 セッション合計約 126 トークン/秒と報告しています。リポジトリは 2026 年 5 月の最初のコミット以来、GitHub スター約 24,400 を集めています。
範囲の狭さは偶然ではなく設計です。汎用ローダーの代わりに、モデルごとに専用のプロンプトテンプレート、ツール呼び出し形式、量子化レシピ、KV キャッシュ処理を持ち、読み込み、ツール呼び出し、サーバー、エージェントをまとめてテストしています。SSD ストリーミングで対応範囲はさらに広がります。Qwen3.8 の Q2 版は 95.37 GiB の n-gram テーブルをディスクに置き、メモリに載せる重みは 41.73 GiB だけなので、高速なローカル SSD もハードウェア要件の一部になります。
サーバーは既定で 127.0.0.1:8000 で待ち受けます。ドキュメントは、--host 0.0.0.0 で公開する前に認証と TLS を前段に置くよう求めており、組み込みの認証については記載がありません。保存されたエージェントのセッションは ~/.ds4/kvcache に置かれ、README が警告するとおり個人情報を含むことがあります。
注意点:README はこのソフトウェアをベータ品質としており、より良いモデルが出ればモデルが削除されることもあると明記しています。今日動く構成が来月も動く保証はありません。タグ付きリリースはなく、あるのは動き続ける main ブランチと、約 873 件の未解決の issue とプルリクエストです。コードは AI コーディングエージェントの大きな助けを借りて書かれており、プロジェクトはそれを公言しています。足りない機能については、自分のコーディングエージェン トに追加させるのが公式の答えです。
結論:128 GB の Mac を持ち、有料のコーディングアシスタントの一部を置き換えられるローカルモデルが欲しい開発者にとって、ds4 は現時点で汎用ランナーより良い選択です。チーム向けに安定したサポート付きのサーバーが必要なら、コミットを固定し、llama.cpp を予備として残しておくべきです。
真価を発揮する場面
128 GB の MacBook Pro を使うフリーランス開発者
API の請求額や顧客のデータ規則でクラウドが使えないときに、Claude Code をローカルモデルで使う
Flash Q2(約 81 GiB)をダウンロードして `ds4-server` を起動し、クライアント設定ガイドに従って Claude Code の Anthropic ベース URL をそこへ向けます。費用はノート PC と電気代だけで、コミュニティサイトは M5 Max で約 34 トークン/秒の生成を記録しています。
L40S カードのラックを持つ小規模な ML チーム
新しい GPU を買わずに、複数の社内ユーザーに DeepSeek V4 Flash を提供する
`make cuda-generic` でビルドし、複数セッションでサーバーを動かします。README は L40S カード 8 枚で 16 セッション合計約 126 トークン/秒と報告しています。ドキュメントにどちらの記載もないため、認証付きプロキシと TLS を前段に置きます。
量子化レシピを比較する研究者
エキスパートを 2 ビットまで強く量子化した後もモデルが正しく答えるか確認する
各 GGUF に対して core または hard スイートで `ds4-eval` を実行し、トレースを比較します。リポジトリには GGUF ファイルや imatrix データを作るツールも含まれます。
導入 前に確認すること
- 導入
- リポジトリをクローンして `make`(または `make cuda-spark`、`make strix-halo`、`make cuda-generic`)を実行し、続いて `./download_model.sh ds4f-q2` を実行します。時間がかかるのは約 81 GiB のモデルのダウンロードです。
- 連携
- OpenAI の chat と Responses、Anthropic の messages の各エンドポイント(ツールと SSE ストリーミング対応)。Pi、OpenCode、Codex CLI、Claude Code 向けの設定手順が文書化されています。
- データとプライバシー
- すべてローカルで動作し、--host を指定しない限りサーバーは 127.0.0.1:8000 にバインドされます。~/.ds4/kvcache に保存されたセッションには個人的な会話が含まれることがあります。README にテレメトリーの記載はありません。
- 大規模利用時のコスト
- ライセンス費用はかかりません。実際の費用はハードウェアで、DeepSeek や GLM には 96 GB 以上のユニファイドメモリか複数の CUDA カード、大きな GGUF ファイル用の高速 SSD が必要です。
- 制限
- 対応モデルは固定のリストで、変わることがあります。タグ付きリリースはあ りません。画像を含むセッションはまだ保存できません。認証と TLS は文書化されていません。
良い点
- プロジェクトの数値では、128 GB の Mac で DeepSeek V4 Flash を約 34 トークン/秒で実行
- OpenAI 互換・Anthropic 互換のサーバーで、Claude Code、Codex CLI、OpenCode と連携
- SSD ストリーミングと 2 台間の RDMA で、1 台の RAM を超えるモデルも動作
- 既定ではローカルのみ:サー バーは 127.0.0.1 にバインド
気になる点
- 読み込めるのはプロジェクト独自の GGUF ファイルだけで、モデルが外されることもある
- ベータ品質、タグ付きリリースなし、未解決の issue とプルリクエストが約 873 件
- 最低 64 GB が必要で、大きなモデルには高速 SSD も必要
- サーバーをネットワークに公開する場合の認証が文書化されていない
おすすめの人
96 GB 以上の Mac、DGX Spark、Strix Halo マシンを持ち、DeepSeek V4 Flash や GLM 5.3 Flash をコーディングエージェントの裏でローカルに動かしたい開発者。
DwarfStar (ds4)の代替
DwarfStar (ds4):よくある質問
- DwarfStar (ds4)は使う価値があるか?
- ds4 は汎用性を捨てることで、最先端級のオープンモデルを大型の Mac 1 台や DGX Spark で実用的な速度で動かします。それが速さの理由であり、次のコミットで使っているモデルが消えうる理由でもあります。 評価は5点満点中4.1点です。
- DwarfStar (ds4)の料金は?
- 無料のオープンソース(MIT)。ホスト型や有料のプランはありません。ハードウェアは自前で用意し、重みをダウンロードします。
- DwarfStar (ds4)の欠点は?
- 読み込めるのはプロジェクト独自の GGUF ファイルだけで、モデルが外されることもある; ベータ品質、タグ付きリリースなし、未解決の issue とプルリクエストが約 873 件; 最低 64 GB が必要で、大きなモデルには高速 SSD も必要; サーバーをネットワークに公開する場合の認証が文書化されていない.
- DwarfStar (ds4)は誰に向いているか?
- 96 GB 以上の Mac、DGX Spark、Strix Halo マシンを持ち、DeepSeek V4 Flash や GLM 5.3 Flash をコーディングエージェントの裏でローカルに動かしたい開発者。
- チームや本番環境でDwarfStar (ds4)を使うと費用はいくらか?
- ライセンス費用はかかりません。実際の費用はハードウェアで、DeepSeek や GLM には 96 GB 以上のユニファイドメモリか複数の CUDA カード、大きな GGUF ファイル用の高速 SSD が必要です。
- DwarfStar (ds4)は企業データを扱っても安全か?
- すべてローカルで動作し、--host を指定しない限りサーバーは 127.0.0.1:8000 にバインドされます。~/.ds4/kvcache に保存されたセッションには個人的な会話が含まれることがあります。README にテレメトリーの記載はありません。
- DwarfStar (ds4)の代わりになるものは?
- 当サイトでレビューした中で最も近い代替はllama.cpp, Ollama 、 MLXです。
回答確認日:2026年11月16日