Strataとは?
Strataは、いくつかの大規模なmixture-of-expertsモデル(6Bのアクティブパラメータと51Bのn-gram埋め込みを持つ125BパラメータのQwen3.8-Flash-Next、Qwen3.6-35B-A3B、DeepSeek V4.1-Flash)を中心に構築されたローカル推論エンジンです。モデル全体をグラフィックスメモリに保持する必要はなく、最も頻繁に使用されるエキスパートをGPU上に維持し、システムRAMにすべてのエキスパートを保持してGPUに不足しているものをCPUで計算し、モデルの28.8 GBのn-gramテーブルをトークンごとに数行ずつSSDから読み取ります。モデル自身のmulti-token predictionレイヤーが前もってトークンを下書き生成します。
Windows、Linux、macOS向けのデスクトップアプリおよびターミナルツール(`strata launch`)として提供され、localhost上でOpenAIおよびAnthropic互換のAPIを提供し、コーディングエージェントや画像入力も備えています。対応ハードウェアは、NVIDIA RTX 20から50シリーズ、最近のAMD Radeonカード、Linux上のIntel Arc、Apple silicon、Ryzen AI Max、そして0.2.7.1以降はNVIDIA DGX Sparkにまで及びます。
リポジトリは2026年9月24日に作成され、MITライセンスが適用されており、llama.cppのggmlの一部をベースに構築されています。次の貢献者の29件に対して3,594件のコミットを記録しており、ほぼ全面的にNiko1221という1人の開発者の手によるものです。
Strataは使う価値があるか?
Strataはフロンティア規模のオープンモデルをゲーミングPC上で実用的なものにしますが、「あらゆるコンシューマー向けハードウェアに対応」という表現は誇張です。ISTA-DASLabによるQwen3.8-Flash-Nextのパックは、RAMとVRAMを合わせて37.6 GB(Q2_0)から54.8 GB(IQ3_S)を必要とし、ドキュメントにはRAMがエキスパートの容量に加えて約10 GBを確保できなければならないと記載されているため、64 GBのPCが現実的な最低ラインとなります。その構成での数値は目を見張るものがあります。RTX 5070 12 GBとRyzen 5 7600を用いたプロジェクト自身の測定値では、4KコンテキストにおいてQ2_0で毎秒93トークン、より高品質なIQ3_Sで毎秒53トークンの出力を記録しています。
これらの数値は自己申告によるものですが、異例なほど詳細に記録されており、外部のユーザーも独自の数値を報告しています。Radeon RX 9070 16 GBに関するコミュニティの報告では、4KコンテキストのIQ3_XXSデコードにおいて毎秒58.7トークンを測定し、130Kコンテキストでも約58トークンを維持しました。すべての報告が好意的なわけではありません。未解決のissue #2464では、0.2.0 betaにおいてV100でのQwen3.6-35B-A3Bのデコード速度が、114Kコンテキストで毎秒109トークンから14.6トークンに低下したと報告されています。なお、報告者によればllama.cppは約90トークンを維持したとのことです。長いプロンプトの処理にも時間を要し、32Kトークンでは最初の単語が出力されるまでに約25秒かかります。
セキュリティに関するドキュメントは、大半の商用アプリよりも充実しています。コードが行うすべてのネットワーク接続を一覧表示し、テレメトリが存在しないことを明記し、サーバーを127.0.0.1にバインドし、APIキーなしでの他デバイスへの共有を拒否し、Ed25519で署名されたフィードでアップデートを、固定されたSHA-256ハッシュでモデルファイルを照合します。不備についても言及されており、Windowsインストーラーがコード署名されていないこと、外部モデルサービスのキーがユーザー専用ファイル内に暗号化されずに保存されること、素のエンジンサーバーをキーなしでネットワークに開放した場合に警告を出すにとどまる点などが挙げられます。
真のリスクは、プロジェクトの体制にあります。ほぼ全体を1人の開発者が約5週間で記述しており、507件の未解決のissueを抱え、GPUごとのスイッチの長いリストを伴うリリースが数日おきに行われています。llama.cppはより多くのモデルとハードウェアに対応し、強固なメンテナー陣を擁しています。純粋なC言語で書かれたColibriも、ディスクからmixture-of-expertsの重みをストリーミングします。Strataの強みは一握りのモデルに対する専門性の深さにあり、それは同時に、Qwen3.8-Flash-NextやDeepSeek V4.1-Flashが自分にとってどれだけ有用かによってのみ価値が決まることを意味します。
真価を発揮する場面
RTX 3060または5070と64 GBのRAMを搭載したマシンを持つ開発者
Claude CodeまたはOpenCode用の大規模なコーディングモデルをローカルで実行すること
アプリをインストールするか`strata launch`を実行してQ2_0またはIQ2_XSを選択すると、`strata connect`によってエージェント向けの設定が表示されます。プロジェクトの測定では、短いコンテキストにおいてRTX 5070で毎秒79〜93トークンを記録しています。費用としてはハードウェア代と約40 GBのモデルファイル容量が必要です。
社外への持ち出しが禁じられている顧客コードを扱う10人規模のコンサル ティング企業
1台のワークステーション上で共有のプライベートアシスタントをスタッフに提供すること
24 GBのカードを搭載した1台のPCでStrataを実行し、Share with other devicesを有効にします。これはAPIキーがないと起動せず、チャット用のエンドポイントのみを公開します。並行するチャットは1台のGPUのスループットを共有します。プロジェクトのDGX Sparkによるテストでは、複数のチャットを実行すると、単一チャットの速度がおおむね均等に分割されることが確認されています。
DGX Sparkまたは128 GBのRyzen AI Max搭載マシンを持つホビーユーザー
サーバーラックを用意することなくDeepSeek V4.1-Flashを試すこと
257 GBのダウンロードとなる2.00 bpwセットを選択し、NVMeドライブに約265 GBの空き容量を確保します。プロジェクトの報告によると、Strix Halo上でのコード処理で毎秒19〜21トークンを記録しています。12 GBのNVIDIAカードでは各トークンの大半の処理でSSDの待機が発生するため、毎秒4〜11トークンとなります。
導入前に確認すること
- 導入
- GitHub ReleasesからWindows、Linux、macOS向けのデスクトップインストーラーを入手するか、1行のシェルスクリプトまたはPowerShellスクリプトを実行した後に`strata launch`を実行します。最初の回答を得るまでの時間の大部分は、モデルのダウンロード(Qwen3.8-Flash-Nextの場合は約37〜55 GB)が占めます。
- 連携
- localhost上でのOpenAIおよびAnthropic互換APIを提供します。`strata connect`を実行すると、Claude Code、Codex CLI、OpenCode、Hermes Agent、OpenClawなどのセットアップ情報が出力されます。CUDA、HIP、SYCL、Metal向けのビルドに加え、Dockerおよびソースコードからのインストールに対応しています。
- データとプライバシー
- コードが行うすべての接続を記載したセキュリティページによると、テレメトリは存在しません。サーバーは127.0.0.1にバインドされ、共有にはAPIキーが必要です。アップデートはEd25519で署名されており、モデルファイルは固定されたSHA-256ハッシュで検証されます。外部サービスのキーは暗号化されずに保存されます。StrataはMITライセンス、Qwen3.8-Flash-NextはQwen Community License 1.0のもとで提供されています。
- 大規模利用時のコスト
- 有料版はなく、プロジェクトは寄付を受け付けています。コストは、Qwen3.8-Flash-Next向けの12 GB以上のグラフィックスカードと約64 GBのRAM、さらにDeepSeek V4.1-Flash向けの約265 GBのNVMe空き容量を備えたPCのハードウェア費用のみです。
- 制限
- 507件の未解決のissueがあり、数日おきにリリースが行われています。利用可能なモデルファミリーはごく一部に限られます。DeepSeekは8Kコンテキストで動作します。旧世代のGPUでの長いコンテキストのデコードには未解決の性能低下(issue #2464)が存在します。キャッシュされるエキスパートが変化するため、実行ごとに速度が変動します。
良い点
- 64 GBのRAMと12 GBのGPUでQwen3.8-Flash-Nextを実行可能
- 作者およびコミュニティによる詳細で再現可能な速度測定の報告
- テレメトリなし、デフォルトでlocalhost設定、署名済みアップデート、固定されたモデルハッシュ
- Claude Code、Codex、OpenCode向けのOpenAIおよびAnthropic互換API
気になる点
- あらゆるハードウェアで動作するという宣伝にもかかわらず、RAMとVRAMの合計で約40〜55 GBが必要
- ほぼ1人の開発者による運営であり、507件の未解決のissueが存在
- 対応しているモデルファミリーがごくわずか
- Windowsインストーラーがコード署名されていない
おすすめの人
自身のマシン上のコーディングエージェント向けに大規模なオープンモデルを必要としており、12〜24 GBのグラフィックスカードと64 GB以上のRAMを所有しているユーザーに適しています。
Strataの代替
Strata:よくある質問
- Strataは使う価値があるか?
- 64 GBのRAMを搭載しており、毎週更新される個人開発プロジェクトであることを許容できるのであれば、12 GBのグラフィックスカードで125Bパラメータモデルを動かす極めて巧妙な手段です。 評価は5点満点中4.0点です。
- Strataの料金は?
- MITライセンスのもとで無料かつオープンソースとして提供され、寄付によって運営されています。モデルファイルには独自のライセンスが適用されます(Qwen3.8-Flash-NextはQwen Community License 1.0を使用します)。
- Strataの欠点は?
- あらゆるハードウェアで動作するという宣伝にもかかわらず、RAMとVRAMの合計で約40〜55 GBが必要; ほぼ1人の開発者による運営であり、507件の未解決のissueが存在; 対応しているモデルファミリーがごくわずか; Windowsインストーラーがコード署名されていない.
- Strataは誰に向いているか?
- 自身のマシン上のコーディングエージェント向けに大規模なオープンモデルを必要としており、12〜24 GBのグラフィックスカードと64 GB以上のRAMを所有しているユーザーに適しています。
- チームや本番環境でStrataを使うと費用はいくらか?
- 有料版はなく、プロジェクトは寄付を受け付 けています。コストは、Qwen3.8-Flash-Next向けの12 GB以上のグラフィックスカードと約64 GBのRAM、さらにDeepSeek V4.1-Flash向けの約265 GBのNVMe空き容量を備えたPCのハードウェア費用のみです。
- Strataは企業データを扱っても安全か?
- コードが行うすべての接続を記載したセキュリティページによると、テレメトリは存在しません。サーバーは127.0.0.1にバインドされ、共有にはAPIキーが必要です。アップデートはEd25519で署名されており、モデルファイルは固定されたSHA-256ハッシュで検証されます。外部サービスのキーは暗号化されずに保存されます。StrataはMITライセンス、Qwen3.8-Flash-NextはQwen Community License 1.0のもとで提供されています。
- Strataの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はllama.cpp, colibri 、 Ollamaです。
回答確認日:2026年10月28日
