Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

Janas

エキスパートを NVMe SSD からストリーミングして、RAM より大きい mixture-of-experts の LLM を CPU、Vulkan GPU、Intel NPU で動かす純粋な C のエンジンです。

レビュー: Sheela · 更新

GitHubで見る オープンソース

当サイトの評価

3.6/5

32 GB のノート PC で 80B のモデルが本当に動きます。ただし llama.cpp に対する大きな差は作者自身の測定で、全体が 1 人の実験です。

Janasとは?

Janas は Maurizio Cammalleri による AI ツール群で、C ライブラリ以外に依存のない C で書かれています。中核の Janas-LLM は、ファイルがマシンのメモリより大きい mixture-of-experts の言語モデルを動かします。重みはディスクに置いたままで、各トークンが必要とするエキスパートを NVMe SSD から読み込み、繰り返し使われるものは空き RAM を埋めるエキスパートキャッシュに保持します。

読み込むのは独自の .jns 形式で、GGUF ファイル(Q4_K_M ほか 3〜5 ビットの数種類)から変換するか、プロジェクトの Hugging Face アカウントから変換済みのものをダウンロードします。対応するモデルファミリーは Qwen3、Qwen3.5、Qwen3.6、Qwen3-Next、Gemma 4、Llama 3 です。エンジンの周りには、ターミナルのチャット、janas-server(OpenAI 形式の HTTP API)、janas-mcp(モデルを MCP クライアント向けのツールとして提供)、C ライブラリがあります。

リポジトリは 2026年9月20日に作成され、GitHub のスターは約 548、フォークは 44 で、ライセンスは GPL-3.0 以降です。x86-64 の Linux と Windows 向けに日付入りのリリースを出しており、最新は 10月30日の v2026.10.30.1 です。README は製品ではなく実験だとしています。

Janasは使う価値があるか?

Janas は、メモリに収まらない mixture-of-experts モデルを動かそうとする本格的な試みで、ドキュメントも珍しいほど充実しています。それでも見出しの数字は自己申告として読むべきです。作者の表は 1 台のノート PC(Intel Core Ultra 9 185H、RAM 32 GB、読み込み約 5.7 GB/s の NVMe ディスク)での測定で、48.4 GB のファイルである Qwen3-Next-80B の生成速度は 26.4 tok/s、llama.cpp は 3.0、プロンプトの読み込みは 68.4 に対して 17.7 です。リポジトリの 1 行説明には今も古い数字が載っており、13 モデルで 37 tok/s、llama.cpp は 2.8 となっています。README は現在 17 行を掲載しています。37 という数字はドラフト、つまりモデル自身の予測ブロックが先のトークンを推測し、それをモデルが検証する仕組みによるもので、チャットでは README はキャッシュが温まった状態で 31-35 tok/s としています。

この手法は mixture-of-experts に特有のものです。Qwen3-Next はトークンごとに 80B のパラメータのうち約 3B しか使わないため、Janas はよく使われるエキスパートをキャッシュ(80B では 21 GiB)に保持し、残りを O_DIRECT で SSD から読み込みます。現在のレイヤーを計算している間に、次のレイヤーで使われそうなエキスパートを先読みします。キャッシュがエキスパートの 5 分の 1 未満しか保持できないときは、メモリにない軽いエキスパートを丸ごと飛ばし、わずかな精度と引き換えに速度を得ます。作者のある実行では、llama.cpp の最も確率の高いトークンとの一致が 400 中 393 から 384 に下がりました。llama.cpp のベースラインは、通常のビルドがそのノート PC でメモリ不足になったため、動かすだけで回避策が必要でした。つまり差の一部は、純粋な速度ではなく llama.cpp のメモリ消費の大きさを測っています。

第三者による証拠は実在しますが、部分的です。テスターは RAM 約 31 GiB のマシンで、ドラフトなしで 80B を 9.5〜16.2 tok/s で動かしており、動作すること自体は確認されています。26.4 対 3.0 の比較を再現した人はいません。最も良い外部の直接比較は 62.5 GiB の i9-14900HX でのもので、Qwen3-30B では llama.cpp が速く(38.9 対 28.3 tok/s)、その環境では RAM に収まった 80B では互角、142 GB の Qwen3-235B では Janas が上回りました(3.0 対 1.59)。AVX-VNNI のない Ryzen 5 5500 では、llama.cpp のプロンプト読み込みが 2 倍以上速くなりました。

代償はレイテンシと安定性に現れます。セッションの最初の応答は、エキスパートがまだディスクから来るため 16-20 tok/s で、32,000 トークンのプロンプトの読み込みには 15 分かかりました。README は、エンジンがデスクトップをスワップに追い込むことがあり、一度は GPU ドライバーのリセットを引き起こしたと警告しています。GPU 対応は Vulkan のみで、未解決の issue には Intel Arc B580 での無意味な出力や、AMD Radeon で GPU 製品テスト 3,980 件中 3,320 件が失敗したという報告があります。ストリーミング自体は読み込みです。README によるとエンジンが書き込むのは ~/.cache/janas だけなので、SSD の摩耗は問題になりません。問題はディスクの帯域と発熱で、プロジェクトは耐久性の数値を公表していません。

最大のリスクはガバナンスです。90 件のコミットはすべて作者によるもので、CONTRIBUTING.md には著作権を保有する非営利の財団ができるまで外部のコードはマージしないとあり、ARM64、macOS、AVX-512 の pull request は未解決のままです。スター約 132,000 であらゆるハードウェアのバックエンドを持つ llama.cpp と比べると、Janas は用途の狭いツールで、勝てるのは 1 つの状況に限られます。x86-64 上で、RAM に収まらないほど大きい mixture-of-experts モデルを動かす場合です。

真価を発揮する場面

  • NVMe ドライブ付きの 32 GB の Linux または Windows ノート PC を持つ開発者

    30B のモデルの代わりに Qwen3-Next-80B や Qwen3-Coder-Next をローカルで動かす

    リリースをダウンロードし、janas-get で 48.4 GB の変換済みファイルを取得してから janas-chat を実行します。約 31 GiB のマシンのテスターは、ドラフトなしで 9.5〜16.2 tok/s と報告しています。エキスパートキャッシュが埋まるまで最初の応答は遅くなります。他のプログラムがキャッシュに必要なメモリを使うため、ブラウザは閉じておきましょう。

  • 64 GB のワークステーションを持つ研究者

    RAM を買い足さずに 142 GB の Qwen3-235B モデルを試す

    Q4_K_M の GGUF を gguf2jns で変換し、空きメモリをエキスパートキャッシュに使わせます。あるテスターの測定では生成速度は 3.0 tok/s で、同じマシンでの llama.cpp の mmap の結果の約 2 倍でした。まとめて投げる質問には使えますが、対話的なチャットには遅すぎます。

  • 社内アシスタント用に検討している小さな会社のエンジニアリングリード

    Janas による OpenAI 互換のローカルエンドポイントに依存しても安全かを判断する

    janas-server は 127.0.0.1:8080 で一度に 1 件のリクエストを処理し、API キーは任意です。そのため 1 人のユーザー向けで、チームには向きません。GPL-3.0 では HTTP 経由の社内利用は自由ですが、libjanas_llm を配布するソフトウェアにリンクすると、そのソフトウェアは GPL になります。メンテナーが 1 人でインターフェースが毎週変わるため、アップグレードのたびに再テストする工数を見込んでください。

導入前に確認すること

導入
Linux x86-64(Ubuntu 22.04、Debian 12 以降)向けのビルド済み tarball か、Windows 10 と 11 向けの zip があります。janas-get がモデルの一覧表示、ダウンロード、検証を行います。ソースからのビルドに必要なのは GCC だけで、GPU を使うには Vulkan のヘッダーと glslang 15.2 以降も必要です。最初の応答までの時間は、ほとんどがモデルのダウンロードです。
連携
janas-server は OpenAI の API(chat、completions、Responses、embeddings、batches)に準拠し、テストページがあります。janas-mcp はモデルを Claude Code などの MCP クライアントに提供します。FreeBASIC と Node.js のバインディング付きの C ライブラリもあります。GPU は Vulkan 1.3 のみ、Intel の NPU は Linux の Meteor Lake のみです。
データとプライバシー
ローカルで動き、書き込むのは ~/.cache/janas と変換済みモデルの保存先だけです。テレメトリーの記載はありません。サーバーはデフォルトで API キーなしで 127.0.0.1 にバインドされます。コードは GPL-3.0 以降で、変換済みモデルはそれぞれのライセンス(Qwen は Apache 2.0、Qwen3.8-Flash-Next は Qwen Community License、DeepNSM は非商用の CC BY-NC-SA)を保持します。
大規模利用時のコスト
有料版はないため、費用はハードウェアです。基準機は読み込み約 5.7 GB/s の NVMe SSD を積んだ 32 GB のノート PC で、ディスクが遅かったりマシンが混んでいたりすると速度が落ちます。サーバーは単一シーケンスの設計なので、多くのユーザーに広げるには同時ユーザー 1 人につき 1 台のマシンが必要です。
制限
開発と測定は 1 台のノート PC のみ。未解決の issue と pull request は約 21 件で、Intel Arc B580 と AMD Radeon Vega での誤った GPU 出力や、NVIDIA を使う Windows でのプロンプト処理の遅さが含まれます。CUDA、Metal、ROCm のバックエンドはなく、macOS や ARM のビルドもありません。IQ2 と IQ1 の GGUF 形式には非対応で、32,000 トークンのプロンプトは基準のノート PC で 15 分かかりました。

良い点

  • 48 GB の mixture-of-experts モデルが 32 GB のマシンで動き、外部のテスターも確認済み
  • 純粋な C で依存なし、Linux と Windows のリリースビルドあり
  • スレッド数と GPU、NPU の配分をマシンごとに自動計測
  • OpenAI 形式のサーバー、MCP サーバー、C ライブラリを同梱

気になる点

  • llama.cpp に対する見出しの差は 1 台のノート PC での自己申告
  • メンテナーは 1 人で、外部のコードはまだマージできない
  • Vulkan のみで、複数の GPU で誤った出力のバグがある
  • macOS と ARM に非対応、実験段階でコマンドが毎週変わる

おすすめの人

32 GB のノート PC で Qwen3-Next-80B を動かすなど、RAM より大きい mixture-of-experts モデルを使いたい x86-64 のユーザーで、実験的なソフトウェアを受け入れられる人。

Janasの代替

Janas:よくある質問

Janasは使う価値があるか?
32 GB のノート PC で 80B のモデルが本当に動きます。ただし llama.cpp に対する大きな差は作者自身の測定で、全体が 1 人の実験です。 評価は5点満点中3.6点です。
Janasの料金は?
GPL-3.0 以降のライセンスによる無料のオープンソースです。有料版はありません。
Janasの欠点は?
llama.cpp に対する見出しの差は 1 台のノート PC での自己申告; メンテナーは 1 人で、外部のコードはまだマージできない; Vulkan のみで、複数の GPU で誤った出力のバグがある; macOS と ARM に非対応、実験段階でコマンドが毎週変わる.
Janasは誰に向いているか?
32 GB のノート PC で Qwen3-Next-80B を動かすなど、RAM より大きい mixture-of-experts モデルを使いたい x86-64 のユーザーで、実験的なソフトウェアを受け入れられる人。
チームや本番環境でJanasを使うと費用はいくらか?
有料版はないため、費用はハードウェアです。基準機は読み込み約 5.7 GB/s の NVMe SSD を積んだ 32 GB のノート PC で、ディスクが遅かったりマシンが混んでいたりすると速度が落ちます。サーバーは単一シーケンスの設計なので、多くのユーザーに広げるには同時ユーザー 1 人につき 1 台のマシンが必要です。
Janasは企業データを扱っても安全か?
ローカルで動き、書き込むのは ~/.cache/janas と変換済みモデルの保存先だけです。テレメトリーの記載はありません。サーバーはデフォルトで API キーなしで 127.0.0.1 にバインドされます。コードは GPL-3.0 以降で、変換済みモデルはそれぞれのライセンス(Qwen は Apache 2.0、Qwen3.8-Flash-Next は Qwen Community License、DeepNSM は非商用の CC BY-NC-SA)を保持します。
Janasの代わりになるものは?
当サイトでレビューした中で最も近い代替はllama.cpp, Ollama 、 llamafileです。

回答確認日:2026年10月31日