Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

MLX

Apple silicon での機械学習向けの Apple の配列フレームワークで、CUDA 版も加わりました。mlx-lm や多くの Mac 向け LLM アプリを支えるエンジンです。

レビュー: Sheela · 更新

GitHubで見る オープンソース

当サイトの評価

4.4/5

MLX はメモリの多い Mac を、ローカルの推論と LoRA のチューニングに使える信頼できるマシンに変えます。Apple silicon 以外では移植版にすぎず、乗り換える理由にはなりません。

MLXとは?

MLX は Apple の機械学習研究グループによる配列フレームワークで、CPU と GPU が1つの RAM のプールを共有する Apple silicon のユニファイドメモリ向けに作られています。Python の API は NumPy に、nn と optimizers のパッケージは PyTorch にならい、C++、C、Swift の API がそれを写しています。計算は遅延評価で、グラフは動的に構築されるので、入力の形状が変わっても再コンパイルは起きません。

もう Mac 専用ではありません。`pip install mlx[cuda12]`(または `mlx[cuda13]`)で SM 7.5 以降の Nvidia の GPU を積んだ Linux で動き、`mlx[cpu]` で CPU のみの Linux 版が使えます。多くの人は、Hugging Face Hub の LLM を実行、量子化、LoRA でファインチューニングするための付属パッケージ mlx-lm を通じて MLX に出会います。Hub では mlx-community という組織が約5,800の変換済みモデルを公開しています。

バージョン 0.32.4 は2026年10月14日に MIT ライセンスで出ました。

MLXは使う価値があるか?

MLX が重要なのは、1つのハードウェア上の事実のためです。Apple silicon では GPU がシステムメモリ全体を扱えます。RAM の多い Mac なら、他の環境ではデータセンター向けの GPU が必要になる量子化モデルを載せられ、MLX はその前提で作られています。配列は共有メモリにあり、コピーなしに CPU でも GPU でも動きます。リポジトリの GitHub のスターは約28,900で、2026年10月14日に 0.32.4 を出しました。

実用上の価値の大半は、コアのライブラリより mlx-lm(スター約7,400)にあります。Hugging Face Hub から直接モデルを読み込み、量子化してアップロードし、mlx_lm.server で HTTP 経由で提供し、LoRA と QLoRA のファインチューニングを実行します。ドキュメント自体が具体的な数字を挙げています。バッチサイズ1、チューニングするレイヤー4つで Mistral 7B の LoRA を行うと、32 GB の M1 Max で毎秒約250トークンです。

限界は Mac の限界です。RAM の大きさに近いモデルは、sysctl で GPU の wired メモリの上限を引き上げない限り遅く、その設定には macOS 15 が必要です。基本パッケージは macOS 14 が必要です。未解決の issue には、ディスプレイが使われている間に Metal の GPU ウォッチドッグが LoRA の学習を止める問題や、173K トークンのプリフィル中に M4 Max でカーネルパニックが起きる問題があります。重みのローダーの重大度の低い CVE が2件、load() のヒープオーバーフローと load_gguf() の不正なポインターが2025年11月に公開されました。

CUDA のバックエンドが広げる利用者層は、聞こえほど大きくありません。glibc 2.35 以降の Linux と SM 7.5 以降の Nvidia のカードが必要で、実際の用途は、チームが Mac で MLX のコードを書き、同じコードを GPU サーバーで動かせるようにすることです。そのハードウェア上で PyTorch が持つ vLLM や Hugging Face の学習スタックは付いてこず、AMD 向けの ROCm 対応はまだ未完の実験です。推論だけなら llama.cpp はあらゆる環境で動き、Ollama はセットアップを隠してくれます。MLX が真価を発揮するのは、Mac 自体の上で Python レベルの制御をしたいときです。

真価を発揮する場面

  • 32 GB の M シリーズの MacBook Pro を持つ、サポートソフトウェアのスタートアップの ML エンジニア

    GPU を借りずに、サポートのやり取りの記録で 7B のモデルをファインチューニングする

    バッチサイズ1、少数のチューニング対象レイヤー、勾配チェックポイントで mlx_lm.lora を実行します。ドキュメントは 32 GB の M1 Max で Mistral 7B が毎秒約250トークンと報告しているので、中程度のデータセットならノート PC で学習できます。コストはすでに持っているマシンの時間です。リスクは、ディスプレイが使われている間に Metal のウォッチドッグが学習を止める未解決のバグです。

  • 新しいモデルアーキテクチャを試作する大学の研究者

    再コンパイルを待たずに独自のレイヤーを反復して改良する

    mlx.nn の PyTorch に似たモジュールでモデルを書きます。グラフは動的なので形状が変わっても再コンパイルされず、組み合わせ可能な変換で自動微分とベクトル化が使えます。同じコードは後で mlx[cuda12] で Linux の GPU マシンでも動きますが、大規模な学習ならやはり PyTorch です。

  • 厳格な守秘義務のある20人の法律事務所の IT 責任者

    文書をクラウドの API に送る代わりに、事務所の Mac で非公開のチャットモデルを動かす

    mlx-community から 4-bit のモデルを取得し、メモリの多い Mac で mlx_lm.server を使って提供するか、MLX をエンジンに使うデスクトップアプリ経由で使います。マシンの外には何も出ず、MIT ライセンスは無料です。支出はハードウェアと保守する人です。

導入前に確認すること

導入
macOS 14 以降のネイティブ arm64 の Python 3.10 以上で `pip install mlx mlx-lm` を実行します。Hub のモデルでの最初の mlx_lm.generate は、ほとんどがダウンロードの時間です。Linux では mlx[cuda12]、mlx[cuda13]、mlx[cpu] を使います。ネイティブでない(Rosetta の)Python は、文書化されたインストールの落とし穴です。
連携
読み込み、変換、量子化、アップロード向けの Hugging Face Hub、safetensors と GGUF の読み込み、複数マシンでの推論とファインチューニング向けの mx.distributed、アプリ向けの Swift のバインディング。いくつかの Mac のチャットアプリでバックエンドとして使われています。
データとプライバシー
ローカルで動きます。README にテレメトリーの記載はなく、リポジトリの GitHub のコード検索でも見つかりません。ネットワークへのアクセスは Hub からのダウンロードのためです。MIT ライセンスなので商用利用に制限はありませんが、モデルのライセンスは別途適用されます。重大度の低い CVE-2025-62608 と CVE-2025-62609 が重みのローダーに影響しました。
大規模利用時のコスト
ソフトウェアは無料で、費用は Apple のハードウェアです。どのモデルが載るかを決めるのは GPU のクラスではなく RAM の大きさです。Mac 1台を超えるには複数マシンにまたがる mx.distributed が必要で、マシンごとに RAM の量が違うとメモリ不足で失敗するという未解決の issue があります。
制限
CUDA 版には SM 7.5 以上と glibc 2.35 以上が必要で、AMD は実験的です。RAM の大きさに近いモデルは iogpu.wired_limit_mb を引き上げないと遅くなります。未解決の issue には、Metal のウォッチドッグが LoRA の実行を止める問題や、非常に長いプリフィルでのカーネルパニックがあります。

良い点

  • GPU が Mac のユニファイドメモリをすべて使える
  • NumPy 風の Python API に加え C++、C、Swift
  • mlx-lm による LoRA と QLoRA、ドキュメントによれば M1 Max で約250 tok/s
  • mlx-community に約5,800の変換済みモデル

気になる点

  • CUDA 版には PyTorch の周辺エコシステムがない
  • アプリではなくライブラリで、Python を書くかフロントエンドを使う
  • 大きなモデルには macOS 15 と sysctl の調整が必要
  • 長いジョブでの Metal のウォッチドッグとカーネルパニックのバグが未解決

おすすめの人

Apple silicon でネイティブの速度と Python での制御を求める、Mac で作業する開発者と研究者。

MLXの代替

MLX:よくある質問

MLXは使う価値があるか?
MLX はメモリの多い Mac を、ローカルの推論と LoRA のチューニングに使える信頼できるマシンに変えます。Apple silicon 以外では移植版にすぎず、乗り換える理由にはなりません。 評価は5点満点中4.4点です。
MLXの料金は?
MIT ライセンスのもとで無料のオープンソースです。
MLXの欠点は?
CUDA 版には PyTorch の周辺エコシステムがない; アプリではなくライブラリで、Python を書くかフロントエンドを使う; 大きなモデルには macOS 15 と sysctl の調整が必要; 長いジョブでの Metal のウォッチドッグとカーネルパニックのバグが未解決.
MLXは誰に向いているか?
Apple silicon でネイティブの速度と Python での制御を求める、Mac で作業する開発者と研究者。
チームや本番環境でMLXを使うと費用はいくらか?
ソフトウェアは無料で、費用は Apple のハードウェアです。どのモデルが載るかを決めるのは GPU のクラスではなく RAM の大きさです。Mac 1台を超えるには複数マシンにまたがる mx.distributed が必要で、マシンごとに RAM の量が違うとメモリ不足で失敗するという未解決の issue があります。
MLXは企業データを扱っても安全か?
ローカルで動きます。README にテレメトリーの記載はなく、リポジトリの GitHub のコード検索でも見つかりません。ネットワークへのアクセスは Hub からのダウンロードのためです。MIT ライセンスなので商用利用に制限はありませんが、モデルのライセンスは別途適用されます。重大度の低い CVE-2025-62608 と CVE-2025-62609 が重みのローダーに影響しました。
MLXの代わりになるものは?
当サイトでレビューした中で最も近い代替はllama.cpp 、 Ollamaです。

回答確認日:2026年10月26日