本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

AIニュースと研究

ニュース ·

PyTorch 2.15、MacにFP8と大幅に速いMoEデコードを導入

PyTorch 2.15は、AppleのMPSバックエンドにFP8と、ネイティブのグループ化行列積を追加しました。これによりMixture-of-Expertsモデルのデコードは2.14より5〜6.5倍速くなり、M3 UltraでQwen3.6-35B-A3Bは毎秒9.4トークンから61.3トークンになりました。語彙全体のsoftmaxは約8倍速く、Wan2.2の動画デコードのピークメモリは270 GiBから8 GiBに減りました。

2026年初めの時点では、MacのPyTorchで小さなモデルを動かすだけでも、未対応の演算、急な速度低下、知らぬ間に膨らむメモリをかわしながら作業することがよくありました。Apple向けの作業の多くをHugging FaceのPyTorchチームが担ったPyTorch 2.15は、その差を大きく縮めます。Transformers、Diffusers、ComfyUIなどでApple silicon上でモデルをローカルに動かす人にとって、ここしばらくで最も影響の大きいMac向けリリースです。

目玉は、Mixture-of-Expertsモデルの速度です。トークンごとに重みの一部だけを使うこの方式は、高性能なオープンモデルの一般的な設計になっています。専用のデコード経路をもつネイティブのグループ化行列積と、GPUがCPUを待つ停止の削減により、2.14より5〜6.5倍速くデコードできるようになりました。torch.compileを使ったM3 Ultraでは、Qwen3.6-35B-A3Bが毎秒9.4トークンから61.3トークンに、LFM2.5-8B-A1Bが23.6から123.6になります。密なモデルにも恩恵があります。デコードの層は専用の行列ベクトル積カーネルを使うようになり、実在する96の層形状で平均1.23倍の高速化となったほか、大きな語彙に対するsoftmaxは約8倍速くなりました。

速度と同じくらい重要な修正もあります。AppleのMPSバックエンドにFP8テンソルが加わり、BF16の半分の容量で値を保存し、GPU上で直接掛け算できます。Wan2.2のタイル分割VAEによる動画のデコードは、以前はメモリが約270 GiBまで膨らみましたが、今は最大で約8 GiBです。2.14でQwen-Image-2.1による画像編集の画像をひそかに壊していたパディングの不具合も直り、エンコードとデコードを往復した結果が、10.06 dBだったものから29.95 dBでCPUと一致するようになりました。

Macの利用者にとっては、モデルがすでにPyTorchで動くのに、私たちがレビューしているApple専用のフレームワークMLXに回り道する理由が減ります。MLXが不要になるわけではありませんが、PyTorch向けに書かれたコードがMacでうまく動くまでの道のりは格段に楽になりました。

更新の前に2つの注意があります。新しい最低条件はmacOS 15とPython 3.11で、古い環境は動かなくなります。速度の数字はHugging Face自身の測定で、主にAppleの最上位機種M3 Ultraでのものなので、普通のノートパソコンでは絶対的な改善幅は小さくなります。アテンションの一部は依然としてAppleの古いMPSGraph層で処理されており、完全にMetalで動くアテンションは2.16で予定されていて、今回のリリースには含まれていません。

結論: MacはMLXを経由せずにPyTorchのモデルを動かせる本格的な環境になりつつあります。更新前に、新たな最低要件であるmacOS 15とPython 3.11を確認してください。

関連レビュー:PyTorchMLX

出典: Hugging Face

その他の記事