TileKernelsとは?
TileKernels は、高性能な GPU コードを書くための Python ベースの言語 TileLang で書かれた、DeepSeek の GPU カーネルライブラリです。DeepSeek の最近のモデルが頼る演算を扱います。mixture-of-experts ルーティング向けの top-k エキスパート選択とスコアリング、SwiGLU と量子化を融合したトークン単位、ブロック単位、チャネル単位の FP8 と FP4 変換、順伝播と逆伝播を備えた Engram(DeepSeek のメモリーモジュール)向けのゲーティングカーネル、Sinkhorn 正規化を含む manifold hyper-connection(mHC)のカーネル、さらに RoPE と乱数のカーネルです。README によると、ほとんどのカーネルはハードウェアの演算性能かメモリー帯域の限界近くで動き、すべてが DeepSeek 社内の学習と推論で使われています。
PyPI から tile-kernels としてインストールでき、Python 3.12、PyTorch 2.13、TileLang 0.1.15 以降が必要です。Nvidia では SM90 と SM100 の GPU(H100 と B200 の世代)のみに対応し、CUDA 13.1 以降が必要です。2026年9月のバージョン 2.0.0 で、CANN 9.2.0 を使う Ascend 950 NPU 向けの Huawei Ascend バックエンドが加わり、同じ Python API の裏で実行時に自動で選ばれます。コードは MIT ライセンスです。
TileKernelsは使う価値があるか?
TileKernels は依存ライブラリとしてより、証拠として重要です。Engram と manifold hyper-connections は DeepSeek 独自のアーキテクチャ上の発想で、Redeep はこのリポジトリを両者のカーネルレベルでの初の公開実装と評しています。DeepSeek-V4 の論文は、開発の速さと深い最適化を一つのコードベースで両立できるため、融合カーネルに TileLang を採用したと述べています。Redeep の2026年6月の分析では、五つのモジュールに 44 の演算子がありました(MoE ルーティングが 14、量子化が 15、mHC が 10、Engram が 5、転置が 1)。その後、RoPE と乱数のカーネルが追加されています。
ハードウェアの要求は高めです。Nvidia では SM90 と SM100 のチップしか使えないため、RTX 4090(SM89)は対象外です。未解決の issue では、コンシューマー向け Blackwell(SM120)で Engram の Sinkhorn カーネルが 100 KB の共有メモリーを超えると報告されています。バージョン 2.0.0 の Ascend バックエンドは TileLang の約束ではなく実際の対応で、同じ Python の呼び出しを Nvidia と Huawei のハードウェアで実行できる数少ないオープンなカーネル集になっています。README にはベンチマークの表がなく、限界近い性能という主張は、自分で --run-benchmark を付けて実行する同梱の pytest ベンチマークに頼っています。
保守の形が最大のトレードオフです。メインブランチのコミットは七つだけで、2026年4月23日の初回公開の後は、9月30日のバージョン 2.0.0 と10月14日の 2.1.0 という二つのリリースの一括投入です。外部からの貢献は待たされています。AMD ROCm や Moore Threads MUSA への移植を含む 16 件のプルリクエストが未処理のままで、マージされたプルリクエストは公開当日のコメント修正と二つのリリース投入だけです。スターは約 2,100 で、TileLang の約 9,000 のごく一部です。
H100 や B200 のクラスターで FP8 を使い、DeepSeek 型の mixture-of-experts モデルを学習するチームにとっては、自前で書く数週 間を省ける、テスト済みで本番利用されたカーネルです。標準的な密なモデル、古い GPU、独自のカーネルをすでに持つ vLLM のようなサービングスタックなど、それ以外の用途では、TileKernels は主に読むための参照コードです。
真価を発揮する場面
H100 ノードで 200 エキスパートの MoE モデルを事前学習する研究所のインフラエンジニア
遅い PyTorch の top-k ゲーティングと FP8 変換を融合カーネルに置き換える
pip install tile-kernels を実行し、ゲーティングとブロック単位の FP8 変換の呼び出しをライブラリ版に置き換え、同梱のテストで tile_kernels/torch の PyTorch 参照実装と一つずつ照合します。MIT で無料で、節約できるのはライセンス料ではなく数週間分のエンジニアリングです。
DeepSeek-V4 のアーキテクチャを再現する研究エンジニア
Engram のゲーティングと manifold hyper-connections が実際にどう実装されているかを読む
engram と mhc のモジュールを PyTorch の参照コードと並べて読み、小さな学習で Engram ゲート向けの torch.autograd.Function ラッパーを使います。カーネルには SM90 か SM100 の GPU が必要なので、H100 を借りるのが最も安い実行方法です。
Nvidia と Huawei の両方のアクセラレーターを運用する中国のクラウド事業者のプラットフォームチーム
H100 と Ascend 950 のフリートでカーネルのコード経路を一本に保つ
バージョン 2.0.0 以降、ライブラリは同じ Python の呼び出しの裏で実行時に CUDA か Ascend のバックエンドを選ぶため、一つのモデルのコードベースが両方で動きます。Ascend には CANN 9.2.0 以降が必要です。
導入前に確認すること
- 導入
- pip install tile-kernels、またはクローンから pip install -e ".[dev]" を実行します。Python 3.12+、PyTorch 2.13+、TileLang 0.1.15+ と、CUDA 13.1+ の SM90/SM100 GPU か CANN 9.2.0+ の Ascend 950 NPU が必要です。TK_TEST_LEVEL=0 python -m pytest -n 4 で主要なテストが走ります。
- 連携
- PyTorch のテンソルを入出力に使い、すべてのカーネルに PyTorch の参照実装があり、Engram ゲート向けの autograd ラッパーも付きます。TileLang の上に作られ、DeepSeek の DeepGEMM や FlashMLA を置き換えるのではなく、並んで公開されています。
- データとプライバシー
- README にネットワーク通信やテレメトリーの記載がないローカ ルのライブラリです。MIT ライセンスは商用利用を認めます。セキュリティアドバイザリは公開されていません。
- 大規模利用時のコスト
- ソフトウェアは無料です。実際のコストはハードウェアの要求で、Hopper と Blackwell のデータセンター向け GPU か Ascend 950 NPU でしか動きません。
- 制限
- コンシューマー向け GPU は非対応で、SM120 の共有メモリーの上限について未解決の issue があります。AMD と MUSA への対応はマージされていません。更新はまれなリリース投入で届き、ドキュメントは短い README だけです。
良い点
- DeepSeek が社内で使う本番用カーネル
- Engram と mHC の初の公開カーネル
- Nvidia SM90/SM100 と Ascend 950 で同じ Python API
- MIT ライセンス。pip でインストールでき、pytest のベンチマーク付き
気になる点
- コンシューマー向けや Hopper より前の GPU に非対応です
- コードはリリースの一括投入で届き、コミュニティの移植はマージされていません
- ベンチマークの表が公開されていません
- DeepSeek に近いアーキテクチャでしか役に立ちません
おすすめの人
H100、B200、Ascend 950 のハードウェアで、FP8 を使う DeepSeek 型の MoE モデルを学習または提供する ML インフラエンジニア。
TileKernelsの代替
TileKernels:よくある質問
- TileKernelsは使う価値があるか?
- TileKernels は DeepSeek のモデルを支えるカーネルをこれまでで最もはっきり見せてくれるもので、同じアーキテクチャを作る人には本番用のコードですが、コミュニティのライブラリではなく DeepSeek によるコードの公開です。 評価は5点満点中3.8点です。
- TileKernelsの料金は?
- MIT ライセンスの無料オープンソースです。
- TileKernelsの欠点は?
- コンシューマー向けや Hopper より前の GPU に非対応です; コードはリリースの一括投入で届き、コミュニティの移植はマージされていません; ベンチマークの表が公開されていません; DeepSeek に近いアーキテクチャでしか役に立ちません.
- TileKernelsは誰に向いているか?
- H100、B200、Ascend 950 のハードウェアで、FP8 を使う DeepSeek 型の MoE モデルを学習または提供する ML インフラエンジニア。
- チームや本番環境でTileKernelsを使うと費用はいくらか?
- ソフトウェアは無料です。実際のコストはハードウェアの要求で、Hopper と Blackwell のデータセンター向け GPU か Ascend 950 NPU でしか動きません。
- TileKernelsは企業データを扱っても安全か?
- README にネットワーク通信やテレメトリーの記載がないローカルのライブラリです。MIT ライセンスは商用利用を認めます。セキュリティアドバイザリは公開されていません。
- TileKernelsの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はSGLang, vLLM 、 TensorRT-LLMです。
回答確認日:2026年11月13日