Clover-35B-A3B-Previewとは?
Clover-35B-A3B-Previewは、HKU NLPの拡散モデルDream 7Bのチーム出身者が設立したラボ、DiffuSpaceの最初のモデルです。2026年10月 下旬に公開され、Alibabaのmixture-of-expertsモデルQwen3.6-35B-A3B(パラメータ350億、うち約30億が動作)をブロック拡散モデルに変換しています。1トークンずつ書くのではなく、確信度の高い位置を並列に確定させながら32トークンのブロックを埋めていきます。
そのために、QwenのGated DeltaNet層に各ブロック内の双方向アテンションを追加し、各ブロックを共有されたエキスパートの一部に限定することもできます。思考モードと128Kトークンのコンテキストを維持しており、対応はテキストのみです。
重みはQwenから引き継いだApache 2.0です。Hugging Faceのコードは参照用の実装で、DiffuSpaceはサービング用に独自のSGLangビルドを推奨しており、llama.cppにも対応しています。
Clover-35B-A3B-Previewの料金は?
| プラン | 価格 | 内容 |
|---|---|---|
| Weights | Free | Apache 2.0 |
| Hosted API | Not offered |
Apache 2.0のオープンウェイト。ホスト型APIはありません。
Clover-35B-A3B-Previewは使う価値があるか?
Cloverの面白さは手法にあります。既存 の自己回帰型mixture-of-expertsモデルを並列ブロックデコードに変換しても、能力の大半を保てることを示しています。DiffuSpaceはSWE-bench Verifiedで73.6、Terminal-Bench 2.1で51.7、GPQA Diamondで83.8、MMLU-Proで84.8と報告し、6つのエージェントテストすべてで拡散モデルのLLaDA2.2 flashとMercury 2.5、自己回帰型のQwen3.6-35B-A3Bを上回るとしています。競合の比較数値はグラフ画像にしか載っておらず、独立した測定は一切ありません。
拡散の本来の狙いである速度面は、アーキテクチャから想像するほど劇的ではありません。DiffuSpaceはH200で毎秒515トークンを計測し、DFlash2の投機的デコードを使うQwenの365に対して約1.4倍の速さでした。16GBのRTX 5070 TiでINT4の場合、毎秒101.8トークンで、同等のモデルの48.5を上回ると報告しています。GB300での毎秒680トークンという数値には比較対象がありません。同じモデルを通常の自己回帰デコードで動かした場合との直接比較もありません。
モデルカードは粗い部分について率直です。長い生成は繰り返しに陥ることがあるため、既定値にはpresenceとrepetitionのペナルティに加え、思考を4,096トークン、回答を8,192トークンを過ぎたら終えるよう徐々に促すバイアスが含まれています。Hugging Faceの実装とDiffuSpaceのSGLangカーネルは同じ設定でも異なるテキストを出すことがあり、BF16では約69GBのGPUメモリが必要です。tau-cubed Bankingの14.4という低い数値は、長いマルチターンのタスクが拡散モデルにとってまだ弱点であることを示しています。
拡散デコードがエージェント用途で実用になるかを見ているチームにとって、Cloverは研究すべきオープンモデルです。本番用途なら、同じQwen3.6ベースに投 機的デコードを組み合わせれば、プレビュー版のリスクなしに速度の大半が得られます。
真価を発揮する場面
AIインフラのスタートアップに勤める推論エンジニア
自社のワークロードで、ブロック拡散が投機的デコードに勝るかを測る
同じH200上で、DiffuSpaceのSGLangビルドで動かすCloverと、DFlash2を使うQwen3.6-35B-A3Bを並べ、毎秒トークン数とタスク成功率を比較します。DiffuSpace自身の測定では差は約1.4倍です。
16GBのRTX 5070 Tiを持つ趣味の開発者
高性能な推論モデルを実用的な速度でローカル実行する
DiffuSpaceは、このカードでINT4の場合に毎秒101.8トークンと報告しています。既定値では長い回答が8,192トークンを過ぎると終わるよう促されるため、max_new_tokensの調整が必要になると考えてください。
大学のNLP研究グループ
自己回帰モデルから拡散モデルへの変換を研究する
モデルカードには、追加された双方向のGated DeltaNetパラメータ、確信度しきい値によるデコーダ(ブロック32、しきい値0.95)、ブロ ックごとのエキスパート選択が記載されており、Qwenへの帰属もファイル単位で示されています。
導入前に確認すること
- 導入
- BF16用に約69GBの空きがあるGPUで、Transformers 5.19.0をtrust_remote_code付きで使います。サービングには、GitHubリポジトリにあるDiffuSpaceのSGLang実装を使います。
- 連携
- Hugging Face Transformers、自己投機的デコードに対応したDiffuSpaceのSGLangとllama.cppのフォーク。enable_thinking付きのQwen形式のチャットテンプレート。
- データとプライバシー
- Qwen3.6-35B-A3Bから引き継いだApache 2.0で、上流の著作権表示は保持されています。セルフホストのみです。
- 大規模利用時のコスト
- BF16では80GBのH100またはH200が1枚。DiffuSpaceのテストでは、INT4なら16GBのコンシューマー向けGPUで動作します。
- 制限
- プロンプトと出力を合わせて128Kトークンで、最後のブロック分の余地も含みます。非常に長い出力では繰り返しが起きます。プレビュー品質で、テキストのみです。
良い点
- SWE-bench Verifiedで73.6と報告され、DiffuSpaceのテストでは他のオープン拡散モデルを大きく上回ります
- DiffuSpaceによれば、H200でDFlash2を使うQwenの約1.4倍の速さです
- Apache 2.0で、SGLangとllama.cppの実装があります
- 128Kのコンテキストと思考モードを維持しています
気になる点
- プレビュー版で、結果はすべて自己申告、競合のスコアは画像のみです
- 長い出力は繰り返しになることがあり、組み込みのペナルティに頼っています
- BF16で約69GBが必要で、TransformersとSGLangで出力が異なります
- tau-cubed Bankingは14.4と弱いです
おすすめの人
本番品質に達する前の段階で、最新のMoEモデルにおける拡散デコードを評価したい研究者や推論エンジニア。
Clover-35B-A3B-Previewの代替
Clover-35B-A3B-Preview:よくある質問
- Clover-35B-A3B-Previewは使う価値があるか?
- 開発元の数値では、Cloverはこ れまでで最も高性能なオープンの拡散言語モデルです。ただしプレビュー版で、速度の向上は控えめ、外部のテストもないため、実験したい人向けです。 評価は5点満点中3.6点です。
- Clover-35B-A3B-Previewの料金は?
- Apache 2.0のオープンウェイト。ホスト型APIはありません。
- Clover-35B-A3B-Previewの欠点は?
- プレビュー版で、結果はすべて自己申告、競合のスコアは画像のみです; 長い出力は繰り返しになることがあり、組み込みのペナルティに頼っています; BF16で約69GBが必要で、TransformersとSGLangで出力が異なります; tau-cubed Bankingは14.4と弱いです.
- Clover-35B-A3B-Previewは誰に向いているか?
- 本番品質に達する前の段階で、最新のMoEモデルにおける拡散デコードを評価したい研究者や推論エンジニア。
- チームや本番環境でClover-35B-A3B-Previewを使うと費用はいくらか?
- BF16では80GBのH100またはH200が1枚。DiffuSpaceのテストでは、INT4なら16GBのコンシューマー向けGPUで動作します。
- Clover-35B-A3B-Previewは企業データを扱っても安全か?
- Qwen3.6-35B-A3Bから引き継いだApache 2.0で、上流の著作権表示は保持されています。セルフホストのみです。
- Clover-35B-A3B-Previewの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はQwen3.8-Flash-Next 、 Nanbeige4.3-33Bです。
回答確認日:2026年10月31日
