Was ist Clover-35B-A3B-Preview?
Clover-35B-A3B-Preview ist das erste Modell von DiffuSpace, einem Labor, dessen Team vom Diffusionsmodell Dream 7B von HKU NLP kommt. Das Ende Oktober 2026 veröffentlichte Modell wandelt Alibabas Mixture-of-Experts-Modell Qwen3.6-35B-A3B, mit 35 Milliarden Parametern, davon etwa 3 Milliarden aktiv, in ein Block-Diffusionsmodell um: Statt ein Token nach dem anderen zu schreiben, füllt es Blöcke von 32 Tokens, indem es die Positionen, bei denen es sich sicher ist, parallel auflöst.
Dafür ergänzt es Qwens Gated-DeltaNet-Schichten um bidirektionale Attention innerhalb jedes Blocks und kann jeden Block auf eine gemeinsame Teilmenge von Experten beschränken. Es behält einen Thinking-Modus und einen Kontext von 128K Tokens und verarbeitet nur Text.
Die Gewichte stehen unter Apache 2.0, übernommen von Qwen. Der Hugging-Face-Code ist ein Referenzpfad; DiffuSpace empfiehlt für den Betrieb seinen eigenen SGLang-Build und bietet außerdem Unterstützung für llama.cpp.
Was kostet Clover-35B-A3B-Preview?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Weights | Free | Apache 2.0 |
| Hosted API | Not offered |
Offene Gewichte unter Apache 2.0; keine gehostete API.
Lohnt sich Clover-35B-A3B-Preview?
Das Interessante an Clover ist die Methode: Es zeigt, dass sich ein bestehendes autoregressives Mixture-of-Experts-Modell auf parallele Block-Dekodierung umstellen lässt und dabei den Großteil seiner Fähigkeiten behält. DiffuSpace meldet 73,6 auf SWE-bench Verified, 51,7 auf Terminal-Bench 2.1, 83,8 auf GPQA Diamond und 84,8 auf MMLU-Pro und gibt an, in allen sechs Agenten-Tests die Diffusionsmodelle LLaDA2.2 flash und Mercury 2.5 sowie das autoregressive Qwen3.6-35B-A3B zu schlagen. Die Vergleichswerte der Konkurrenz stehen nur in Diagrammbildern, und nichts wurde unabhängig gemessen.
Das Geschwindigkeitsargument, um das es bei Diffusion eigentlich geht, ist weniger eindrucksvoll, als die Architektur vermuten lässt. Auf einer H200 maß DiffuSpace 515 Tokens pro Sekunde gegenüber 365 für Qwen mit spekulativer Dekodierung per DFlash2, also etwa 1,4-mal schneller. Auf einer RTX 5070 Ti mit 16GB in INT4 meldet es 101,8 Tokens pro Sekunde gegenüber 48,5 bei ähnlichen Modellen. Ein Wert von 680 Tokens pro Sekunde auf einer GB300 hat keine Vergleichsbasis. Einen direkten Vergleich mit einfacher autoregressiver Dekodierung desselben Modells gibt es nicht.
Die Model Card benennt die Schwächen offen. Lange Ausgaben können sich wiederholen, deshalb enthalten die Standardeinstellungen Presence- und Repetition-Penalties sowie schrittweise Verzerrungen, die das Modell drängen, sein Thinking nach 4.096 Tokens und seine Antwort nach 8.192 zu beenden. Der Hugging-Face-Pfad und die SGLang-Kernels von DiffuSpace können mit denselben Einstellungen unterschiedlichen Text erzeugen, und BF16 braucht etwa 69GB GPU-Speicher. Die niedrige 14,4 auf tau-cubed Banking erinnert daran, dass lange Aufgaben über viele Runden die Stelle sind, an der Diffusionsmodelle noch Mühe haben.
Für Teams, die beobachten, ob Diffusions-Dekodierung für Agenten praxistauglich wird, ist Clover das offene Modell, das man studieren sollte. Für den Produktiveinsatz holt dieselbe Qwen3.6-Basis mit spekulativer Dekodierung den Großteil der Geschwindigkeit, ohne das Risiko einer Preview.
Wo es sich lohnt
Ein Inference-Engineer bei einem Startup für KI-Infrastruktur
Messen, ob Block-Diffusion auf den eigenen Workloads spekulative Dekodierung schlägt
Betreibe Clover mit dem SGLang-Build von DiffuSpace neben Qwen3.6-35B-A3B mit DFlash2 auf derselben H200 und vergleiche Tokens pro Sekunde und Aufgabenerfolg; der Abstand laut DiffuSpace selbst liegt bei etwa 1,4-mal.
Ein Hobby-Entwickler mit einer RTX 5070 Ti mit 16GB
Ein fähiges Reasoning-Modell lokal mit brauchbarer Geschwindigkeit betreiben
DiffuSpace meldet auf dieser Karte 101,8 Tokens pro Sekunde in INT4. Rechne damit, max_new_tokens anzupassen, da die Standardwerte lange Antworten nach 8.192 Tokens zum Abschluss drängen.
Eine universitäre NLP-Gruppe
Die Umwandlung autoregressiver Modelle in Diffusionsmodelle untersuchen
Die Model Card dokumentiert die ergänzten bidirektionalen Gated-DeltaNet-Parameter, den Decoder mit Konfidenzschwelle (Block 32, Schwelle 0.95) und die Expertenauswahl pro Block, mit Zuordnung zu Qwen auf Dateiebene.
Bevor du dich festlegst
- Einrichtung
- Transformers 5.19.0 mit trust_remote_code auf einer GPU mit etwa 69GB freiem Speicher für BF16; für den Betrieb die SGLang-Implementierung von DiffuSpace aus dessen GitHub-Repository.
- Integrationen
- Hugging Face Transformers sowie die SGLang- und llama.cpp-Forks von DiffuSpace mit selbstspekulativer Dekodierung; Chat-Template im Qwen-Stil mit enable_thinking.
- Daten und Datenschutz
- Apache 2.0, übernommen von Qwen3.6-35B-A3B, mit erhaltenem Upstream-Copyright; nur selbst gehostet.
- Kosten im großen Maßstab
- Eine H100 oder H200 mit 80GB für BF16; INT4 läuft laut den Tests von DiffuSpace auf einer Consumer-GPU mit 16GB.
- Grenzen
- 128K Tokens für Prompt und Ausgabe zusammen, einschließlich Platz für den letzten Block; Wiederholungen bei sehr langen Ausgaben; Preview-Qualität; nur Text.
Was gut ist
- Gemeldete 73,6 auf SWE-bench Verified, in den Tests von DiffuSpace weit vor anderen offenen Diffusionsmodellen
- Laut DiffuSpace etwa 1,4-mal so schnell wie Qwen mit DFlash2 auf einer H200
- Apache 2.0 mit Implementierungen für SGLang und llama.cpp
- Behält 128K Kontext und Thinking-Modus
Was nicht
- Preview; alle Ergebnisse selbst gemeldet, Werte der Konkurrenz nur in Bildern
- Lange Ausgaben können sich wiederholen; stützt sich auf eingebaute Penalties
- Etwa 69GB in BF16; Ausgaben von Transformers und SGLang unterscheiden sich
- Schwache 14,4 auf tau-cubed Banking
Am besten für
Forschende und Inference-Engineers, die Diffusions-Dekodierung an einem modernen MoE-Modell bewerten wollen, bevor sie Produktionsreife erreicht.
Alternativen zu Clover-35B-A3B-Preview
Clover-35B-A3B-Preview: häufige Fragen
- Lohnt sich Clover-35B-A3B-Preview?
- Nach den Zahlen seiner Entwickler ist Clover das bisher leistungsfähigste offene Diffusions-Sprachmodell, doch als Preview mit bescheidenen Geschwindigkeitsgewinnen und ohne externe Tests ist es etwas für Experimentierfreudige. Wir bewerten es mit 3.6 von 5.
- Was kostet Clover-35B-A3B-Preview?
- Offene Gewichte unter Apache 2.0; keine gehostete API.
- Welche Nachteile hat Clover-35B-A3B-Preview?
- Preview; alle Ergebnisse selbst gemeldet, Werte der Konkurrenz nur in Bildern; Lange Ausgaben können sich wiederholen; stützt sich auf eingebaute Penalties; Etwa 69GB in BF16; Ausgaben von Transformers und SGLang unterscheiden sich; Schwache 14,4 auf tau-cubed Banking.
- Für wen eignet sich Clover-35B-A3B-Preview?
- Forschende und Inference-Engineers, die Diffusions-Dekodierung an einem modernen MoE-Modell bewerten wollen, bevor sie Produktionsreife erreicht.
- Was kostet Clover-35B-A3B-Preview für ein Team oder im Produktivbetrieb?
- Eine H100 oder H200 mit 80GB für BF16; INT4 läuft laut den Tests von DiffuSpace auf einer Consumer-GPU mit 16GB.
- Ist Clover-35B-A3B-Preview sicher für Firmendaten?
- Apache 2.0, übernommen von Qwen3.6-35B-A3B, mit erhaltenem Upstream-Copyright; nur selbst gehostet.
- Was sind die besten Alternativen zu Clover-35B-A3B-Preview?
- Die nächsten Alternativen, die wir getestet haben, sind Qwen3.8-Flash-Next und Nanbeige4.3-33B.
Antworten geprüft am 31. Okt. 2026.