Was ist DiffusionGemma 26B A4B?
DiffusionGemma ist ein experimentelles offenes Modell von Google DeepMind, vorgestellt am 10. Juni 2026. Es übernimmt die Mixture-of-Experts-Architektur von Gemma 4 26B A4B (25,2 Milliarden Parameter, 3,8 Milliarden aktiv, 8 von 128 Experten pro Token) und ändert, wie Text geschrieben wird. Statt ein Token nach dem anderen zu erzeugen, entwirft es einen Block aus 256 Tokens, verfeinert den ganzen Block in mehreren Entrauschungsdurchläufen und geht dann zum nächsten Block.
Das verschiebt den Engpass auf einer einzelnen GPU von der Speicherbandbreite zur Rechenleistung. Google meldet mehr als 1.000 Tokens pro Sekunde auf einer NVIDIA H100 und mehr als 700 auf einer GeForce RTX 5090 und sagt, ein quantisierter Build passe in 18 GB VRAM. Es liest Text, Bilder und Videoframes, schreibt Text, hat einen Thinking-Modus und Function Calling und behält Gemma 4s Kontext von 256K Tokens. Audioeingabe gibt es nicht.
Die Gewichte stehen unter Apache 2.0. In den letzten 30 Tagen kamen sie auf etwa 636.000 Downloads bei Hugging Face.
Lohnt sich DiffusionGemma 26B A4B?
DiffusionGemma tauscht Qualität gegen Geschwindigkeit, und Googles eigene Modellkarte zeigt, wie viel. Gegenüber dem normalen Gemma 4 26B A4B erreicht es 77,6% auf MMLU Pro statt 82,6%, 69,1% auf AIME 2026 statt 88,3%, 69,1% auf LiveCodeBench v6 statt 77,1% und 56,2% im Tool-Use-Test Tau2 statt 68,2%. Bei Vision fällt es stärker ab: 54,3% auf MMMU Pro statt 73,8% und der doppelte OmniDocBench-Fehler (0,319 statt 0,149). Der Abruf bei langem Kontext mit 128K sinkt von 44,1% auf 32,0%.
Dafür bekommst du Latenz. Mit 15 bis 20 Tokens pro Vorwärtsdurchlauf übertrifft es 1.000 Tokens pro Sekunde auf einer H100 und 700 auf einer RTX 5090, was Google mit bis zu viermal schneller als übliche Modelle auf dedizierten GPUs beziffert. Einfache Prompts und Code brauchen weniger Entrauschungsschritte, die Geschwindigkeit schwankt also je nach Aufgabe. Weil jedes Token in einem Block die anderen sieht, kann es außerdem Lücken in Code füllen und eigene Fehler korrigieren, bevor ein Block fertig ist.
Die Geschwindigkeit zeigt sich nur in einem Szenario. Laut Google ist der Vorteil bei kleinen bis mittleren Batchgrößen auf einem Beschleuniger am größten, verschwindet bei stark ausgelasteter Cloud-Bereitstellung, wo der Betrieb teurer werden kann, und tritt auf Rechnern mit Unified Memory wie Macs mit Apple Silicon womöglich gar nicht auf. Unterstützung für llama.cpp wurde zum Start als bald verfügbar angekündigt.
Damit ist es ein Werkzeug für interaktive lokale Arbeit: Inline-Bearbeitung, Autovervollständigung, schnelle Entwürfe, bei denen Warten mehr kostet als eine schwächere Antwort. Für Batch-Jobs, Agenten oder das Lesen von Dokumenten ist das autoregressive Gemma 4 26B auf jedem Benchmark besser, den Google veröffentlicht.
Wo es sich lohnt
Ein Entwicklerwerkzeug-Ingenieur in einem IDE-Start-up
Lokale Inline-Code-Änderungen anbieten, die fast sofort erscheinen
Das quantisierte Modell mit vLLM auf einer RTX 5090 betreiben und für Code-Auffüllung nutzen, wo die bidirektionalen Blöcke helfen. Google nennt über 700 Tokens pro Sekunde auf dieser Karte; Gemma 4 für schwierigere Refactorings behalten.
Eine technische Redakteurin in einem Softwareunternehmen mit Workstation-GPU
Dokumentationsabschnitte entwerfen und umschreiben, ohne auf jeden Absatz zu warten
Lokal mit ausgeschaltetem Thinking für schnelle Entwürfe betreiben. Google sagt, es schließe komplexes Markdown zuverlässig ab; die Qualität liegt unter Gemma 4, also Fakten und Codebeispiele prüfen.
Bevor du dich festlegst
- Einrichtung
- Die neueste transformers-Version installieren und DiffusionGemmaForBlockDiffusion laden oder mit vLLM oder MLX bereitstellen. Google empfiehlt seinen entropiebegrenzten Sampler mit bis zu 48 Entrauschungsschritten, der meist nach 12 bis 16 stoppt.
- Integrationen
- transformers, vLLM mit Unterstützung von Red Hat, MLX, NVIDIA NIM, Unsloth und NeMo für Fine-Tuning sowie Googles JAX-Bibliothek Hackable Diffusion.
- Daten und Datenschutz
- Selbst gehostet, Prompts bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung und Änderungen.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos; eine Karte der Klasse RTX 4090 oder 5090 betreibt den quantisierten Build. Google warnt, dass stark ausgelastete Cloud-Bereitstellung mehr kosten kann als ein autoregressives Modell.
- Grenzen
- Experimentelle Version; nur Bild- und Videoeingabe, kein Audio; Video bis 60 Sekunden bei einem Bild pro Sekunde; Gedanken aus früheren Runden müssen aus dem Chatverlauf entfernt werden.
Was gut ist
- Über 1.000 Tokens pro Sekunde auf einer H100, 700 auf einer RTX 5090
- Quantisierter Build passt in 18 GB VRAM
- Apache 2.0 mit Vision, Thinking-Modus und Function Calling
- Bidirektionale Blöcke helfen beim Code-Auffüllen und bei Selbstkorrektur
Was nicht
- Unter Gemma 4 26B auf jedem veröffentlichten Qualitäts-Benchmark
- AIME 2026 fällt von 88,3% auf 69,1%
- Tempovorteil schwindet bei großen Batches und auf Macs
- Von Google als experimentell gekennzeichnet; keine Audioeingabe
Am besten für
Entwickler, die latenzkritische Werkzeuge für einzelne Nutzer wie Inline-Editoren oder Autovervollständigung auf einer NVIDIA-GPU bauen.
Alternativen zu DiffusionGemma 26B A4B
DiffusionGemma 26B A4B: häufige Fragen
- Lohnt sich DiffusionGemma 26B A4B?
- DiffusionGemma lässt ein fähiges offenes Modell einem einzelnen Nutzer auf einer GPU mehrfach schneller antworten, und Google selbst rät zum normalen Gemma 4, wenn Qualität zählt. Wir bewerten es mit 3.8 von 5.
- Was kostet DiffusionGemma 26B A4B?
- Kostenlose Gewichte unter Apache 2.0. Kein eigener Preis pro Token veröffentlicht; du zahlst deine eigene GPU oder Cloud-Bereitstellung.
- Welche Nachteile hat DiffusionGemma 26B A4B?
- Unter Gemma 4 26B auf jedem veröffentlichten Qualitäts-Benchmark; AIME 2026 fällt von 88,3% auf 69,1%; Tempovorteil schwindet bei großen Batches und auf Macs; Von Google als experimentell gekennzeichnet; keine Audioeingabe.
- Für wen eignet sich DiffusionGemma 26B A4B?
- Entwickler, die latenzkritische Werkzeuge für einzelne Nutzer wie Inline-Editoren oder Autovervollständigung auf einer NVIDIA-GPU bauen.
- Was kostet DiffusionGemma 26B A4B für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos; eine Karte der Klasse RTX 4090 oder 5090 betreibt den quantisierten Build. Google warnt, dass stark ausgelastete Cloud-Bereitstellung mehr kosten kann als ein autoregressives Modell.
- Ist DiffusionGemma 26B A4B sicher für Firmendaten?
- Selbst gehostet, Prompts bleiben also auf deiner Hardware. Apache 2.0 erlaubt kommerzielle Nutzung und Änderungen.
- Was sind die besten Alternativen zu DiffusionGemma 26B A4B?
- Die nächsten Alternativen, die wir getestet haben, sind Gemma 4, Qwen3.8-27B, gpt-oss-20b und Mistral Small 4.
Antworten geprüft am 7. Nov. 2026.