Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

KI-News & Forschung

Forschung ·

G-STAR komprimiert Bild-Tokens bis zu 64-fach für autoregressive Bilder in 2,5 Sekunden

G-STAR, ein Preprint, zeigt, dass bei festem Informationsbudget die Größe der Token-Gruppen mit dem Quadrat des räumlichen Kompressionsfaktors wachsen sollte. Das ermöglicht 32-fache und effektiv 64-fache Kompression für diskrete autoregressive Bildmodelle. Bei 1024x1024 meldet es eine 20-fache Beschleunigung gegenüber früheren diskreten autoregressiven Modellen, rund 2,5 Sekunden pro Bild auf einer NVIDIA H200, mit konkurrenzfähigen Werten auf fünf Benchmarks.

Bildgeneratoren gibt es in zwei großen Familien. Diffusionsmodelle verfeinern ein ganzes Bild parallel über mehrere Schritte; autoregressive Modelle schreiben es Token für Token, so wie ein Sprachmodell Text schreibt. Der zweite Ansatz ist reizvoll, weil er sich eine Architektur mit Chat-Modellen teilen kann, war aber langsam, denn jedes zusätzliche Token ist ein weiterer sequenzieller Schritt. G-STAR, ein Preprint der Peking University, des Longcat-Teams von Meituan und weiterer Gruppen, geht dieses Tempoproblem direkt an.

Die naheliegende Lösung ist, das Bild stärker zu komprimieren, damit weniger Tokens erzeugt werden müssen. Der Haken: Jedes Token muss dann mehr Information tragen, und diskrete Codes verlieren Details. G-STAR stellt jedes räumliche Token durch eine Gruppe von Codes statt durch einen einzelnen dar, und die Autoren zeigen, dass die Gruppengröße bei gleichem Informationsbudget mit dem Quadrat des Kompressionsfaktors pro Seite wachsen sollte. So lässt sich die räumliche Kompression auf das 32-Fache und effektiv auf das 64-Fache treiben, weit über die üblichen 16. Ein schlanker Decoder sagt den Großteil jeder Gruppe parallel voraus und behält nur einen letzten kausalen Schritt, sodass größere Gruppen kaum Verzögerung bringen.

Das Team trainierte zwei Modelle, GSTAR-Pro-8B mit 32-facher und GSTAR-Flash-1.7B mit 64-facher Kompression. Bei 1024 mal 1024 Pixeln berichten sie eine 20-fache Beschleunigung gegenüber früheren diskreten autoregressiven Modellen, etwa 2,5 Sekunden pro Bild auf einer einzelnen Nvidia H200, bei Werten, die auf fünf Text-zu-Bild-Benchmarks mit führenden Systemen mithalten: GenEval, DPG-Bench, PRISM, LongText-Bench und Qwen-Image-Bench. In einem kontrollierten Vergleich kostete der Schritt von 32- auf 64-fache Kompression nur wenig Qualität; GenEval sank von 0,8060 auf 0,7885. Code und Gewichte liegen auf GitHub und Hugging Face.

Das ist wichtig für vereinheitlichte Modelle, die Bilder verstehen und erzeugen, eine Richtung, die mehrere Labore verfolgen, weil dann ein Netz ein Bild lesen, darüber nachdenken und es bearbeiten kann. Das Tempo war bisher die praktische Hürde, solche Systeme Nutzern anzubieten, die ein Bild in Sekunden erwarten.

Die Aussagen sollte man genau lesen. Konkurrenzfähig heißt nicht führend, und die 20-fache Beschleunigung wird gegen ältere autoregressive Modelle gemessen, nicht gegen die schnellsten Diffusionssysteme, die heute im Einsatz sind. Benchmark-Werte für Bildqualität spiegeln nur teilweise wider, was Nutzer sehen, und die Vergleiche haben die Autoren selbst durchgeführt. Es ist ein nicht begutachteter Preprint, und die Latenz im Alltag hängt von Hardware ab, die weit weniger großzügig ist als eine H200.

Unser Fazit: Autoregressive Bildmodelle lagen gegenüber Diffusion vor allem beim Tempo zurück, ein 20-facher Gewinn schließt also eine echte Lücke. Konkurrenzfähig heißt aber nicht führend, und verglichen wird mit älteren autoregressiven Modellen statt mit den schnellsten Diffusionssystemen.

Quelle: arXiv (Hugging Face Daily Papers)

Weitere Artikel