画像生成モデルには大きく2つの系統があります。拡散モデルは画像全体を何段階かに分けて並列に磨き上げ、自己回帰モデルは言語モデルが文章を書くように、画像をトークン1つずつ書き出します。後者はチャット用のモデルと同じ構造を共有できるのが魅力ですが、トークンが1つ増えるたびに順番に処理する手順が増えるため、遅いのが難点でした。北京大学、MeituanのLongcatチームなど複数のグループによるプレプリントG-STARは、この速度の問題に正面から取り組んでいます。
すぐに思いつく解決策は、画像をもっと強く圧縮して生成するトークンを減らすことです。注意点は、そうすると1つのトークンが運ぶ情報が増え、離散的な符号では細部が失われることです。G-STARは空間上の各トークンを1つではなく複数の符号のグループで表し、情報量を一定に保つには、グループの大きさを1辺あたりの圧縮率の2乗に比例して増やすべきだと示しました。これにより空間圧縮を一般的な16倍を大きく超える32倍、実質64倍まで高められます。軽量なデコーダーが各グループの大部分を並列に予測し、最後の1段だけを順番に処理するので、グループが大きくなっても遅延はほとんど増えません。
チームは、32倍圧縮のGSTAR-Pro-8Bと64倍圧縮のGSTAR-Flash-1.7Bの2つのモデルを学習させました。1024×1024ピクセルでは、従来の離散的な自己回帰モデルより20倍速く、Nvidia H200 1台で1枚あたり約2.5秒で生成できたと報告しています。GenEval、DPG-Bench、PRISM、LongText-Bench、Qwen-Image-Benchという5つ のテキストからの画像生成ベンチマークで、主要なシステムに匹敵するスコアでした。条件をそろえた比較では、圧縮を32倍から64倍に上げても品質の低下はわずかで、GenEvalは0.8060から0.7885に下がっただけでした。コードと重みはGitHubとHugging Faceで公開されています。
これは画像を理解も生成もできる統合型のモデルにとって重要です。1つのネットワークで画像を読み、それについて考え、編集までできるため、複数の研究機関がこの方向を追っています。数秒で画像が出てくることを期待する利用者にこうしたシステムを届けるうえで、速度は実用上の壁でした。
主張は注意して読む必要があります。匹敵することと首位であることは違い、20倍の高速化は古い自己回帰モデルとの比較で、現在使われている最速の拡散モデルとの比較ではありません。画質のベンチマークスコアは利用者の実感を部分的にしか反映せず、比較は著者ら自身が行ったものです。査読前のプレプリントであり、実際の待ち時間はH200よりはるかに控えめなハードウェアで決まります。