이미지 생성 모델은 크게 두 계열로 나뉩니다. 확산 모델은 여러 단계에 걸쳐 그림 전체를 병렬로 다듬고, 자기회귀 모델은 언어 모델이 글을 쓰듯 이미지를 토큰 하나씩 써 내려갑니다. 후자는 채팅 모델과 같은 구조를 공유할 수 있어 매력적이지만, 토큰이 하나 늘 때마다 순차 처리 단계가 하나 더 생겨 느렸습니다. 베이징 대학교, Meituan의 Longcat 팀 등 여러 그룹이 낸 프리프린트 G-STAR는 이 속도 문제를 정면으로 다룹니다.
뻔한 해결책은 이미지를 더 세게 압축해 생성할 토큰 수를 줄이는 것입니다. 문제는 그러면 토큰 하나가 더 많은 정보를 담아야 하고, 이산 부호는 세부를 잃는다는 점입니다. G-STAR는 공간 토큰 하나를 부호 하나가 아니라 부호 묶음으로 표현하며, 저자들은 같은 정보량을 유지하려면 묶음 크기가 한 변 기준 압축률의 제곱에 비례해 커져야 한다는 것을 보였습니다. 덕분에 공간 압축을 흔히 쓰는 16배를 훌쩍 넘는 32배, 사실상 64배까지 끌어올립니다. 가벼운 디코더가 각 묶음의 대부분을 병렬로 예측하고 마지막 한 단계만 순차로 처리하므로, 묶음이 커져도 지연은 거의 늘지 않습니다.
팀은 32배 압축의 GSTAR-Pro-8B와 64배 압축의 GSTAR-Flash-1.7B 두 모델을 학습시켰습니다. 1024×1024 픽셀에서 이전 이산 자기회귀 모델보다 20배 빨라, Nvidia H200 한 대로 이미지 한 장에 약 2.5초가 걸렸다고 보고합니다. GenEval, DPG-Bench, PRISM, LongText-Bench, Qwen-Image-Bench 등 다섯 가지 텍스트-이미지 벤치마크에서는 선두 시스템과 견줄 만한 점수를 냈습니다. 조건을 맞춘 비교에서 압축을 32배에서 64배로 올려도 품질 손실은 작아, GenEval이 0.8060에서 0.7885로 내려갔을 뿐입니다. 코드와 가중치는 GitHub와 Hugging Face에 공개됐습니다.
이는 이미지를 이해하고 생성까지 하는 통합 모델에 중요합니다. 신경망 하나로 그림을 읽고, 그에 대해 추론하고, 편집까지 할 수 있어 여러 연구소가 이 방향을 좇고 있습니다. 몇 초 안에 이미지가 나오길 기대하는 사용자에게 이런 시스템을 내놓는 데 속도는 현실적인 장벽이었습니다.
주장은 꼼꼼히 읽어야 합니다. 견줄 만하다는 것은 선두라는 뜻이 아니며, 20배 가속은 예전 자기회귀 모델과 비교한 것이지 오늘날 쓰이는 가장 빠른 확산 시스템과 비교한 것이 아닙니다. 이미지 품질 벤치마크 점수는 사용자가 보는 결과를 부분적으로만 반영하며, 비교도 저자들이 직접 했습니다. 동료 심사를 거치지 않은 프리프린트이고, 실제 지연 시간은 H200보다 훨씬 소박한 하드웨어에 따라 정해질 것입니다.