DiffusionGemma 26B A4B의 개요
DiffusionGemma는 Google DeepMind가 2026년 6월 10일에 공개한 실험적 오픈 모델입니다. Gemma 4 26B A4B의 mixture-of-experts 설계(252억 파라미터, 38억 활성, 토큰당 128개 중 8개 전문가)를 가져와 텍스트를 쓰는 방식을 바꿨습니다. 토큰을 하나씩 만드는 대신 256토큰 블록을 초안으로 쓰고, 블록 전체를 여러 번의 노이즈 제거로 다듬은 뒤 다음 블록으로 넘어갑니다.
이렇게 하면 GPU 한 장에서의 병목이 메모리 대역폭에서 연산으로 옮겨갑니다. Google은 NVIDIA H100에서 초당 1,000토큰 이상, GeForce RTX 5090에서 초당 700토큰 이상을 보고하며, 양자화 빌드는 VRAM 18 GB에 들어간다고 말합니다. 텍스트, 이미지, 동영상 프레임을 읽고 텍스트를 쓰며, 사고 모드와 함수 호출을 갖췄고 Gemma 4의 256K 토큰 컨텍스트를 유지합니다. 오디오 입력은 없습니다.
가중치는 Apache 2.0입니다. 최근 30일 동안 Hugging Face 다운로드는 약 636,000회였습니다.
DiffusionGemma 26B A4B, 쓸 만한 가치가 있습니까?
DiffusionGemma는 품질을 내주고 속도를 얻었으며, 그 차이는 Google의 모델 카드에 그대로 나옵니다. 표준 Gemma 4 26B A4B와 비교해 MMLU Pro 77.6% 대 82.6%, AIME 2026 69.1% 대 88.3%, LiveCodeBench v6 69.1% 대 77.1%, 도구 사용 테스트 Tau2 56.2% 대 68.2%입니다. 비전은 더 떨어져 MMMU Pro 54.3% 대 73.8%이고, OmniDocBench 오류는 두 배(0.319 대 0.149)입니다. 128K 장문 컨텍스트 회상은 44.1%에서 32.0%로 내려갑니다.
대신 얻는 것은 지연 시간입니다. 순전파 한 번에 15~20토큰을 만들 어 H100에서 초당 1,000토큰, RTX 5090에서 초당 700토큰을 넘기며, Google은 전용 GPU에서 일반 모델보다 최대 네 배 빠르다고 봅니다. 단순한 프롬프트와 코드는 노이즈 제거 단계가 적어 속도가 작업마다 달라집니다. 블록 안의 모든 토큰이 서로를 보기 때문에 코드의 빈칸을 채우고 블록을 끝내기 전에 스스로 실수를 고칠 수도 있습니다.
속도는 한 가지 환경에서만 나옵니다. Google에 따르면 이점은 가속기 하나에서 작거나 중간 크기 배치일 때 가장 크고, 트래픽이 많은 클라우드 서빙에서는 사라져 오히려 비용이 더 들 수 있으며, Apple Silicon Mac 같은 통합 메모리 기기에서는 전혀 나타나지 않을 수도 있습니다. llama.cpp 지원은 출시 당시 곧 나올 예정이라고 발표되었습니다.
그래서 이 모델은 대화형 로컬 작업용 도구입니다. 인라인 편집, 자동 완성, 기다리는 비용이 조금 못한 답보다 큰 빠른 초안 같은 일입니다. 배치 작업, 에이전트, 문서 읽기에는 Google이 공개한 모든 벤치마크에서 자기회귀 방식의 Gemma 4 26B가 낫습니다.
제 역할을 하는 곳
IDE 스타트업의 개발자 도구 엔지니어
거의 즉시 나타나는 로컬 인라인 코드 편집을 제공하고 싶다
RTX 5090에서 vLLM으로 양자화 모델을 띄워 양방향 블록이 도움이 되는 코드 채우기에 씁니다. Google은 이 카드에서 초당 700토큰 이상이라고 밝힙니다. 어려운 리팩터링에는 Gemma 4를 남겨 두세요.
워크스테이션 GPU를 쓰는 소프트웨어 회사의 테크니컬 라이터
문단마다 기다리지 않고 문서 섹션을 초안 작성하고 고쳐 쓰고 싶다
빠른 초안을 위해 사고 모드를 끄고 로컬에서 돌립니다. Google은 복잡한 Markdown도 안정적으로 닫는다고 하지만 품질이 Gemma 4보다 낮으므로 사실과 코드 예제를 확인하세요.
도입 전 확인할 점
- 설정
- 최신 transformers를 설치하고 DiffusionGemmaForBlockDiffusion을 불러오거나 vLLM 또는 MLX로 서빙합니다. Google은 엔트로피 제한 샘플러를 권장하며, 노이즈 제거는 최대 48단계이고 보통 12~16단계에서 멈춥니다.
- 연동
- transformers, Red Hat이 지원하는 vLLM, MLX, NVIDIA NIM, 파인튜닝용 Unsloth와 NeMo, Google의 JAX 라이브러리 Hackable Diffusion.
- 데이터와 개인정보
- 자체 호스팅이므로 프롬프트가 자신의 하드웨어에 남습니다. Apache 2.0은 상업적 사용과 수정을 허용합니다.
- 대규모 사용 시 비용
- 가중치는 무료이며 RTX 4090이나 5090급 카드로 양자화 빌드를 돌립니다. Google은 트래픽이 많은 클라우드 서빙은 자기회귀 모델보다 비용이 더 들 수 있다고 경고합니다.
- 제한
- 실험적 출시입니다. 입력은 이미지와 동영상만 가능하고 오디오는 없으며, 동영상은 초당 1프레임으로 최대 60초입니다. 이전 턴의 사고 내용은 채팅 기록에서 빼야 합니다.
좋은 점
- H100에서 초당 1,000토큰 이상, RTX 5090에서 700토큰
- 양자화 빌드가 VRAM 18 GB에 들어감
- 비전, 사고 모드, 함수 호출을 갖춘 Apache 2.0
- 양방향 블록이 코드 채우기와 자기 수정에 유리
아쉬운 점
- 공개된 모든 품질 벤치마크에서 Gemma 4 26B보다 낮음
- AIME 2026이 88.3%에서 69.1%로 하락
- 큰 배치와 Mac에서는 속도 이점이 사라짐
- Google이 실험적이라고 표시, 오디오 입력 없음
추천 대상
인라인 편집기나 자동 완성처럼 한 사용자용이며 지연 시간이 중요한 도구를 NVIDIA GPU 한 장으로 만드는 개발자.
DiffusionGemma 26B A4B 대안
DiffusionGemma 26B A4B: 자주 묻는 질문
- DiffusionGemma 26B A4B, 쓸 만한 가치가 있습니까?
- DiffusionGemma는 유능한 오픈 모델이 GPU 한 장에서 한 사용자에게 몇 배 빠르게 답하게 해 주지만, 품질이 중요하면 Google 스스로 일반 Gemma 4를 쓰라고 합니다. 평점은 5점 만점에 3.8점입니다.
- DiffusionGemma 26B A4B의 가격은 얼마입니까?
- Apache 2.0 가중치는 무료입니다. 자체 토큰 단가는 공개되지 않았으며, 비용은 자체 GPU나 클라우드 배포 비용입니다.
- DiffusionGemma 26B A4B의 단점은 무엇입니까?
- 공개된 모든 품질 벤치마크에서 Gemma 4 26B보다 낮음; AIME 2026이 88.3%에서 69.1%로 하락; 큰 배치와 Mac에서는 속도 이점이 사라짐; Google이 실험적이라고 표시, 오디오 입력 없음.
- DiffusionGemma 26B A4B에 적합한 사람은 누구입니까?
- 인라인 편집기나 자동 완성처럼 한 사용자용이며 지연 시간이 중요한 도구를 NVIDIA GPU 한 장으로 만드는 개발자.
- 팀이나 프로덕션 환경에서 DiffusionGemma 26B A4B의 비용은 얼마입니까?
- 가중치는 무료이며 RTX 4090이나 5090급 카드로 양자화 빌드를 돌립니다. Google은 트래픽이 많은 클라우드 서빙은 자기회귀 모델보다 비용이 더 들 수 있다고 경고합니다.
- DiffusionGemma 26B A4B에 회사 데이터를 맡겨도 안전합니까?
- 자체 호스팅이므로 프롬프트가 자신의 하드웨어에 남습니다. Apache 2.0은 상업적 사용과 수정을 허용합니다.
- DiffusionGemma 26B A4B의 가장 좋은 대안은 무엇입니까?
- 저희가 리 뷰한 것 중 가장 가까운 대안은 Gemma 4, Qwen3.8-27B, gpt-oss-20b 및 Mistral Small 4입니다.
답변 확인일: 2026년 11월 7일.