O que é DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
É uma versão comprimida do DeepSeek-V4.1-Flash-1017, publicada no Hugging Face em 2 de novembro de 2026 pelo ISTA-DASLab, o Distributed Algorithms and Systems Lab do Institute of Science and Technology Austria. Ela apaga 192 dos 384 especialistas roteados de cada camada e quantiza o restante, de modo que o transformer de 551,9B parâmetros cabe em 72,12 GB, contra 138,2 GB da versão IQ2_XXS sem poda do mesmo laboratório. O laboratório fala em 1 bit por parâmetro: são 1,05 bpw em média sobre o transformer original, contando os especialistas apagados como zero, enquanto os 280,1B parâmetros que sobram ficam em média em 2,06 bpw.
O nome vem de dois métodos do laboratório. GSQ é uma quantização escalar pós-treinamento que aprende juntas a atribuição à grade e as escalas de grupo por amostragem Gumbel-Softmax; segundo o laboratório, ela fecha a maior parte da diferença para a quantização vetorial com poucos bits e continua gravando tipos GGUF padrão. RCO comprime até um orçamento exato otimizando sobre uma variedade riemanniana; aqui, escolheu quais especialistas remover minimizando a divergência KL entre o modelo podado e o não podado em dados de calibração voltados a código, uso de ferramentas por agentes, contexto longo e visão. Os conjuntos de calibração não foram publicados.
Os pesos mantêm a licença MIT do modelo base. O repositório traz cinco fragmentos IQ2_XXS (o primeiro só com metadados), o arquivo de consulta Engram de 110,60 GB em IQ4_NL (4,50 bpw), que não foi podado nem otimizado e entra como sexto fragmento por link, e um projetor de visão de 0,97 GB: 182,72 GB no total, contra 248,84 GB da versão sem poda. Ele roda no llama.cpp e no Strata, e o Hugging Face contava 127.948 downloads em 5 de novembro de 2026.
Quanto custa DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
| Plano | Preço | O que inclui |
|---|---|---|
| Weights | Free | Licença MIT, herdada do DeepSeek-V4.1-Flash-1017 |
| DeepSeek API (base model) | $0.15 in / $0.60 out per 1M tokens off-peak | Modelo base completo nos servidores da DeepSeek, não esta versão |
Pesos gratuitos sob licença MIT, 182,72 GB de arquivos GGUF incluindo a tabela Engram; o custo é o hardware. O modelo base completo na API da DeepSeek custa US$ 0,15 de entrada / US$ 0,60 de saída por 1M de tokens fora do horário de pico.
DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) vale a pena?
Esta versão leva a maior parte da capacidade de programação do DeepSeek-V4.1-Flash para uma única estação de trabalho, e o que ela abre mão é quase tudo o que não é código. Nos testes do próprio ISTA-DASLab com esforço de raciocínio 50, ela marca 77,00 no SWE-bench Verified contra 81,20 do modelo base em FP8/FP4 (94,8% mantidos) e 88,57 contra 89,71 no LiveCodeBench v6 (98,7%). O laboratório atribui a queda maior no SWE-bench a erros que se acumulam em tarefas longas de agente com muitos turnos. Não encontramos nenhuma execução independente do SWE-bench.
As medições do Strata mostram onde a perda cai. Comparando as distribuições de saída com o modelo completo em 4.995 posições, o Coder tem divergência KL de 0,397 e escolhe o mesmo token principal em 76,4% das vezes, contra 0,171 e 83,7% do conjunto sem poda de 2,00 bpw; a perplexidade sobe de 3,140 no modelo completo para 4,645. Por tipo de conteúdo, a KL é de 0,230 em código e 0,199 em rastros de agente, mas de 0,476 em prosa em inglês e 0,777 em texto multilíngue, onde o conjunto sem poda fica em 0,138. A bateria própria do Strata, de 61 tarefas, aprova 54. O cartão do modelo admite isso: chama o lançamento de experimental e indica as versões GSQ-RCO sem poda para uso geral.
A promessa de uma GPU só exige leitura atenta. O que vai para a GPU é o transformer de 72,1 GB; a tabela Engram de 110,6 GB fica mapeada em memória no disco e é lida uma linha por token, então um SSD NVMe rápido faz parte da especificação, e o cartão não dá números de RAM nem de VRAM. As notas da versão 0.2.10 do Strata preenchem a lacuna: de 20,9 a 21,9 tokens por segundo num Ryzen AI Max de 128 GB, de 19,1 a 22,5 num Apple M5 Max com pico de 74 GB de memória e 59,2 em quatro placas Radeon AI PRO R9700. Um usuário que escreve no note.com mediu média de 29,8 tokens por segundo em duas RTX 3090 com 64 GB de RAM a 64K de contexto, cerca de três vezes os 10,1 de uma versão UD-IQ1_M sem poda na mesma máquina.
Em relação ao modelo base, o ganho está na memória rápida, não no disco. Nossa análise do DeepSeek-V4.1-Flash coloca o checkpoint oficial em cerca de 765 GB, mais do que cabe num nó de oito H100; a versão IQ2_XXS sem poda do laboratório tem 248,84 GB e esta, 182,72 GB, dos quais o arquivo Engram compartilhado responde por 110,60 GB nas duas. A poda só encolhe a parte que precisa ficar em VRAM ou RAM, que é a que define a velocidade em máquinas de consumo. Para equipes que podem mandar código para a API da DeepSeek, US$ 0,15 por milhão de tokens de entrada fora do pico sai mais barato que qualquer um desses hardwares; o Coder é para código que precisa ficar nas suas próprias máquinas.
As arestas estão documentadas. O Strata lista Windows com placa NVIDIA como ainda não testado, as respostas podem variar entre inicializações mesmo com temperatura 0, e quando a maior parte do modelo é lida do SSD, uma em cada cinco execuções gerou uma chamada de ferramenta quebrada com um marcador DSML dentro do argumento. Com o modelo inteiro na memória, as 8 chamadas de ferramenta voltaram corretas.
Onde ele se destaca
Um desenvolvedor com duas RTX 3090 e 64 GB de RAM
Rodar um agente de programação local num repositório privado
Rode strata launch --model ISTA-DAS-Coder no Strata 0.2.10, um primeiro download de 191 GB que inclui um drafter de 8 GB, e aponte o Claude Code ou o OpenCode para a API em localhost. Um usuário mediu média de 29,8 tokens por segundo a 64K de contexto; um pull request do Strata mediu 25,27 a 8K em duas 3090 com 121 GB de RAM.
O CTO de uma consultoria de software de 20 pessoas sujeita a confidencialidade com os clientes
Ter ajuda de programação no nível da DeepSeek sem a API da DeepSeek hospedada na China
Uma única máquina Ryzen AI Max de 128 GB roda o modelo a 20,9 a 21,9 tokens por segundo segundo as notas de versão do Strata, sem cobrança por token e sob licença MIT. Documentação de clientes em outros idiomas fica melhor na versão sem poda, cuja KL multilíngue é de 0,138 contra 0,777 do Coder.
Um pesquisador de ML que estuda compressão de modelos
Comparar poda de especialistas com quantização simples em poucos bits no mesmo modelo
O arquivo kept-experts.json do repositório lista os 192 especialistas mantidos por camada, e o repositório GSQ-RCO sem poda do laboratório oferece IQ1_M (1,75 bpw), IQ2_XXS (2,00) e IQ2_XS (2,25) do mesmo checkpoint. A tabela de KL por domínio do Strata dá uma linha de base pronta para código, agentes, documentos, inglês e texto multilíngue.
Antes de decidir
- Configuração
- Baixe com hf download --include "IQ2_XXS/*" "*Engram*", crie um link do arquivo Engram como fragmento 6 (ln -s, ou mklink /H no Windows) e rode o llama.cpp b11870 ou mais novo com -m no fragmento 1 e -ngl 99, acrescentando --mmproj para imagens e --reasoning on --reasoning-effort 50. No Strata 0.2.10 um único comando baixa 191 GB, ou cerca de 80 GB se o arquivo Engram já estiver presente.
- Integrações
- llama.cpp (llama-cli, llama-server e llama-mtmd-cli com --jinja para visão) e Strata, que serve APIs compatíveis com OpenAI e Anthropic em localhost. O laboratório diz que as versões foram ajustadas junto com o Strata.
- Dados e privacidade
- Licença MIT sem restrições de uso, herdada do modelo base. Tudo roda localmente; os conjuntos de calibração não foram publicados.
- Custo em escala
- Não há API hospedada para esta versão; o custo é o hardware. Os números do Strata vão de cerca de 100 tokens por segundo numa RTX PRO 6000 Blackwell (build de teste) a 59,2 em quatro R9700 e 20,9 numa R9700 com RAM limitada a 40 GB, caindo para 8,0 com 16 GB. Reserve 182,72 GB de espaço NVMe para o llama.cpp ou 191 GB para o Strata.
- Limites
- O Strata usa por padrão 8.192 tokens de contexto, aceita até 1M e não testou nada acima de 256K. Perfis de especialistas frequentes criados para 384 especialistas não carregam. Windows com NVIDIA não foi testado no Strata 0.2.10, a saída varia entre inicializações com temperatura 0 e a qualidade cai mais em prosa em inglês e texto multilíngue.
O que é bom
- 77,00 no SWE-bench Verified, 94,8% do modelo base (autodeclarado)
- Transformer de 72,1 GB contra 138,2 GB sem poda
- Licença MIT; entrada de imagens mantida pelo projetor de 0,97 GB
- Cerca de 30 tokens por segundo em duas RTX 3090 com 64 GB de RAM (relato de usuário)
O que não é
- KL de 0,777 em texto multilíngue contra 0,138 do conjunto sem poda
- Ainda ocupa 182,72 GB em disco; a tabela Engram precisa de NVMe
- Conjuntos de calibração não publicados
- Chamadas de ferramenta quebradas ao ler do SSD em 1 de 5 execuções do Strata
Ideal para
Desenvolvedores com 64 GB ou mais de RAM, um SSD NVMe rápido e uma ou duas GPUs grandes que querem o DeepSeek-V4.1-Flash para agentes de programação sem mandar código para uma API.
Alternativas ao DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)
DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF): perguntas frequentes
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) vale a pena?
- Uma versão de 72,1 GB que mantém 94,8% da pontuação do DeepSeek-V4.1-Flash no SWE-bench pelo teste do próprio laboratório, ao preço de prosa mais fraca, saída mais fraca em idiomas além do inglês e mais 110,6 GB de disco. Damos nota 3.9 de 5.
- Quanto custa DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- Pesos gratuitos sob licença MIT, 182,72 GB de arquivos GGUF incluindo a tabela Engram; o custo é o hardware. O modelo base completo na API da DeepSeek custa US$ 0,15 de entrada / US$ 0,60 de saída por 1M de tokens fora do horário de pico.
- Quais são as desvantagens de DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- KL de 0,777 em texto multilíngue contra 0,138 do conjunto sem poda; ainda ocupa 182,72 GB em disco; a tabela Engram precisa de NVMe; conjuntos de calibração não publicados; chamadas de ferramenta quebradas ao ler do SSD em 1 de 5 execuções do Strata.
- Para quem DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) é indicado?
- Desenvolvedores com 64 GB ou mais de RAM, um SSD NVMe rápido e uma ou duas GPUs grandes que querem o DeepSeek-V4.1-Flash para agentes de programação sem mandar código para uma API.
- Quanto custa DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) para uma equipe ou em produção?
- Não há API hospedada para esta versão; o custo é o hardware. Os números do Strata vão de cerca de 100 tokens por segundo numa RTX PRO 6000 Blackwell (build de teste) a 59,2 em quatro R9700 e 20,9 numa R9700 com RAM limitada a 40 GB, caindo para 8,0 com 16 GB. Reserve 182,72 GB de espaço NVMe para o llama.cpp ou 191 GB para o Strata.
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) é seguro para dados da empresa?
- Licença MIT sem restrições de uso, herdada do modelo base. Tudo roda localmente; os conjuntos de calibração não foram publicados.
- Quais são as melhores alternativas ao DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- As alternativas mais próximas que analisamos são DeepSeek-V4.1-Flash, Qwen3.8-Flash-Next, Qwen3.8-27B e DeepSeek-V4-Pro.
Respostas verificadas em 5 de nov. de 2026.