Qu’est-ce que DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) ?
Il s'agit d'une version compressée de DeepSeek-V4.1-Flash-1017, publiée sur Hugging Face le 2 novembre 2026 par ISTA-DASLab, le Distributed Algorithms and Systems Lab de l'Institute of Science and Technology Austria. Elle supprime 192 des 384 experts routés de chaque couche et quantifie le reste, si bien que le transformer de 551,9B paramètres tient en 72,12 Go, contre 138,2 Go pour la version IQ2_XXS non élaguée du laboratoire. Le laboratoire parle de 1 bit par paramètre : ce sont 1,05 bpw en moyenne sur le transformer d'origine, les experts supprimés comptant pour zéro, tandis que les 280,1B paramètres restants sont en moyenne à 2,06 bpw.
Le nom vient de deux méthodes du laboratoire. GSQ est une quantification scalaire après entraînement qui apprend ensemble l'affectation à la grille et les échelles de groupe par échantillonnage Gumbel-Softmax ; selon le laboratoire, elle comble l'essentiel de l'écart avec la quantification vectorielle à faible nombre de bits tout en produisant des types GGUF standard. RCO compresse jusqu'à un budget exact en optimisant sur une variété riemannienne ; ici, il a choisi les experts à retirer en minimisant la divergence KL entre les modèles élagué et non élagué sur des données de calibration centrées sur le code, l'usage d'outils par des agents, le contexte long et la vision. Les jeux de calibration ne sont pas publiés.
Les poids conservent la licence MIT du modèle de base. Le dépôt contient cinq fragments IQ2_XXS (le premier ne contient que des métadonnées), le fichier de consultation Engram de 110,60 Go en IQ4_NL (4,50 bpw), ni élagué ni optimisé, relié comme sixième fragment, et un projecteur de vision de 0,97 Go : 182,72 Go au total, contre 248,84 Go pour la version non élaguée. Il tourne dans llama.cpp et dans Strata, et Hugging Face comptait 127 948 téléchargements au 5 novembre 2026.
Combien coûte DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| Weights | Free | Licence MIT, héritée de DeepSeek-V4.1-Flash-1017 |
| DeepSeek API (base model) | $0.15 in / $0.60 out per 1M tokens off-peak | Modèle de base complet sur les serveurs de DeepSeek, pas cette version |
Poids gratuits sous licence MIT, 182,72 Go de fichiers GGUF table Engram comprise ; le coût, c'est le matériel. Le modèle de base complet sur l'API DeepSeek coûte 0,15 $ en entrée / 0,60 $ en sortie par million (1M) de tokens en heures creuses.
DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) vaut-il le coup ?
Cette version met l'essentiel des capacités de programmation de DeepSeek-V4.1-Flash sur une seule station de travail, et elle sacrifie pour cela presque tout ce qui n'est pas du code. Dans les essais d'ISTA-DASLab lui-même, avec un effort de raisonnement de 50, elle obtient 77,00 sur SWE-bench Verified contre 81,20 pour le modèle de base en FP8/FP4 (94,8 % conservés) et 88,57 contre 89,71 sur LiveCodeBench v6 (98,7 %). Le laboratoire attribue la baisse plus forte sur SWE-bench à des erreurs qui s'accumulent au fil de longues tâches d'agent à plusieurs tours. Nous n'avons trouvé aucun essai SWE-bench indépendant.
Les mesures de Strata montrent où tombe la perte. En comparant les distributions de sortie avec le modèle complet sur 4 995 positions, le Coder présente une divergence KL de 0,397 et choisit le même token principal dans 76,4 % des cas, contre 0,171 et 83,7 % pour le jeu non élagué à 2,00 bpw ; la perplexité passe de 3,140 pour le modèle complet à 4,645. Par type de contenu, la KL est de 0,230 sur le code et de 0,199 sur les traces d'agent, mais de 0,476 sur la prose anglaise et de 0,777 sur le texte multilingue, où le jeu non élagué reste à 0,138. La suite de 61 tâches de Strata en réussit 54. La fiche du modèle le dit franchement : elle qualifie la publication d'expérimentale et renvoie l'usage général vers les versions GSQ-RCO non élaguées.
La promesse d'un seul GPU demande une lecture attentive. Ce qui va sur le GPU, c'est le transformer de 72,1 Go ; la table Engram de 110,6 Go reste mappée en mémoire sur le disque et se lit une ligne par token, si bien qu'un disque NVMe rapide fait partie de la configuration, et la fiche ne donne aucun chiffre de RAM ou de VRAM. Les notes de version de Strata 0.2.10 comblent ce manque : 20,9 à 21,9 tokens par seconde sur un Ryzen AI Max de 128 Go, 19,1 à 22,5 sur un Apple M5 Max avec un pic de 74 Go de mémoire, et 59,2 sur quatre cartes Radeon AI PRO R9700. Un utilisateur qui écrit sur note.com a mesuré une moyenne de 29,8 tokens par seconde sur deux RTX 3090 avec 64 Go de RAM à 64K de contexte, environ trois fois les 10,1 d'une version UD-IQ1_M non élaguée sur la même machine.
Face au modèle de base, le gain porte sur la mémoire rapide, pas sur le disque. Notre test de DeepSeek-V4.1-Flash situe le checkpoint officiel à environ 765 Go, plus qu'un nœud de huit H100 ne peut contenir ; la version IQ2_XXS non élaguée du laboratoire pèse 248,84 Go et celle-ci 182,72 Go, dont 110,60 Go dans les deux cas pour le fichier Engram partagé. L'élagage ne réduit que la partie qui doit résider en VRAM ou en RAM, celle qui fixe la vitesse sur les machines grand public. Pour les équipes qui peuvent envoyer leur code à l'API de DeepSeek, 0,15 $ par million de tokens en entrée en heures creuses revient moins cher que n'importe lequel de ces matériels ; le Coder s'adresse au code qui doit rester sur vos propres machines.
Les défauts sont documentés. Strata indique que Windows avec une carte NVIDIA n'a pas encore été testé, les réponses peuvent varier d'un démarrage à l'autre même à température 0, et quand l'essentiel du modèle est lu depuis le SSD, une exécution sur cinq a produit un appel d'outil cassé avec un marqueur DSML dans l'argument. Avec le modèle entièrement en mémoire, les 8 appels d'outils sont revenus corrects.
Là où il fait la différence
Un développeur équipé de deux RTX 3090 et de 64 Go de RAM
Faire tourner un agent de code local sur un dépôt privé
Lancez strata launch --model ISTA-DAS-Coder dans Strata 0.2.10, un premier téléchargement de 191 Go incluant un drafter de 8 Go, puis pointez Claude Code ou OpenCode vers l'API localhost. Un utilisateur a mesuré une moyenne de 29,8 tokens par seconde à 64K de contexte ; une pull request de Strata a mesuré 25,27 à 8K sur deux 3090 avec 121 Go de RAM.
Le CTO d'un cabinet de conseil logiciel de 20 personnes tenu à la confidentialité envers ses clients
Obtenir une aide au code du niveau de DeepSeek sans l'API de DeepSeek hébergée en Chine
Une seule machine Ryzen AI Max de 128 Go le fait tourner à 20,9 à 21,9 tokens par seconde selon les notes de version de Strata, sans facturation au token et sous licence MIT. La documentation client dans d'autres langues reste mieux traitée par la version non élaguée, dont la KL multilingue est de 0,138 contre 0,777 pour le Coder.
Un chercheur en ML qui étudie la compression de modèles
Comparer l'élagage d'experts et la simple quantification à faible nombre de bits sur un même modèle
Le fichier kept-experts.json du dépôt liste les 192 experts conservés par couche, et le dépôt GSQ-RCO non élagué du laboratoire propose IQ1_M (1,75 bpw), IQ2_XXS (2,00) et IQ2_XS (2,25) du même checkpoint. Le tableau de KL par domaine de Strata fournit une référence toute prête pour le code, les agents, les documents, l'anglais et le texte multilingue.
Avant de vous engager
- Mise en route
- Téléchargez avec hf download --include "IQ2_XXS/*" "*Engram*", reliez le fichier Engram comme fragment 6 (ln -s, ou mklink /H sous Windows) et lancez llama.cpp b11870 ou plus récent avec -m sur le fragment 1 et -ngl 99, en ajoutant --mmproj pour les images et --reasoning on --reasoning-effort 50. Dans Strata 0.2.10, une seule commande télécharge 191 Go, ou environ 80 Go si le fichier Engram est déjà présent.
- Intégrations
- llama.cpp (llama-cli, llama-server et llama-mtmd-cli avec --jinja pour la vision) et Strata, qui sert des API compatibles OpenAI et Anthropic sur localhost. Le laboratoire indique que les versions ont été réglées avec Strata.
- Données et confidentialité
- Licence MIT sans restriction d'usage, héritée du modèle de base. Tout tourne en local ; les jeux de calibration ne sont pas publiés.
- Coût à grande échelle
- Aucune API hébergée pour cette version ; le coût, c'est le matériel. Les chiffres de Strata vont d'environ 100 tokens par seconde sur une RTX PRO 6000 Blackwell (version de test) à 59,2 sur quatre R9700 et 20,9 sur une R9700 avec la RAM limitée à 40 Go, puis 8,0 à 16 Go. Prévoyez 182,72 Go d'espace NVMe pour llama.cpp ou 191 Go pour Strata.
- Limites
- Strata utilise par défaut 8 192 tokens de contexte, accepte jusqu'à 1M et n'a rien testé au-delà de 256K. Les profils d'experts fréquents créés pour 384 experts ne se chargent pas. Windows avec NVIDIA n'est pas testé dans Strata 0.2.10, la sortie varie d'un démarrage à l'autre à température 0, et la qualité baisse surtout sur la prose anglaise et le texte multilingue.
Les points forts
- 77,00 sur SWE-bench Verified, 94,8 % du modèle de base (auto-déclaré)
- Transformer de 72,1 Go contre 138,2 Go non élagué
- Licence MIT ; entrée d'images conservée grâce au projecteur de 0,97 Go
- Environ 30 tokens par seconde sur deux RTX 3090 avec 64 Go de RAM (rapport d'utilisateur)
Les points faibles
- KL de 0,777 sur le texte multilingue contre 0,138 pour le jeu non élagué
- Toujours 182,72 Go sur disque ; la table Engram exige du NVMe
- Jeux de calibration non publiés
- Appels d'outils cassés lors de la lecture depuis le SSD dans 1 exécution Strata sur 5
Idéal pour
Les développeurs disposant d'au moins 64 Go de RAM, d'un disque NVMe rapide et d'un ou deux gros GPU qui veulent DeepSeek-V4.1-Flash pour des agents de code sans envoyer leur code à une API.
Alternatives à DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)
DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) : questions fréquentes
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) vaut-il le coup ?
- Une version de 72,1 Go qui conserve 94,8 % du score SWE-bench de DeepSeek-V4.1-Flash selon le test du laboratoire lui-même, au prix d'une prose plus faible, de sorties plus faibles hors anglais et de 110,6 Go de disque supplémentaires. Nous lui donnons 3.9 sur 5.
- Combien coûte DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) ?
- Poids gratuits sous licence MIT, 182,72 Go de fichiers GGUF table Engram comprise ; le coût, c'est le matériel. Le modèle de base complet sur l'API DeepSeek coûte 0,15 $ en entrée / 0,60 $ en sortie par million (1M) de tokens en heures creuses.
- Quels sont les inconvénients de DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) ?
- KL de 0,777 sur le texte multilingue contre 0,138 pour le jeu non élagué; toujours 182,72 Go sur disque ; la table Engram exige du NVMe; jeux de calibration non publiés; appels d'outils cassés lors de la lecture depuis le SSD dans 1 exécution Strata sur 5.
- À qui s’adresse DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) ?
- Les développeurs disposant d'au moins 64 Go de RAM, d'un disque NVMe rapide et d'un ou deux gros GPU qui veulent DeepSeek-V4.1-Flash pour des agents de code sans envoyer leur code à une API.
- Combien coûte DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) pour une équipe ou en production ?
- Aucune API hébergée pour cette version ; le coût, c'est le matériel. Les chiffres de Strata vont d'environ 100 tokens par seconde sur une RTX PRO 6000 Blackwell (version de test) à 59,2 sur quatre R9700 et 20,9 sur une R9700 avec la RAM limitée à 40 Go, puis 8,0 à 16 Go. Prévoyez 182,72 Go d'espace NVMe pour llama.cpp ou 191 Go pour Strata.
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) est-il sûr pour les données de l’entreprise ?
- Licence MIT sans restriction d'usage, héritée du modèle de base. Tout tourne en local ; les jeux de calibration ne sont pas publiés.
- Quelles sont les meilleures alternatives à DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) ?
- Les alternatives les plus proches que nous avons testées sont DeepSeek-V4.1-Flash, Qwen3.8-Flash-Next, Qwen3.8-27B et DeepSeek-V4-Pro.
Réponses vérifiées le 5 nov. 2026.