¿Qué es DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
Es una versión comprimida de DeepSeek-V4.1-Flash-1017, publicada en Hugging Face el 2 de noviembre de 2026 por ISTA-DASLab, el Distributed Algorithms and Systems Lab del Institute of Science and Technology Austria. Elimina 192 de los 384 expertos enrutados de cada capa y cuantiza el resto, de modo que el transformer de 551,9B parámetros ocupa 72,12 GB, frente a 138,2 GB de la versión IQ2_XXS sin podar del mismo laboratorio. El laboratorio lo llama 1 bit por parámetro: son 1,05 bpw de media sobre el transformer original, contando los expertos eliminados como cero, mientras que los 280,1B parámetros que quedan promedian 2,06 bpw.
El nombre viene de dos métodos del laboratorio. GSQ es una cuantización escalar posterior al entrenamiento que aprende a la vez la asignación a la rejilla y las escalas de grupo mediante muestreo Gumbel-Softmax; según el laboratorio, cierra la mayor parte de la distancia con la cuantización vectorial a pocos bits y sigue escribiendo tipos GGUF estándar. RCO comprime hasta un presupuesto exacto optimizando sobre una variedad de Riemann; aquí eligió qué expertos quitar minimizando la divergencia KL entre el modelo podado y el no podado con datos de calibración orientados a código, uso de herramientas por agentes, contexto largo y visión. Los conjuntos de calibración no se han publicado.
Los pesos conservan la licencia MIT del modelo base. El repositorio contiene cinco fragmentos IQ2_XXS (el primero solo con metadatos), el archivo de consulta Engram de 110,60 GB en IQ4_NL (4,50 bpw), que no se ha podado ni optimizado y se enlaza como sexto fragmento, y un proyector de visión de 0,97 GB: 182,72 GB en total, frente a 248,84 GB de la versión sin podar. Funciona en llama.cpp y en Strata, y Hugging Face contaba 127.948 descargas a 5 de noviembre de 2026.
¿Cuánto cuesta DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
| Plan | Precio | Qué incluye |
|---|---|---|
| Weights | Free | Licencia MIT, heredada de DeepSeek-V4.1-Flash-1017 |
| DeepSeek API (base model) | $0.15 in / $0.60 out per 1M tokens off-peak | Modelo base completo en los servidores de DeepSeek, no esta versión |
Pesos gratuitos con licencia MIT, 182,72 GB de archivos GGUF incluida la tabla Engram; el coste es el hardware. El modelo base completo en la API de DeepSeek cuesta $0,15 de entrada / $0,60 de salida por 1M de tokens fuera de hora punta.
¿Merece la pena DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
Esta versión lleva a una sola estación de trabajo la mayor parte de la capacidad de programación de DeepSeek-V4.1-Flash, y lo que sacrifica es casi todo lo que no es código. En las pruebas del propio ISTA-DASLab con esfuerzo de razonamiento 50, obtiene 77,00 en SWE-bench Verified frente a 81,20 del modelo base en FP8/FP4 (conserva el 94,8%) y 88,57 frente a 89,71 en LiveCodeBench v6 (98,7%). El laboratorio atribuye la mayor caída en SWE-bench a errores que se acumulan en tareas de agente largas y de muchos turnos. No hemos encontrado ninguna ejecución independiente de SWE-bench.
Las mediciones de Strata muestran dónde cae la pérdida. Al comparar las distribuciones de salida con el modelo completo en 4.995 posiciones, el Coder tiene una divergencia KL de 0,397 y elige el mismo token principal el 76,4% de las veces, frente a 0,171 y 83,7% del conjunto sin podar de 2,00 bpw; la perplejidad sube de 3,140 en el modelo completo a 4,645. Por tipo de contenido, la KL es de 0,230 en código y 0,199 en trazas de agente, pero de 0,476 en prosa inglesa y 0,777 en texto multilingüe, donde el conjunto sin podar se queda en 0,138. La batería propia de Strata de 61 tareas aprueba 54. La ficha del modelo lo reconoce: califica la publicación de experimental y remite el uso general a las versiones GSQ-RCO sin podar.
La promesa de una sola GPU hay que leerla con cuidado. Lo que va a la GPU es el transformer de 72,1 GB; la tabla Engram de 110,6 GB se queda mapeada en memoria en el disco y se lee una fila por token, así que una unidad NVMe rápida forma parte de los requisitos, y la ficha no da cifras de RAM ni de VRAM. Las notas de la versión 0.2.10 de Strata cubren ese hueco: de 20,9 a 21,9 tokens por segundo en un Ryzen AI Max de 128 GB, de 19,1 a 22,5 en un Apple M5 Max con un pico de 74 GB de memoria y 59,2 con cuatro tarjetas Radeon AI PRO R9700. Un usuario que escribe en note.com midió una media de 29,8 tokens por segundo con dos RTX 3090 y 64 GB de RAM a 64K de contexto, unas tres veces los 10,1 de una versión UD-IQ1_M sin podar en la misma máquina.
Frente al modelo base, el ahorro está en la memoria rápida, no en el disco. Nuestra reseña de DeepSeek-V4.1-Flash sitúa el checkpoint oficial en unos 765 GB, más de lo que cabe en un nodo de ocho H100; la versión IQ2_XXS sin podar del laboratorio ocupa 248,84 GB y esta 182,72 GB, de los que el archivo Engram compartido supone 110,60 GB en ambos casos. La poda solo reduce la parte que tiene que estar en VRAM o RAM, que es la que marca la velocidad en equipos de consumo. Para equipos que pueden enviar código a la API de DeepSeek, $0,15 por millón de tokens de entrada fuera de hora punta sale más barato que cualquiera de este hardware; el Coder es para código que debe quedarse en tus propias máquinas.
Las asperezas están documentadas. Strata indica que Windows con tarjeta NVIDIA aún no se ha probado, las respuestas pueden variar entre arranques incluso a temperatura 0, y cuando la mayor parte del modelo se lee desde el SSD, una de cada cinco ejecuciones produjo una llamada a herramienta rota con un marcador DSML dentro del argumento. Con el modelo entero en memoria, las 8 llamadas a herramientas salieron correctas.
Dónde se gana su sitio
Un desarrollador con dos RTX 3090 y 64 GB de RAM
Ejecutar un agente de programación local sobre un repositorio privado
Ejecuta strata launch --model ISTA-DAS-Coder en Strata 0.2.10, una primera descarga de 191 GB que incluye un drafter de 8 GB, y apunta Claude Code u OpenCode a la API de localhost. Un usuario midió una media de 29,8 tokens por segundo a 64K de contexto; un pull request de Strata midió 25,27 a 8K con dos 3090 y 121 GB de RAM.
El CTO de una consultora de software de 20 personas sujeta a confidencialidad con sus clientes
Tener ayuda de programación al nivel de DeepSeek sin la API de DeepSeek alojada en China
Un solo equipo Ryzen AI Max de 128 GB lo ejecuta a entre 20,9 y 21,9 tokens por segundo según las notas de versión de Strata, sin factura por token y con licencia MIT. La documentación de clientes en otros idiomas conviene dejarla en la versión sin podar, cuya KL multilingüe es de 0,138 frente a 0,777 del Coder.
Un investigador de ML que estudia la compresión de modelos
Comparar la poda de expertos con la cuantización simple a pocos bits en un mismo modelo
El archivo kept-experts.json del repositorio enumera los 192 expertos conservados por capa, y el repositorio GSQ-RCO sin podar del laboratorio ofrece IQ1_M (1,75 bpw), IQ2_XXS (2,00) e IQ2_XS (2,25) del mismo checkpoint. La tabla de KL por dominio de Strata da una referencia lista para código, agentes, documentos, inglés y texto multilingüe.
Antes de decidirte
- Puesta en marcha
- Descarga con hf download --include "IQ2_XXS/*" "*Engram*", enlaza el archivo Engram como fragmento 6 (ln -s, o mklink /H en Windows) y ejecuta llama.cpp b11870 o posterior con -m sobre el fragmento 1 y -ngl 99, añadiendo --mmproj para imágenes y --reasoning on --reasoning-effort 50. En Strata 0.2.10 un solo comando descarga 191 GB, o unos 80 GB si ya tienes el archivo Engram.
- Integraciones
- llama.cpp (llama-cli, llama-server y llama-mtmd-cli con --jinja para visión) y Strata, que sirve APIs compatibles con OpenAI y Anthropic en localhost. El laboratorio dice que las versiones se ajustaron junto con Strata.
- Datos y privacidad
- Licencia MIT sin restricciones de uso, heredada del modelo base. Todo se ejecuta en local; los conjuntos de calibración no se han publicado.
- Coste a escala
- No hay API alojada para esta versión; el coste es el hardware. Las cifras de Strata van de unos 100 tokens por segundo en una RTX PRO 6000 Blackwell (versión de prueba) a 59,2 con cuatro R9700 y 20,9 con una R9700 con la RAM limitada a 40 GB, que bajan a 8,0 con 16 GB. Reserva 182,72 GB de espacio NVMe para llama.cpp o 191 GB para Strata.
- Límites
- Strata usa por defecto 8.192 tokens de contexto, acepta hasta 1M y no ha probado nada por encima de 256K. Los perfiles de expertos frecuentes creados para 384 expertos no cargan. Windows con NVIDIA no está probado en Strata 0.2.10, la salida varía entre arranques a temperatura 0 y la calidad cae sobre todo en prosa inglesa y texto multilingüe.
Lo bueno
- 77,00 en SWE-bench Verified, el 94,8% del modelo base (autodeclarado)
- Transformer de 72,1 GB frente a 138,2 GB sin podar
- Licencia MIT; conserva la entrada de imágenes con el proyector de 0,97 GB
- Unos 30 tokens por segundo con dos RTX 3090 y 64 GB de RAM (informe de un usuario)
Lo malo
- KL de 0,777 en texto multilingüe frente a 0,138 del conjunto sin podar
- Sigue ocupando 182,72 GB en disco; la tabla Engram necesita NVMe
- Los conjuntos de calibración no se han publicado
- Llamadas a herramientas rotas al leer desde el SSD en 1 de 5 ejecuciones de Strata
Ideal para
Desarrolladores con 64 GB o más de RAM, una unidad NVMe rápida y una o dos GPU grandes que quieren DeepSeek-V4.1-Flash para agentes de programación sin enviar código a una API.
Alternativas a DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)
DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF): preguntas frecuentes
- ¿Merece la pena DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- Una versión de 72,1 GB que conserva el 94,8% de la puntuación de DeepSeek-V4.1-Flash en SWE-bench según la prueba del propio laboratorio, a cambio de peor prosa, peor salida en idiomas distintos del inglés y otros 110,6 GB de disco. Le damos un 3.9 sobre 5.
- ¿Cuánto cuesta DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- Pesos gratuitos con licencia MIT, 182,72 GB de archivos GGUF incluida la tabla Engram; el coste es el hardware. El modelo base completo en la API de DeepSeek cuesta $0,15 de entrada / $0,60 de salida por 1M de tokens fuera de hora punta.
- ¿Qué inconvenientes tiene DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- KL de 0,777 en texto multilingüe frente a 0,138 del conjunto sin podar; sigue ocupando 182,72 GB en disco; la tabla Engram necesita NVMe; los conjuntos de calibración no se han publicado; llamadas a herramientas rotas al leer desde el SSD en 1 de 5 ejecuciones de Strata.
- ¿Para quién es DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- Desarrolladores con 64 GB o más de RAM, una unidad NVMe rápida y una o dos GPU grandes que quieren DeepSeek-V4.1-Flash para agentes de programación sin enviar código a una API.
- ¿Cuánto cuesta DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) para un equipo o en producción?
- No hay API alojada para esta versión; el coste es el hardware. Las cifras de Strata van de unos 100 tokens por segundo en una RTX PRO 6000 Blackwell (versión de prueba) a 59,2 con cuatro R9700 y 20,9 con una R9700 con la RAM limitada a 40 GB, que bajan a 8,0 con 16 GB. Reserva 182,72 GB de espacio NVMe para llama.cpp o 191 GB para Strata.
- ¿Es DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF) seguro para los datos de la empresa?
- Licencia MIT sin restricciones de uso, heredada del modelo base. Todo se ejecuta en local; los conjuntos de calibración no se han publicado.
- ¿Cuáles son las mejores alternativas a DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)?
- Las alternativas más cercanas que hemos analizado son DeepSeek-V4.1-Flash, Qwen3.8-Flash-Next, Qwen3.8-27B y DeepSeek-V4-Pro.
Respuestas comprobadas el 5 nov 2026.