Saltar al contenido
ReviewRamble

El boletín semanal

La IA, analizada, en tu bandeja de entrada.

  • Nuevas reseñas de herramientas, modelos, servidores MCP y repos, con el veredicto por delante
  • Precios y valoraciones revisados cuando algo cambia
  • Nuevos análisis en cuanto se publican

Modelos, agentes, servidores MCP y las herramientas que de verdad merecen tu tiempo.

Un correo a la semana. Date de baja con el enlace de cualquier boletín. Cómo usamos tu correo

DwarfStar (ds4)

Motor de inferencia en C de antirez para un puñado de grandes modelos abiertos, DeepSeek V4 Flash primero, en Mac de 96 GB o más, DGX Spark y Strix Halo.

Reseña de ReviewRamble editors · Actualizado

Ver en GitHub Código abierto

Comparte esta página:XLinkedInFacebookRedditWhatsAppCorreo

Nuestra nota

4.1/5

ds4 consigue que modelos abiertos de primer nivel funcionen a una velocidad útil en un solo Mac grande o un DGX Spark negándose a ser general, y eso explica tanto su rapidez como que puedas perder tu modelo en el próximo commit.

¿Qué es DwarfStar (ds4)?

DwarfStar, publicado como ds4, es un pequeño motor de inferencia nativo escrito en C por Salvatore Sanfilippo (antirez, el creador de Redis). Admite a propósito solo unos pocos modelos: DeepSeek V4 Flash y V4.1 Flash, DeepSeek V4 PRO, GLM 5.2, 5.3 y 5.3 Flash, y Qwen3.8 Flash Next. No es un ejecutor GGUF general; solo carga los archivos GGUF que produce el propio proyecto.

El repositorio incluye una CLI multiturno (`ds4`), un agente de programación nativo (`ds4-agent`), un servidor HTTP (`ds4-server`) con endpoints de chat y Responses al estilo OpenAI y un endpoint de mensajes al estilo Anthropic, y `ds4-eval` para pruebas de regresión de capacidades. Metal en Apple silicon es el objetivo principal, con CUDA (DGX Spark y tarjetas multi-GPU como la L40S) y ROCm en Strix Halo. El streaming desde SSD permite ejecutar desde disco modelos más grandes que la RAM, y dos máquinas pueden compartir un modelo mediante RDMA o un pipeline por capas.

¿Merece la pena DwarfStar (ds4)?

ds4 es la vía más directa para ejecutar DeepSeek V4 Flash en hardware que una persona puede tener. El README apunta a Mac con 96 GB o más para DeepSeek y GLM, 64 GB para Qwen3.8 Flash Next, y la descarga inicial, Flash Q2, ocupa unos 81 GiB. El sitio de la comunidad registra 34,4 tokens por segundo de generación y 557 tokens por segundo de prefill con 32K de contexto en un M5 Max de 128 GB, y el README indica unos 126 tokens por segundo agregados en 16 sesiones con ocho tarjetas L40S. El repositorio tiene unas 24.400 estrellas en GitHub desde su primer commit en mayo de 2026.

El alcance estrecho es el diseño, no un accidente. En lugar de un cargador genérico, cada modelo tiene sus propias plantillas de prompt, formato de llamadas a herramientas, receta de cuantización y gestión de la caché KV, y el proyecto prueba juntos la carga, las llamadas a herramientas, el servidor y el agente. El streaming desde SSD amplía el alcance: la versión Q2 de Qwen3.8 deja 95,37 GiB de tablas de n-gramas en disco y solo 41,73 GiB de pesos en memoria, así que un SSD local rápido pasa a formar parte de los requisitos de hardware.

El servidor escucha en 127.0.0.1:8000 por defecto, y la documentación indica poner autenticación y TLS delante antes de exponerlo con --host 0.0.0.0; no describe autenticación integrada. Las sesiones guardadas del agente viven en ~/.ds4/kvcache y, como advierte el README, pueden contener información privada.

La pega: el README califica el software como calidad beta y dice que un modelo puede retirarse cuando llegue uno mejor, así que una configuración que funciona hoy no es una promesa para el mes que viene. No hay versiones etiquetadas, solo una rama main en movimiento con unos 873 issues y pull requests abiertos. El código se escribe con mucha ayuda de agentes de programación con IA, algo que el proyecto declara abiertamente, y su respuesta documentada a las funciones que faltan es pedir a tu propio agente que las añada.

Nuestra opinión: para un desarrollador con un Mac de 128 GB que quiere un modelo local lo bastante bueno para sustituir en parte a un asistente de programación de pago, ds4 es hoy mejor apuesta que un ejecutor general; quien necesite un servidor estable y con soporte para un equipo debería fijar un commit y mantener llama.cpp como alternativa.

Dónde se gana su sitio

  • Un desarrollador freelance con un MacBook Pro de 128 GB

    Usar Claude Code con un modelo local cuando la factura de la API o las normas de datos de un cliente impiden la nube

    Descarga Flash Q2 (unos 81 GiB), arranca `ds4-server` y apunta la URL base de Anthropic de Claude Code hacia él, siguiendo la guía de clientes. El coste es el portátil y la electricidad; el sitio de la comunidad registra unos 34 tokens por segundo de generación en un M5 Max.

  • Un pequeño equipo de ML con un rack de tarjetas L40S

    Servir DeepSeek V4 Flash a varios usuarios internos sin comprar GPU más nuevas

    Compila con `make cuda-generic` y ejecuta el servidor con varias sesiones; el README indica unos 126 tokens por segundo agregados en 16 sesiones con ocho tarjetas L40S. Pon delante un proxy con autenticación y TLS, ya que la documentación no describe ninguno de los dos.

  • Un investigador que compara recetas de cuantización

    Comprobar que un modelo sigue respondiendo bien tras una cuantización agresiva de expertos a 2 bits

    Ejecuta `ds4-eval` con la suite core o hard contra cada GGUF y compara las trazas; el repositorio también incluye herramientas para crear archivos GGUF y datos imatrix.

Antes de decidirte

Puesta en marcha
Clona el repositorio, ejecuta `make` (o `make cuda-spark`, `make strix-halo`, `make cuda-generic`) y luego `./download_model.sh ds4f-q2`; la descarga del modelo es la parte lenta, con unos 81 GiB.
Integraciones
Endpoints de chat y Responses de OpenAI y de mensajes de Anthropic, con herramientas y streaming SSE; configuraciones documentadas para Pi, OpenCode, Codex CLI y Claude Code.
Datos y privacidad
Todo se ejecuta en local; el servidor se enlaza a 127.0.0.1:8000 salvo que pases --host. Las sesiones guardadas en ~/.ds4/kvcache pueden contener conversaciones privadas. El README no menciona telemetría.
Coste a escala
Sin coste de licencia. El coste real es el hardware: 96 GB o más de memoria unificada para DeepSeek o GLM, o varias tarjetas CUDA, más espacio en SSD rápido para los GGUF más grandes.
Límites
Una lista fija de modelos compatibles que puede cambiar; sin versiones etiquetadas; las sesiones con imágenes aún no se pueden guardar; sin autenticación ni TLS documentados.

Lo bueno

  • Ejecuta DeepSeek V4 Flash a unos 34 tokens por segundo en un Mac de 128 GB, según las cifras del proyecto
  • Servidor compatible con OpenAI y Anthropic que funciona con Claude Code, Codex CLI y OpenCode
  • El streaming desde SSD y RDMA entre dos máquinas llevan los modelos más allá de la RAM de una sola máquina
  • Solo local por defecto: el servidor se enlaza a 127.0.0.1

Lo malo

  • Solo cargan los archivos GGUF del propio proyecto; los modelos pueden desaparecer
  • Calidad beta, sin versiones etiquetadas, unos 873 issues y pull requests abiertos
  • Necesita 64 GB como mínimo y un SSD rápido para los modelos más grandes
  • Sin autenticación documentada si abres el servidor a una red

Ideal para

Desarrolladores con un Mac de 96 GB o más, un DGX Spark o un equipo Strix Halo que quieren DeepSeek V4 Flash o GLM 5.3 Flash en local detrás de su agente de programación.

Alternativas a DwarfStar (ds4)

DwarfStar (ds4): preguntas frecuentes

¿Merece la pena DwarfStar (ds4)?
ds4 consigue que modelos abiertos de primer nivel funcionen a una velocidad útil en un solo Mac grande o un DGX Spark negándose a ser general, y eso explica tanto su rapidez como que puedas perder tu modelo en el próximo commit. Le damos un 4.1 sobre 5.
¿Cuánto cuesta DwarfStar (ds4)?
Gratuito y de código abierto (MIT). Sin plan alojado ni de pago; tú pones el hardware y descargas los pesos.
¿Qué inconvenientes tiene DwarfStar (ds4)?
Solo cargan los archivos GGUF del propio proyecto; los modelos pueden desaparecer; calidad beta, sin versiones etiquetadas, unos 873 issues y pull requests abiertos; necesita 64 GB como mínimo y un SSD rápido para los modelos más grandes; sin autenticación documentada si abres el servidor a una red.
¿Para quién es DwarfStar (ds4)?
Desarrolladores con un Mac de 96 GB o más, un DGX Spark o un equipo Strix Halo que quieren DeepSeek V4 Flash o GLM 5.3 Flash en local detrás de su agente de programación.
¿Cuánto cuesta DwarfStar (ds4) para un equipo o en producción?
Sin coste de licencia. El coste real es el hardware: 96 GB o más de memoria unificada para DeepSeek o GLM, o varias tarjetas CUDA, más espacio en SSD rápido para los GGUF más grandes.
¿Es DwarfStar (ds4) seguro para los datos de la empresa?
Todo se ejecuta en local; el servidor se enlaza a 127.0.0.1:8000 salvo que pases --host. Las sesiones guardadas en ~/.ds4/kvcache pueden contener conversaciones privadas. El README no menciona telemetría.
¿Cuáles son las mejores alternativas a DwarfStar (ds4)?
Las alternativas más cercanas que hemos analizado son llama.cpp, Ollama y MLX.

Respuestas comprobadas el 16 nov 2026.

¿Desarrollas DwarfStar (ds4)? Muestra esta nota en tu webDwarfStar (ds4): nota de 4.1 sobre 5 en ReviewRamble