O que é DwarfStar (ds4)?
DwarfStar, publicado como ds4, é um pequeno motor de inferência nativo escrito em C por Salvatore Sanfilippo (antirez, o criador do Redis). Ele suporta de propósito só alguns modelos: DeepSeek V4 Flash e V4.1 Flash, DeepSeek V4 PRO, GLM 5.2, 5.3 e 5.3 Flash, e Qwen3.8 Flash Next. Não é um executor GGUF genérico; carrega apenas os arquivos GGUF que o próprio projeto produz.
O repositório traz uma CLI multiturno (`ds4`), um agente de programação nativo (`ds4-agent`), um servidor HTTP (`ds4-server`) com endpoints de chat e Responses no estilo OpenAI e um endpoint de mensagens no estilo Anthropic, e o `ds4-eval` para testes de regressão de capacidades. Metal no Apple silicon é o alvo principal, com CUDA (DGX Spark e placas multi-GPU como a L40S) e ROCm no Strix Halo. O streaming a partir do SSD permite rodar do disco modelos maiores que a RAM, e duas máquinas podem dividir um modelo via RDMA ou pipeline por camadas.
DwarfStar (ds4) vale a pena?
O ds4 é o caminho mais direto para rodar o DeepSeek V4 Flash em hardware que uma pessoa pode ter. O README mira Macs com 96 GB ou mais para DeepSeek e GLM, 64 GB para o Qwen3.8 Flash Next, e o download inicial, Flash Q2, tem cerca de 81 GiB. O site da comunidade registra 34,4 tokens por segundo de geração e 557 tokens por segundo de prefill com contexto de 32K em um M5 Max de 128 GB, e o README informa cerca de 126 tokens por segundo agregados em 16 sessões com oito placas L40S. O repositório tem cerca de 24.400 estrelas no GitHub desde o primeiro commit, em maio de 2026.
O escopo estreito é o projeto, não um acidente. Em vez de um carregador genérico, cada modelo tem seus próprios templates de prompt, formato de chamada de ferramentas, receita de quantização e tratamento do cache KV, e o projeto testa juntos o carregamento, as chamadas de ferramentas, o servidor e o agente. O streaming a partir do SSD amplia o alcance: a versão Q2 do Qwen3.8 mantém 95,37 GiB de tabelas de n-gramas em disco e só 41,73 GiB de pesos na memória, então um SSD local rápido passa a fazer parte do requisito de hardware.
O servidor escuta em 127.0.0.1:8000 por padrão, e a documentação manda colocar autenticação e TLS na frente antes de expô-lo com --host 0.0.0.0; ela não descreve autenticação embutida. As sessões salvas do agente ficam em ~/.ds4/kvcache e, como o README avisa, podem conter informações privadas.
O porém: o README chama o software de qualidade beta e diz que um modelo pode ser removido quando surgir um melhor, então uma configuração que funciona hoje não é garantia para o mês que vem. Não há versões marcadas, só uma branch main em movimento com cerca de 873 issues e pull requests abertos. O código é escrito com muita ajuda de agentes de programação com IA, o que o projeto declara abertamente, e sua resposta documentada para recursos que faltam é pedir ao seu próprio agente que os adicione.
Nossa opinião: para um desenvolvedor com um Mac de 128 GB que quer um modelo local bom o bastante para substituir em parte um assistente de programação pago, o ds4 é hoje uma aposta melhor que um executor genérico; quem precisa de um servidor estável e com suporte para uma equipe deve fixar um commit e manter o llama.cpp como reserva.
Onde ele se destaca
Um desenvolvedor freelancer com um MacBook Pro de 128 GB
Usar o Claude Code com um modelo local quando a conta da API ou as regras de dados de um cliente vetam a nuvem
Baixe o Flash Q2 (cerca de 81 GiB), inicie o `ds4-server` e aponte a URL base da Anthropic no Claude Code para ele, seguindo o guia de clientes. O custo é o notebook e a energia; o site da comunidade registra cerca de 34 tokens por segundo de geração em um M5 Max.
Uma pequena equipe de ML com um rack de placas L40S
Servir o DeepSeek V4 Flash a vários usuários internos sem comprar GPUs mais novas
Compile com `make cuda-generic` e rode o servidor com várias sessões; o README informa cerca de 126 tokens por segundo agregados em 16 sessões com oito placas L40S. Coloque na frente um proxy com autenticação e TLS, já que a documentação não descreve nenhum dos dois.
Uma pesquisadora que compara receitas de quantização
Verificar se um modelo ainda responde corretamente após quantização agressiva dos especialistas em 2 bits
Rode o `ds4-eval` com a suíte core ou hard contra cada GGUF e compare os traces; o repositório também inclui ferramentas para gerar arquivos GGUF e dados imatrix.
Antes de decidir
- Configuração
- Clone o repositório, rode `make` (ou `make cuda-spark`, `make strix-halo`, `make cuda-generic`) e depois `./download_model.sh ds4f-q2`; o download do modelo é a parte lenta, com cerca de 81 GiB.
- Integrações
- Endpoints de chat e Responses da OpenAI e de mensagens da Anthropic, com ferramentas e streaming SSE; configurações documentadas para Pi, OpenCode, Codex CLI e Claude Code.
- Dados e privacidade
- Tudo roda localmente; o servidor se vincula a 127.0.0.1:8000, a menos que você passe --host. Sessões salvas em ~/.ds4/kvcache podem conter conversas privadas. O README não menciona telemetria.
- Custo em escala
- Sem custo de licença. O custo real é o hardware: 96 GB ou mais de memória unificada para DeepSeek ou GLM, ou várias placas CUDA, além de espaço em SSD rápido para os arquivos GGUF maiores.
- Limites
- Uma lista fixa de modelos suportados que pode mudar; sem versões marcadas; sessões com imagens ainda não podem ser salvas; sem autenticação nem TLS documentados.
O que é bom
- Roda o DeepSeek V4 Flash a cerca de 34 tokens por segundo em um Mac de 128 GB, segundo os números do projeto
- Servidor compatível com OpenAI e Anthropic que funciona com Claude Code, Codex CLI e OpenCode
- Streaming do SSD e RDMA entre duas máquinas levam os modelos além da RAM de uma só máquina
- Apenas local por padrão: o servidor se vincula a 127.0.0.1
O que não é
- Só os arquivos GGUF do próprio projeto carregam; modelos podem ser removidos
- Qualidade beta, sem versões marcadas, cerca de 873 issues e pull requests abertos
- Exige no mínimo 64 GB e um SSD rápido para os modelos maiores
- Sem autenticação documentada se você abrir o servidor para a rede
Ideal para
Desenvolvedores com um Mac de 96 GB ou mais, um DGX Spark ou uma máquina Strix Halo que querem o DeepSeek V4 Flash ou o GLM 5.3 Flash rodando localmente por trás do seu agente de programação.
Alternativas ao DwarfStar (ds4)
DwarfStar (ds4): perguntas frequentes
- DwarfStar (ds4) vale a pena?
- O ds4 faz modelos abertos de ponta rodarem em velocidade útil em um único Mac grande ou DGX Spark ao se recusar a ser genérico, e é por isso que ele é rápido e também por isso que você pode perder seu modelo no próximo commit. Damos nota 4.1 de 5.
- Quanto custa DwarfStar (ds4)?
- Gratuito e de código aberto (MIT). Sem plano hospedado ou pago; você fornece o hardware e baixa os pesos.
- Quais são as desvantagens de DwarfStar (ds4)?
- Só os arquivos GGUF do próprio projeto carregam; modelos podem ser removidos; qualidade beta, sem versões marcadas, cerca de 873 issues e pull requests abertos; exige no mínimo 64 GB e um SSD rápido para os modelos maiores; sem autenticação documentada se você abrir o servidor para a rede.
- Para quem DwarfStar (ds4) é indicado?
- Desenvolvedores com um Mac de 96 GB ou mais, um DGX Spark ou uma máquina Strix Halo que querem o DeepSeek V4 Flash ou o GLM 5.3 Flash rodando localmente por trás do seu agente de programação.
- Quanto custa DwarfStar (ds4) para uma equipe ou em produção?
- Sem custo de licença. O custo real é o hardware: 96 GB ou mais de memória unificada para DeepSeek ou GLM, ou várias placas CUDA, além de espaço em SSD rápido para os arquivos GGUF maiores.
- DwarfStar (ds4) é seguro para dados da empresa?
- Tudo roda localmente; o servidor se vincula a 127.0.0.1:8000, a menos que você passe --host. Sessões salvas em ~/.ds4/kvcache podem conter conversas privadas. O README não menciona telemetria.
- Quais são as melhores alternativas ao DwarfStar (ds4)?
- As alternativas mais próximas que analisamos são llama.cpp, Ollama e MLX.
Respostas verificadas em 16 de nov. de 2026.