O que é Strata?
O Strata é um motor de inferência local construído em torno de alguns grandes modelos mixture-of-experts: Qwen3.8-Flash-Next (125B parâmetros com 6B ativos, mais um embedding de n-gramas de 51B), Qwen3.6-35B-A3B e DeepSeek V4.1-Flash. Em vez de exigir o modelo inteiro na memória gráfica, ele mantém os experts mais usados na GPU, guarda todos os experts na RAM do sistema, onde a CPU calcula os que faltam à GPU, e lê a tabela de n-gramas de 28,8 GB do modelo a partir do SSD, algumas linhas por token. A camada de previsão de múltiplos tokens do próprio modelo rascunha tokens adiante.
Ele vem como app de desktop para Windows, Linux e macOS e como ferramenta de terminal (`strata launch`), serve APIs compatíveis com OpenAI e Anthropic em localhost e inclui um agente de programação e entrada de imagens. O hardware suportado vai das séries NVIDIA RTX 20 a 50 e placas AMD Radeon recentes à Intel Arc no Linux, Apple silicon, Ryzen AI Max e, desde a 0.2.7.1, o NVIDIA DGX Spark.
O repositório foi criado em 24 de setembro de 2026, tem licença MIT, aproveita partes do ggml do llama.cpp e é quase inteiramente obra de um único desenvolvedor, Niko1221, com 3.594 commits contra 29 do colaborador seguinte.
Strata vale a pena?
O Strata torna viável um modelo aberto de porte de fronteira em um PC de games, mas "qualquer hardware de consumo" é exagero. Os pacotes ISTA-DASLab do Qwen3.8-Flash-Next precisam de 37,6 GB (Q2_0) a 54,8 GB (IQ3_S) de RAM e VRAM somadas, e a documentação diz que a RAM precisa cobrir os experts mais cerca de 10 GB, então uma máquina de 64 GB é o piso realista. Nessa máquina, os números impressionam: as medições do próprio projeto em uma RTX 5070 12 GB com um Ryzen 5 7600 mostram 93 tokens por segundo de saída com contexto de 4K no Q2_0 e 53 no IQ3_S, de qualidade mais alta.
Esses números são autodeclarados, mas excepcionalmente bem documentados, e pessoas de fora acrescentaram os seus. Um relato da comunidade em uma Radeon RX 9070 16 GB mediu 58,7 tokens por segundo decodificando IQ3_XXS a 4K, mantendo perto de 58 a 130K. Nem todo relato o favorece: a issue #2464, ainda aberta, descreve a decodificação do Qwen3.6-35B-A3B em uma V100 caindo de 109 para 14,6 tokens por segundo com contexto de 114K no beta 0.2.0, enquanto, segundo quem relatou, o llama.cpp se manteve em cerca de 90. Prompts longos também levam tempo: com 32K tokens, a primeira palavra chega depois de uns 25 segundos.
A documentação de segurança é melhor do que a da maioria dos apps comerciais. Ela lista cada conexão de rede que o código faz, afirma que não há telemetria, liga o servidor a 127.0.0.1, se recusa a compartilhá-lo com outros dispositivos sem uma chave de API e verifica as atualizações contra um feed assinado com Ed25519 e os arquivos de modelo contra hashes SHA-256 fixados. As lacunas também são nomeadas: o instalador do Windows não tem assinatura de código, as chaves de serviços de modelos externos ficam sem criptografia em um arquivo acessível só ao usuário, e o servidor do motor puro apenas avisa se você o abrir para a rede sem chave.
O risco real é o formato do projeto. Um desenvolvedor escreveu quase tudo em cerca de cinco semanas, há 507 issues abertas, e as releases chegam a cada poucos dias com longas listas de opções por GPU. O llama.cpp suporta muito mais modelos e hardware, com um time de mantenedores profundo; o Colibri, em C puro, também faz streaming de pesos mixture-of-experts a partir do disco. A vantagem do Strata é a profundidade em um punhado de modelos, o que também significa que ele só é tão útil quanto o Qwen3.8-Flash-Next e o DeepSeek V4.1-Flash forem para você.
Onde ele se destaca
Um desenvolvedor com uma RTX 3060 ou 5070 e 64 GB de RAM
Rodar localmente um grande modelo de programação para o Claude Code ou o OpenCode
Instale o app ou execute `strata launch`, escolha Q2_0 ou IQ2_XS, e então `strata connect` imprime as configurações para o agente. O projeto mede de 79 a 93 tokens por segundo em uma RTX 5070 com contexto curto; o custo é o hardware e cerca de 40 GB de arquivos de modelo.
Uma consultoria de dez pessoas que lida com código de clientes que não pode sair do escritório
Dar à equipe um assistente privado compartilhado em uma única estação de trabalho
Rode o Strata em um PC com uma placa de 24 GB e ative Share with other devices, que não inicia sem uma chave de API e expõe apenas os endpoints de chat. Chats simultâneos dividem o throughput de uma única GPU; os testes do projeto no DGX Spark mostraram que vários chats basicamente repartem a velocidade que um chat sozinho obtém.
Um entusiasta com um DGX Spark ou uma máquina Ryzen AI Max de 128 GB
Experimentar o DeepSeek V4.1-Flash sem um rack de servidores
Escolha o conjunto de 2,00 bpw, um download de 257 GB, e deixe cerca de 265 GB livres em um drive NVMe. O projeto relata de 19 a 21 tokens por segundo em código no Strix Halo; em placas NVIDIA de 12 GB são de 4 a 11, porque a maior parte de cada token espera pelo SSD.
Antes de decidir
- Configuração
- Instaladores de desktop para Windows, Linux e macOS nas GitHub Releases, ou um script de shell ou PowerShell de uma linha seguido de `strata launch`. O download do modelo (cerca de 37 a 55 GB para o Qwen3.8-Flash-Next) toma a maior parte do tempo até a primeira resposta.
- Integrações
- APIs compatíveis com OpenAI e Anthropic em localhost; `strata connect` imprime a configuração para Claude Code, Codex CLI, OpenCode, Hermes Agent, OpenClaw e outros. Builds CUDA, HIP, SYCL e Metal, além de instalações via Docker e a partir do código-fonte.
- Dados e privacidade
- Sem telemetria, segundo a página de segurança, que lista cada conexão que o código faz. O servidor se liga a 127.0.0.1; o compartilhamento exige uma chave de API. As atualizações são assinadas com Ed25519 e os arquivos de modelo são verificados contra hashes SHA-256 fixados; as chaves de serviços externos ficam armazenadas sem criptografia. O Strata é MIT, e o Qwen3.8-Flash-Next está sob a Qwen Community License 1.0.
- Custo em escala
- Não há edição paga; o projeto aceita doações. O custo é um PC com placa de vídeo de 12 GB ou mais e cerca de 64 GB de RAM para o Qwen3.8-Flash-Next, mais uns 265 GB livres em NVMe para o DeepSeek V4.1-Flash.
- Limites
- 507 issues abertas e releases a cada poucos dias. Apenas algumas famílias de modelos; o DeepSeek roda com contexto de 8K; a decodificação com contexto longo em GPUs mais antigas tem regressões em aberto (issue #2464); as velocidades variam entre execuções porque os experts em cache mudam.
O que é bom
- Roda o Qwen3.8-Flash-Next em uma GPU de 12 GB com 64 GB de RAM
- Relatórios de velocidade detalhados e reproduzíveis do autor e da comunidade
- Sem telemetria, localhost por padrão, atualizações assinadas e hashes de modelo fixados
- APIs compatíveis com OpenAI e Anthropic para Claude Code, Codex e OpenCode
O que não é
- Precisa de uns 40 a 55 GB de RAM mais VRAM, apesar do discurso de qualquer hardware
- Quase inteiramente um único desenvolvedor; 507 issues abertas
- Suporta apenas algumas famílias de modelos
- O instalador do Windows não tem assinatura de código
Ideal para
Donos de uma placa de vídeo de 12 a 24 GB e 64 GB ou mais de RAM que querem um grande modelo aberto para agentes de programação na própria máquina.
Alternativas ao Strata
Strata: perguntas frequentes
- Strata vale a pena?
- Uma forma realmente engenhosa de rodar um modelo de 125B parâmetros em uma placa de vídeo de 12 GB, desde que você tenha 64 GB de RAM e consiga conviver com um projeto de uma pessoa só que muda toda semana. Damos nota 4.0 de 5.
- Quanto custa Strata?
- Gratuito e de código aberto sob a licença MIT; financiado por doações. Os arquivos de modelo têm licenças próprias (o Qwen3.8-Flash-Next usa a Qwen Community License 1.0).
- Quais são as desvantagens de Strata?
- Precisa de uns 40 a 55 GB de RAM mais VRAM, apesar do discurso de qualquer hardware; quase inteiramente um único desenvolvedor; 507 issues abertas; suporta apenas algumas famílias de modelos; o instalador do Windows não tem assinatura de código.
- Para quem Strata é indicado?
- Donos de uma placa de vídeo de 12 a 24 GB e 64 GB ou mais de RAM que querem um grande modelo aberto para agentes de programação na própria máquina.
- Quanto custa Strata para uma equipe ou em produção?
- Não há edição paga; o projeto aceita doações. O custo é um PC com placa de vídeo de 12 GB ou mais e cerca de 64 GB de RAM para o Qwen3.8-Flash-Next, mais uns 265 GB livres em NVMe para o DeepSeek V4.1-Flash.
- Strata é seguro para dados da empresa?
- Sem telemetria, segundo a página de segurança, que lista cada conexão que o código faz. O servidor se liga a 127.0.0.1; o compartilhamento exige uma chave de API. As atualizações são assinadas com Ed25519 e os arquivos de modelo são verificados contra hashes SHA-256 fixados; as chaves de serviços externos ficam armazenadas sem criptografia. O Strata é MIT, e o Qwen3.8-Flash-Next está sob a Qwen Community License 1.0.
- Quais são as melhores alternativas ao Strata?
- As alternativas mais próximas que analisamos são llama.cpp, colibri e Ollama.
Respostas verificadas em 28 de out. de 2026.