O que é Magnitude?
O Magnitude roda modelos abertos no seu próprio computador e os conecta ao agente de código que você já usa. Quando você baixa um modelo, ele passa até um minuto testando no seu chip diferentes formas de dividir o trabalho entre as threads da GPU e guarda a combinação mais rápida que não altera a saída. Cada modelo suportado vem com um drafter de decodificação especulativa (MTP, DFlash, DSpark ou LiLiCorr), e as sessões compartilham caches de prefixo.
O motor é escrito em Rust sobre o compilador e runtime próprios do Magnitude, o Seismic, que tem como alvo CPUs, Apple Metal, NVIDIA CUDA (Ampere e mais recentes) e Vulkan; não há backend ROCm. Ele é distribuído como aplicativo de desktop e CLI para macOS, Windows e Linux, serve APIs compatíveis com OpenAI e Anthropic na porta 10100 e configura Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code, Oh My Pi e Cline em um clique.
O repositório foi criado em 12 de junho de 2026 pela Magnitude AI Inc., tem licença Apache-2.0 e lançou a CLI 0.2.13 em 28 de outubro de 2026, sua terceira versão em três dias.
Magnitude vale a pena?
O Magnitude pode ser mais rápido que os motores que tem como alvo, mas quanto depende muito da máquina, e todos os números de destaque são do próprio fornecedor. No Launch HN da turma S25 da Y Combinator, no início de outubro de 2026, os fundadores afirmaram até o dobro da velocidade do llama.cpp, com base no Qwen 3.6 35B A3B em 4 bits com um prompt de 64K tokens: a decodificação subiu de 30 para 57 tokens por segundo em um Mac com M4 Pro (92%), mas só de 49 para 58 em um DGX Spark (19%), e o prefill ganhou 9% e 23%. A comparação não era equivalente: os fundadores disseram ter rodado o llama.cpp com um cache KV de 16 bits, porque o cache comprimido dele deixava a decodificação mais lenta, enquanto o Magnitude usou o próprio cache comprimido.
A página de benchmarks agora compara com o Ollama v0.35.1, em 11 modelos, em um Mac mini M4 Pro de 48 GB e em um DGX Spark: decodificação em média 2,19 e 2,17 vezes mais rápida, prefill cerca de 1,3 vez. A variação é grande, de 4,84 vezes mais rápido (decodificação do Qwen 3.5 4B no Spark) a 0,76 vez, ou seja, mais lento, no Nemotron 3.5, e a página avisa que o drafting fraco do Ollama em três modelos Gemma infla esses ganhos e que a qualidade das respostas não foi avaliada. Usuários na discussão do Hacker News mostraram o outro lado: em um M5 Max, um deles achou o llama.cpp cerca de duas vezes mais rápido que o Magnitude 0.2.1, outro mediu o rapid-mlx a 175 tokens por segundo contra 161 do Magnitude, e em uma RTX 5070 Ti o llama.cpp decodificou de 20 a 30% mais rápido. Os fundadores disseram que os Macs com M5 são um ponto fraco conhecido, porque os kernels ainda não usam o hardware de matrizes do Metal 4.
Os padrões locais são sensatos. A API escuta em 127.0.0.1:10100 sem chave para a mesma máquina; ativar o acesso pela rede exige uma chave gerada, desacelera tentativas depois de cinco erros e ainda usa HTTP simples, então a documentação recomenda Tailscale, SSH ou um proxy HTTPS. Pela nossa leitura do código, os traces OpenTelemetry vão para um coletor em 127.0.0.1. A conexão com o Claude Code reescreve ~/.claude/settings.json para mandar todas as requisições, inclusive as do Claude hospedado, pelo gateway local do Magnitude, que você precisa manter rodando e depois desfazer.
O ponto em que ele fica atrás do Ollama e do llama.cpp é o alcance. Os builds CUDA deixam de fora placas anteriores à Ampere, GPUs AMD e Intel passam só pelo Vulkan, e a velocidade depende de kernels escritos à mão para as famílias de modelos populares que o Magnitude escolhe suportar. Dois desenvolvedores escreveram quase todo o código, e há 30 issues abertas, incluindo instalações travadas na avaliação do modelo e falhas em Linux que não seja Ubuntu.
Onde ele se destaca
Um desenvolvedor em um Mac Apple silicon de 48 GB que usa o OpenCode
Obter completions locais mais rápidas do que o Ollama entrega no mesmo modelo
Instale o aplicativo, escolha a opção Balanced do Discover e clique em Connect para o OpenCode. No teste do fornecedor com M4 Pro, a decodificação teve em média 2,19 vezes a velocidade do Ollama; confira o seu modelo em Usage, já que três resultados de Gemma no Mac foram inflados pelo drafting fraco do Ollama.
Um estúdio de três pessoas com uma estação de trabalho RTX 4090
Compartilhar um modelo local com todos os notebooks do escritório
Rode `magnitude server setup` para que ele inicie no boot e se atualize sozinho, ative o acesso pela rede e entregue a chave de API a cada notebook. A conexão é HTTP simples, então coloque-a no Tailscale ou atrás de um proxy HTTPS; só a inferência fica disponível remotamente.
Um engenheiro de uma equipe que usa Claude Code e quer uma alternativa offline
Rodar o Claude Code com um modelo local quando os limites do plano acabarem
Conecte o Claude Code pelo Magnitude e inicie com `claude --model anthropic-local/<id>`. A conexão reescreve ~/.claude/settings.json e também passa as requisições hospedadas pelo gateway local, então desconecte e reinicie o Claude Code antes de usá-lo sozinho de novo.
Antes de decidir
- Configuração
- `curl -fsSL https://magnitude.dev/install.sh | sh`, o equivalente em PowerShell ou instaladores .dmg, .exe, .deb, .rpm e pacman. Cada download de modelo acrescenta até um minuto de ajuste de kernels antes do primeiro uso.
- Integrações
- API compatível com OpenAI em 127.0.0.1:10100/inference/v1 e compatível com Anthropic em /inference/anthropic; configuração em um clique para Pi, OpenCode, Hermes, OpenClaw, Codex, Claude Code, Oh My Pi e Cline. Os backends são CPU, Metal, CUDA (Ampere e mais recentes) e Vulkan.
- Dados e privacidade
- Prompts e modelos ficam locais, segundo a documentação; os modelos ficam em ~/.magnitude/models, e os traces OpenTelemetry vão para um coletor em 127.0.0.1, pela nossa leitura do código. Nenhuma chave é necessária na mesma máquina; o acesso pela rede exige uma e usa HTTP simples. Apache-2.0, com cada modelo sob a própria licença.
- Custo em escala
- Nenhuma edição paga está documentada, então o custo é o hardware. Os benchmarks do fornecedor usaram um Mac mini de 48 GB com M4 Pro e um DGX Spark de 128 GB; o modo servidor serve para uma estação de trabalho compartilhada, não para atender muitas requisições simultâneas.
- Limites
- 30 issues abertas, incluindo avaliação de modelo travada (#142) e instalações em Linux que não seja Ubuntu (#22); três versões da CLI em três dias; sem ROCm e sem CUDA anterior à Ampere; a velocidade depende de kernels escritos para as famílias de modelos que ele suporta.
O que é bom
- Ajuste de kernels por máquina mais um drafter para cada modelo suportado
- Harness de benchmark de código aberto e resultados por modelo
- Localhost por padrão; o acesso pela rede exige chave
- Configuração em um clique para Claude Code, Codex, OpenCode, Cline e outros
O que não é
- As alegações de velocidade são autodeclaradas; usuários acharam llama.cpp ou MLX mais rápidos no M5 Max e na RTX 5070 Ti
- Mais lento que o Ollama em alguns modelos, como a decodificação do Nemotron 3.5 no DGX Spark
- Sem ROCm; os builds CUDA exigem placa Ampere ou mais recente
- A integração com o Claude Code passa todas as requisições pelo gateway dele
Ideal para
Desenvolvedores em Apple silicon ou placas NVIDIA recentes que querem um modelo local rápido por trás de um agente de código, com pouca configuração.
Alternativas ao Magnitude
Magnitude: perguntas frequentes
- Magnitude vale a pena?
- Uma ideia inteligente, com ganho real de velocidade em algumas máquinas, mas o 2x do título é medição da própria empresa e não se confirmou no hardware de todos os usuários. Damos nota 3.6 de 5.
- Quanto custa Magnitude?
- Gratuito e de código aberto sob Apache-2.0. Nenhuma edição paga está documentada; as licenças dos modelos são separadas.
- Quais são as desvantagens de Magnitude?
- As alegações de velocidade são autodeclaradas; usuários acharam llama.cpp ou MLX mais rápidos no M5 Max e na RTX 5070 Ti; mais lento que o Ollama em alguns modelos, como a decodificação do Nemotron 3.5 no DGX Spark; sem ROCm; os builds CUDA exigem placa Ampere ou mais recente; a integração com o Claude Code passa todas as requisições pelo gateway dele.
- Para quem Magnitude é indicado?
- Desenvolvedores em Apple silicon ou placas NVIDIA recentes que querem um modelo local rápido por trás de um agente de código, com pouca configuração.
- Quanto custa Magnitude para uma equipe ou em produção?
- Nenhuma edição paga está documentada, então o custo é o hardware. Os benchmarks do fornecedor usaram um Mac mini de 48 GB com M4 Pro e um DGX Spark de 128 GB; o modo servidor serve para uma estação de trabalho compartilhada, não para atender muitas requisições simultâneas.
- Magnitude é seguro para dados da empresa?
- Prompts e modelos ficam locais, segundo a documentação; os modelos ficam em ~/.magnitude/models, e os traces OpenTelemetry vão para um coletor em 127.0.0.1, pela nossa leitura do código. Nenhuma chave é necessária na mesma máquina; o acesso pela rede exige uma e usa HTTP simples. Apache-2.0, com cada modelo sob a própria licença.
- Quais são as melhores alternativas ao Magnitude?
- As alternativas mais próximas que analisamos são Ollama, llama.cpp, MLX e Jan.
Respostas verificadas em 28 de out. de 2026.