Rodar um modelo grande e capaz no próprio notebook significava ou um modelo pequeno ou uma máquina caríssima. A Edge0, cujo modelo de 35B para celular já avaliamos, agora afirma ter um modelo de 145 bilhões de parâmetros que roda num notebook bem equipado com pico de memória medido de 29GB, com pesos e código de inferência publicados abertamente. Se os números se confirmarem, isso leva agentes de programação locais sérios a máquinas que muitos desenvolvedores já têm.
O desenho explica como esse número de memória é possível. O Edge0-145B é um modelo de mistura de especialistas em que cada grupo de 64 especialistas compartilha duas grandes matrizes, e cada especialista guarda só um pequeno conjunto de parâmetros próprios; cerca de 10B parâmetros ficam ativos a cada passo. O motor distribui o modelo em três camadas: os especialistas mais usados ficam na memória da GPU, uma biblioteca de especialistas de cerca de 40GB fica na memória do sistema e cerca de 48GB de dados de vocabulário ficam no SSD e são lidos sob demanda. CPU e GPU trabalham em paralelo, e a decodificação especulativa confere vários tokens candidatos de uma vez. A Edge0 relata mais de 80 tokens por segundo.
Os números de desempenho são fortes. A Edge0 informa 64,6 no DeepSWE 1.1, 86,52 no Terminal-Bench 2.1, 90,4 no GPQA-Diamond e 80,6 no IFBench, e média de 72,8 em seis benchmarks contra 71,7 do Qwen3.8-Flash-Next, cuja implantação padrão em 4 bits ela estima em 70GB. Isso coloca o Edge0 em cerca de 40% dessa memória e faz de um notebook de 48GB o mínimo prático. O suporte inicial cobre macOS, Windows e Linux, incluindo chips Apple da série M e placas NVIDIA RTX.
Para quem roda modelos locais com llama.cpp, Ollama ou LM Studio, o interessante é o desenho por streaming, mais que a contagem de parâmetros. Manter a maioria dos especialistas fora da GPU e ler o vocabulário do SSD é uma troca diferente de simplesmente quantizar mais, e depende de armazenamento rápido. A Edge0 também diz que publicou toda a pilha para que os resultados possam ser reproduzidos.
As dúvidas são grandes. Os resultados de Qwen, DeepSeek e Claude vêm de avaliações internas da Edge0, os números de memória dos concorrentes são estimativas ainda não medidas e o relatório técnico com a configuração completa ainda não saiu. Os dados de velocidade e memória vêm de testes da própria Edge0 num notebook não especificado. Nossa avaliação da versão de 35B encontrou engenharia cuidadosa, mas com quase todos os números de velocidade fornecidos pelos criadores, e essa cautela vale aqui até surgirem testes independentes.