Poucas semanas depois de pesquisadores do MIT mostrarem o GPT-6 Astra consertando um modelo pequeno ao reescrever seus pesos, um novo preprint no arXiv defende que o mesmo conserto pode ser feito sem nenhum modelo de linguagem. O Tree-Ising trata a correção como um problema matemático sobre os bits armazenados dos pesos e a entrega a um solucionador. Se o resultado se confirmar, editar pesos pode depender menos da percepção de um agente e mais de formular a pergunta de otimização certa.
O alvo é uma falha conhecida do Qwen3.5-0.8B. No modo de raciocínio, ele cai em ciclos curtos e repetitivos em 93% dos problemas do MATH-500 com limite de 32.768 tokens, o que o deixa com 7,9% de acerto. O agente Astra corrigiu isso rastreando os loops até as camadas MLP 15 e 19 e reescrevendo 64 colunas em cada uma. Segundo os registros públicos do agente, foram necessários 158 turnos, 89,7 milhões de tokens, 50 requisições de passagem direta e 15,6 horas, custo que os autores calculam em US$ 312.
O Tree-Ising permite só dois tipos de mudança em cada peso: inverter o sinal ou deslocá-lo por uma potência de dois, de modo que os expoentes compartilhados do armazenamento BF16 ficam intactos. Assim, cada mudança candidata vira uma escolha de sim ou não, e o objetivo se divide exatamente em um problema de Ising por linha de saída, que uma GPU resolve com recozimento simulado. Nas mesmas duas camadas ele chega a 54,6% no MATH-500, contra 51,7% da edição do agente na mesma avaliação, e um segundo solucionador, a bifurcação simulada, chega a 55,1%. Ele altera 13% menos pesos, precisa de quatro requisições de passagem direta e zero tokens de LLM, e roda em cerca de 31 minutos por aproximadamente US$ 0,90. No modelo maior, o Qwen3.5-2B, sem edição de referência para copiar, o acerto no GSM8K sobe de 21,6% para 69,4%.
Para quem acompanha nossa análise do GPT-6 Astra, isso corrige a história de forma útil. O mérito do agente foi encontrar a falha, a direção e as camadas; o Tree-Ising foi projetado depois, a partir dos registros do agente, reaproveita as duas camadas dele no modelo menor e calibra a dose pela edição dele. A comparação de custos, portanto, coloca uma busca completa contra a aplicação de uma receita já conhecida, e os autores admitem isso.
Os limites são amplos. O estudo cobre uma única falha, dois modelos de uma mesma família e apenas testes de matemática; efeitos colaterais na capacidade geral de linguagem não foram medidos. A pontuação base vem do relatório do MIT, sem nova execução, cada teste usou uma única semente e só os ganhos no MATH-500 e no GSM8K resistem à correção mais rígida para comparações múltiplas. É um preprint sem revisão por pares, e um conserto barato e auditável vai valer mais quando alguém mostrar que funciona em um modelo que você de fato colocaria em produção.