Wenige Wochen nachdem Forschende am MIT gezeigt hatten, wie GPT-6 Astra ein kleines Modell durch Umschreiben seiner Gewichte repariert, argumentiert ein neuer arXiv-Preprint, dass dieselbe Reparatur ganz ohne Sprachmodell gelingt. Tree-Ising formuliert die Korrektur als mathematisches Problem über die gespeicherten Bits der Gewichte und übergibt es einem Löser. Hält das Ergebnis, hängt das Editieren von Gewichten womöglich weniger von der Einsicht eines Agenten ab als von der richtig gestellten Optimierungsfrage.
Ziel ist ein bekannter Fehler von Qwen3.5-0.8B. Im Denkmodus gerät es bei 93% der MATH-500-Aufgaben unter einer Grenze von 32.768 Tokens in kurze Wiederholungsschleifen und kommt so nur auf 7,9% Genauigkeit. Der Astra-Agent behob das, indem er die Schleifen bis zu den MLP-Schichten 15 und 19 zurückverfolgte und in jeder 64 Spalten neu schrieb. Laut den öffentlichen Protokollen des Agenten brauchte das 158 Runden, 89,7 Millionen Tokens, 50 Forward-Pass-Anfragen und 15,6 Stunden; die Autoren beziffern die Kosten auf 312 $.
Tree-Ising erlaubt pro Gewicht nur zwei Arten von Änderung: einen Vorzeichenwechsel oder eine Verschiebung um eine Zweierpotenz, sodass die gemeinsamen Exponenten im BF16-Speicher unberührt bleiben. Damit wird jede mögliche Änderung zu einer Ja-oder-Nein-Entscheidung, und das Ziel zerfällt exakt in ein Ising-Problem pro Ausgabezeile, das eine GPU per simuliertem Annealing löst. Auf denselben zwei Schichten erreicht es 54,6% auf MATH-500 gegenüber 51,7% für die Änderung des Agenten bei gleicher Auswertung, ein zweiter Löser, simulierte Bifurkation, kommt auf 55,1%. Es ändert 13% weniger Gewichte, braucht vier Forward-Pass-Anfragen und null LLM-Tokens und läuft in etwa 31 Minuten für rund 0,90 $. Beim größeren Qwen3.5-2B, ohne Referenzänderung als Vorlage, steigt die GSM8K-Genauigkeit von 21,6% auf 69,4%.
Für alle, die unseren Test von GPT-6 Astra kennen, ist das eine nützliche Korrektur der Geschichte. Die Leistung des Agenten lag darin, den Fehler, die Richtung und die Schichten zu finden; Tree-Ising wurde danach anhand der Agentenprotokolle entworfen, übernimmt beim kleinen Modell dessen zwei Schichten und kalibriert die Dosis an dessen Änderung. Der Kostenvergleich stellt also eine komplette Suche der Anwendung eines bekannten Rezepts gegenüber, was die Autoren auch einräumen.
Die Grenzen sind weit gesteckt. Die Studie behandelt einen Fehlertyp, zwei Modelle einer Familie und nur Mathe-Benchmarks; Nebenwirkungen auf die allgemeine Sprachfähigkeit wurden nicht gemessen. Der Ausgangswert stammt aus dem MIT-Bericht und wurde nicht neu ermittelt, jeder Benchmark lief mit nur einem Seed, und nur die Gewinne auf MATH-500 und GSM8K halten der strengsten Korrektur für Mehrfachvergleiche stand. Es ist ein nicht begutachteter Preprint, und eine günstige, nachprüfbare Reparatur ist erst dann viel wert, wenn jemand zeigt, dass sie bei einem Modell funktioniert, das man tatsächlich einsetzen würde.