MIT 연구진이 GPT-6 Astra로 소형 모델의 가중치를 다시 써서 고장을 고치는 모습을 보여 준 지 몇 주 만에, 같은 수리를 언어 모델 없이도 할 수 있다고 주장하는 새 arXiv 프리프린트가 나왔습니다. Tree-Ising은 이 수리를 가중치의 저장 비트에 대한 수학 문제로 정식화해 솔버에 맡깁니다. 결과가 유지된다면 가중치 편집은 에이전트의 통찰보다 최적화 문제를 올바르게 세우는 일에 더 가까울 수 있습니다.
대상은 Qwen3.5-0.8B의 알려진 결함입니다. 사고 모드에서 32,768토큰 한도 아래 MATH-500 문제의 93%에서 짧은 반복 루프에 빠지며, 그 결과 정확도가 7.9%에 그칩니다. Astra 에이전트는 루프의 원인을 MLP 15층과 19층까지 추적하고 각 층에서 64개 열을 다시 써서 이를 고쳤습니다. 에이전트의 공개 로그에 따르면 158턴, 8,970만 토큰, 50회의 순전파 요청, 15.6시간이 들었고, 저자들은 비용을 $312로 계산했습니다.
Tree-Ising은 각 가중치에 두 가지 변경만 허용합니다. 부호를 뒤집거나 2의 거듭제곱만큼 이동하는 것으로, BF16 저장 방식의 공유 지수는 건드리지 않습니다. 따라서 모든 후보 변경이 예 또는 아니요의 선택이 되고, 목적 함수는 출력 행마다 하나의 이징 문제로 정확히 분해되며 GPU가 시뮬레이티드 어닐링으로 풉니다. 같은 두 층에서 동일한 평가 기준으로 MATH-500 54.6%를 기록해 에이전트 편집의 51.7%를 앞섰고, 두 번째 솔버인 시뮬레이티드 분기는 55.1%를 얻었습니다. 바꾸는 가중치는 13% 적고, 순전파 요청 4회와 LLM 토큰 0개가 필요하며, 약 31분 동안 대략 $0.90의 비용으로 실행됩니다. 더 큰 Qwen3.5-2B에서는 참고할 편집이 없는 상태에서 GSM8K 정확도가 21.6%에서 69.4%로 올랐습니다.
저희 GPT-6 Astra 리뷰를 읽은 독자에게 이는 이야기를 바로잡는 유용한 자료입니다. 에이전트의 성과는 결함과 방향, 층을 찾아낸 데 있습니다. Tree-Ising은 그 뒤에 에이전트의 로그를 읽고 설계되었으며, 작은 모델에서는 에이전트가 고른 두 층을 그대로 쓰고 편집 강도도 에이전트의 편집에 맞춰 보정합니다. 따라서 비용 비교는 처음부터 찾아내는 과정과 이미 알려진 방법을 적용하는 과정을 맞댄 것이며, 저자들도 이를 인정합니다.
한계는 넓습니다. 연구는 한 가지 결함, 같은 계열의 두 모델, 수학 벤치마크만 다루며 일반 언어 능력에 대한 부작용은 측정하지 않았습니다. 기준 점수는 다시 측정하지 않고 MIT 보고서에서 가져왔고, 각 벤치마크는 시드 하나로만 실행되었으며, 다중 비교에 대한 가장 엄격한 보정 후에도 유의한 것은 MATH-500과 GSM8K의 향상뿐입니다. 동료 심사를 거치지 않은 프리프린트이며, 저렴하고 검증 가능한 수리는 실제로 배포할 만한 모델에서 효과가 입증될 때 비로소 큰 가치를 가집니다.