언어 모델의 수학 학습 데이터는 대부분 출처인 책과 그 논리의 흐름에서 떨어져 나온 낱개의 질문과 답 쌍으로 제 공됩니다. University of Science and Technology of China, Shanghai AI Laboratory, Fudan University, Shanghai Jiao Tong University 연구진이 낸 새 arXiv 프리프린트는 그 구조를 지킬 가치가 있다고 주장합니다. 이들의 코퍼스 TOME-Math는 29개 과목에 걸친 대학 교재 2,118권을 증명 레코드 380,292건으로 바꾸었고, 이를 학습한 모델은 훨씬 큰 공개 데이터셋으로 학습한 모델보다 더 크게 향상됐습니다.
파이프라인은 각 항목이 책의 어디에 있는지, 증명이 어느 정리에 속하는지, 무엇에 의존하는지, 어디서 가져왔는지를 기록합니다. 또 교재의 증명이 빠르게 넘어가는 단계로부터 '빈틈' 문제를 만듭니다. 연구진은 테스트용으로 64권을 따로 빼 둔 뒤 364,631건의 레코드로 Qwen3-30B-A3B-Base를 1에포크 미세조정했습니다. 6개 벤치마크(자체 TOME-LongForm과 TOME-Objective, ProofNet, MiniF2F, MATH-500, AIME 2026)의 평균은 29.17%에서 45.83%로 올랐습니다. 6개 중 5개에서 1위, AIME 2026에서는 2위였습니다.
더 흥미로운 부분은 공개 데이터와의 비교입니다. OpenMathInstruct-1은 1.82M개 예제로 약 4.8배 많지만, TOME으로 학습한 모델은 6개 벤치마크 모두에서 이를 앞섰고 MetaMathQA와 MathInstruct도 앞질렀습니다. 이어서 통제된 실험이 구조 자체를 검증합니다. 책 순서대로 장을 따라가며 빈틈 문제를 먼저 학습하는 방식은 과목과 데이터 양의 18개 조합 모두에서 뒤섞은 데이터보다 나았고, 가장 큰 예산에서는 격차가 7.72포인트까지 벌어졌습니다. 같은 예산을 8권이 아닌 16권에 나누자 평균 3.3포인트가 더해졌습니다.
이 결과는 데이터의 양만큼 정리 방식도 중요할 수 있다는 모델 학습의 더 넓은 교훈과 맞닿아 있습니다. 베이스 모델은 저희가 리뷰하는 Qwen3.6과 같은 Qwen 계열이며, 이 방법은 폐쇄형 API가 아니라 그런 오픈 모델을 겨냥합니다. 증명 작업용 모델을 고르는 사람에게는 수학 능력이 미세조정 데이터의 형태에 크게 좌우되며, 업체가 이를 거의 공개하지 않는다는 점을 시사합니다.
한계도 분명합니다. 이 논문은 프리프린트이며 동료 심사를 거치지 않았습니다. 긴 증명은 모델인 gpt-5.6-luna가 답안마다 8번 검토해 채점하며, 사람이 전부 채점하는 대신 사람의 보정 점검으로 보완합니다. 저자들도 공개 데이터셋이 여러 면에서 자신들의 것과 다르기 때문에 주요 비교만으로는 구조가 원인이라고 증명할 수 없다고 인정합니다. 시험한 베이스 모델은 하나뿐입니다. 코퍼스 공개는 날짜와 라이선스 없이 약속됐고, 저작권이 있는 교재 2,118권의 권리를 어떻게 처리할지도 논문은 설명하지 않습니다.