言語モデルの数学学習データの多くは、出典となった書籍やその論理の流れから切り離された、ばらばらの問答ペアとして用意されます。University of Science and Technology of China、Shanghai AI Laboratory、Fudan University、Shanghai Jiao Tong Universityの研究者による新しいarXivプレプリントは、その構造こそ残す価値があると主張しています。コーパスTOME-Mathは、29科目にわたる2,118冊の大学教科書を380,292件の証明レコードに変換したもので、これで学習したモデルは、はるかに大きな公開データセットで学習したモデルよりも大きく伸びました。
パイプラインは、各項目が本のどこにあるか、証明がどの定理に属するか、何に依存するか、どこから取られたかを記録します。さらに、教科書の証明が手短に済ませている段階から「ギャップ」問題を作ります。チームはテスト用に64冊を取り分けたうえで、364,631件のレコードを使いQwen3-30B-A3B-Baseを1エポック微調整しました。6つのベンチマーク(独自のTOME-LongFormとTOME-Objective、ProofNet、MiniF2F、MATH-500、AIME 2026)の平均は29.17%から45.83%に上がりました。6つのうち5つで首位、AIME 2026では2位でした。
より興味深いのは公開データとの比較です。OpenMathInstruct-1は1.82M件と約4.8倍の規模ですが、TOMEで学習したモデルは6つのベンチマークすべてでこれを上回り、MetaMathQAとMathInstructにも勝りました。続いて、管理された実験で構造そのものを検証しています。章を本の順に学習し、ギャップ問題を先に置く方法は、科目とデータ量の18通りの組み合わせすべてでシャッフルしたデータを上回 り、最大の予算では差が7.72ポイントに広がりました。同じ予算を8冊ではなく16冊に分散させると、平均で3.3ポイント上積みされました。
この結果は、データの量と同じくらい整理の仕方が効くという、モデル学習の広い教訓に沿うものです。ベースモデルは当サイトがレビューしているQwen3.6と同じQwenファミリーに属し、この手法はクローズドなAPIではなく、そうしたオープンモデルを想定しています。証明作業向けのモデルを選ぶ人にとっては、数学の能力が微調整データの形に大きく左右され、しかもベンダーがそれをほとんど開示しないことを示唆しています。
限界もはっきりしています。これはプレプリントで、査読を経ていません。長い証明の採点はモデルのgpt-5.6-lunaが各回答を8回見直して行い、人間による全面的な採点ではなく、人間による較正チェックで補っています。著者自身、公開データセットは複数の点で自分たちのものと異なるため、主要な比較だけでは構造が原因だとは証明できないと認めています。試したベースモデルは1つだけです。コーパスの公開は日付もライセンスも示されないまま約束されており、著作権のある2,118冊の教科書の権利をどう扱うかも論文は説明していません。