A maioria das tentativas de deixar modelos de linguagem melhores em problemas difíceis ou coloca mais conhecimento dentro do modelo ou entrega a ele trechos relevantes buscados com antecedência. Um preprint do Shanghai AI Laboratory e de parceiros universitários tenta um terceiro caminho: ensinar o modelo a estudar. Diante de um exercício de matemática e do livro-texto de onde ele saiu, sem a resolução, o modelo precisa achar os capítulos certos, ler as definições e os teoremas e depois escrever uma demonstração. Os autores chamam isso de autoaprendizagem, e importa porque se aproxima mais de como uma pessoa encara um assunto que ainda não conhece.
A proposta tem duas partes. O BookNavigator é uma ferramenta que deixa o modelo olhar o sumário, pular para seções e lê-las enquanto raciocina. O treino usa então aprendizado por reforço, com recompensas por uma demonstração final correta, avaliada por outro modelo de linguagem em comparação com a solução de referência oculta, mais dois sinais mais finos: um bônus por consultar o livro que vai diminuindo ao longo do treino e um crédito para chamadas de ferramenta que realmente ajudaram. O conjunto de dados reúne 5.183 problemas de demonstração tirados de 158 livros de matemática avançada.
Os números principais são grandes. O Intern-S2-Preview-35B resolvia 51,5% dos problemas antes do treino, pior até que os 55,7% que alcançava sem livro nenhum. Depois do treino, chegou a 79,5%, 11 pontos acima do mesmo modelo treinado sem o livro e 6,4 pontos acima do melhor método que só buscava de antemão as seções mais relevantes. Em livros e matérias deixados de fora do treino, marcou 85,2% e 86,7%. Um achado se destaca: treinar só com a correção também elevou a precisão, para 74,9%, mas o modelo praticamente parou de abrir o livro, e o uso da ferramenta caiu de 36,9% das tentativas para 6,7%. Foi preciso o bônus de exploração para que ele continuasse lendo.
Isso se liga a uma mudança mais ampla na forma de construir agentes. Agentes de programação e assistentes de pesquisa já decidem o que ler antes de agir, e os resultados sugerem que dá para treinar um modelo para melhorar essa etapa de leitura, e não só a resposta.
Há motivos para cautela. O artigo é um preprint e não passou por revisão por pares. Os maiores ganhos aparecem numa tarefa criada pelos próprios autores, e a correção das demonstrações é avaliada por um modelo de linguagem, não por matemáticos, então é provável que haja algum erro na pontuação. A melhora em benchmarks externos é bem menor, 1,7 ponto no BrowseComp-Plus e 2,3 no CL-bench, e todas as versões treinadas foram piores que o modelo base numa categoria do CL-bench, a de seguir procedimentos passo a passo. Esses números modestos de transferência são o guia mais justo do que o método oferece além da matemática de livro-texto.