Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Notícias e pesquisa de IA

Pesquisa ·

SparseRead corta até 92,9% dos tokens de um agente lendo só o necessário

SparseRead, um preprint, é uma camada de controle que limita quanto de uma página, documento ou resposta de ferramenta um agente lê, sem mudar o modelo. Em seis modelos, incluindo o Claude Opus 5, e cinco cenários, reduziu o total de tokens em até 92,9% e o tempo em até 89,0%, mantendo ou melhorando a qualidade em 97% dos casos.

Boa parte da conta de um agente de IA não vem de pensar, mas de ler. Quando um agente abre uma página, um PDF ou a resposta de uma ferramenta, costuma engolir tudo, e esse texto depois vai junto em cada chamada seguinte ao modelo. Trabalhos anteriores citados num novo preprint estimam que observações externas respondem por 60% a 80% dos tokens processados pelos agentes. O SparseRead propõe que os agentes leiam como as pessoas: decidir o que precisam, olhar o trecho relevante e só abrir o documento inteiro quando isso não basta.

O SparseRead fica entre o agente e suas fontes e não exige mudar o modelo. O agente diz o que procura numa breve intenção de leitura; a camada devolve um pacote limitado de evidências ligado à fonte, mais um registro do que foi e do que não foi examinado, e o agente decide se é suficiente. Leitores diferentes cuidam de texto e PDF, tabelas e JSON, coleções de vários arquivos e código. Uma porta de orçamento limita quanto conteúdo bruto um episódio pode expor e recorre à visão completa quando leituras parciais custariam mais, por exemplo em arquivos pequenos.

Os autores testaram 30 configurações, seis modelos em cinco cenários, entre eles Claude Opus 5, GLM-5.1 e Kimi-K2.5. Os tokens caíram de 15,7% a 92,9% e o tempo de execução de 23,0% a 89,0%, com medianas de 61,4% e 53,7%. A qualidade se manteve ou melhorou em 29 das 30 configurações; a exceção foi o GLM-5.1 numa tarefa científica. A maior economia veio em documentos longos. Na busca profunda na web, a tarefa mais conhecida, os tokens caíram de 31,0% a 43,0% e o tempo de 23,0% a 37,0%, enquanto as notas subiram de 5 a 14 pontos, sinal de que menos poluição pode significar respostas melhores. Diante de métodos de recuperação e de corte de contexto, o SparseRead foi o único que manteve ou melhorou as notas em todas as configurações testadas.

Para quem paga agentes pelo Claude Code, pelo Codex ou por uma API, isso mexe com dinheiro de verdade, e o fato de até um modelo forte como o Opus 5 economizar de 41,0% a 89,0% dos tokens sugere que modelos melhores não fazem o problema sumir. Também se encaixa numa tendência maior: a infraestrutura de agentes passa de janelas de contexto maiores para um controle mais esperto do que entra nelas.

As ressalvas são as de sempre num preprint. Os cenários e o framework de agentes, o NanoBot, foram escolhidos pelos autores, e os 92,9% do título vêm da leitura de documentos longos, o caso mais favorável à ideia. Páginas reais são mais bagunçadas que tarefas de benchmark, e um leitor que deixa passar o único parágrafo que importava falha em silêncio. O trabalho não passou por revisão por pares.

Nossa opinião: Ler demais é um dos maiores custos ocultos na conta de um agente, então isso mira dinheiro de verdade. A economia de 31,0 a 43,0% de tokens em busca profunda na web é um número mais realista que o máximo do título.

Fonte: arXiv (Hugging Face Daily Papers)

Mais matérias