Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Test-time compute

Test-time compute (processamento em tempo de teste) é a quantidade de computação que um modelo gasta ao responder a uma requisição, e não durante o treinamento. Deixar um modelo pensar por mais tempo ou tentar várias respostas pode melhorar os resultados em problemas difíceis.

Também chamado: reasoning effort, thinking budget, inference-time compute, inference-time scaling

Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos

Por anos, a principal forma de conseguir um modelo melhor era treinar um maior por mais tempo. O test-time compute é a outra alavanca: manter o modelo igual e deixá-lo trabalhar mais em cada pergunta. As formas de fazer isso incluem escrever o raciocínio antes de responder, como fazem os modelos de raciocínio, amostrar várias respostas e escolher a melhor, e verificar as respostas com um verificador.

O que a pesquisa mostra

Um artigo de 2024 de Snell e colegas estudou o quanto o processamento extra na inferência ajuda. Ele concluiu que a melhor forma de gastá-lo depende da dificuldade do prompt, e que em alguns problemas um modelo menor com mais test-time compute podia superar um muito maior. Pensar mais tende a ajudar mais em matemática, código e problemas de várias etapas, e pouco em consultas simples.

Esforço de raciocínio e orçamentos de pensamento

As APIs expõem isso como uma configuração. O modo manual de extended thinking da Anthropic usava um valor budget_tokens para quantos tokens o Claude podia gastar raciocinando; os modelos Claude mais novos usam uma configuração de effort no lugar. Outros provedores oferecem opções parecidas de esforço de raciocínio baixo, médio e alto. São esses os nomes "reasoning effort" e "thinking budget" que você vai ver na documentação.

O custo

Os tokens de pensamento geralmente são cobrados como tokens de saída, então mais test-time compute significa um custo maior por requisição no preço por token e respostas mais lentas, incluindo um time to first token mais longo para o texto visível. Defina o esforço por tarefa: baixo para pedidos de rotina, alto só onde os testes mostram que ajuda. Veja nossa pesquisa de preços de modelos de IA para comparar os preços.

Como difere do chain-of-thought

O chain-of-thought é uma técnica, pedir ao modelo que mostre suas etapas. O test-time compute é o orçamento mais amplo, e o chain-of-thought é uma forma de gastá-lo.

Termos relacionados

Modelo de raciocínio
Um modelo de raciocínio (reasoning model) é um modelo de linguagem treinado para trabalhar um problema em um fluxo de tokens de pensamento intermediários antes de dar a resposta final, o que tende a ajudar em matemática, código e tarefas com várias etapas.
Chain-of-thought
Chain-of-thought (CoT, cadeia de raciocínio) é um método de prompting em que um modelo de linguagem escreve passos intermediários de raciocínio antes da resposta final, o que tende a melhorar os resultados em matemática, lógica e outros problemas de vários passos.
Preço por token
O preço por token (token pricing) é a forma como a maioria das APIs de modelos de IA cobra: um preço fixo por milhão de tokens de entrada que você envia e um preço separado, geralmente mais alto, por milhão de tokens de saída que o modelo gera, com descontos para entrada em cache e jobs em lote.
Tokens de saída
Tokens de saída (output tokens) são os tokens que um modelo de linguagem gera na resposta. Eles são contados e cobrados separadamente dos tokens de entrada, e uma configuração max_tokens limita quantos uma resposta pode conter.
Time to first token
Time to first token (TTFT, tempo até o primeiro token) é quanto um usuário espera entre enviar uma requisição a um modelo de linguagem e receber o primeiro token da resposta, incluindo fila, processamento do prompt e tempo de rede.

Fontes