Test-time compute
Test-time compute (processamento em tempo de teste) é a quantidade de computação que um modelo gasta ao responder a uma requisição, e não durante o treinamento. Deixar um modelo pensar por mais tempo ou tentar várias respostas pode melhorar os resultados em problemas difíceis.
Também chamado: reasoning effort, thinking budget, inference-time compute, inference-time scaling
Por Divya Sharma · Verificado em 15 de nov. de 2026 · Como analisamos
Por anos, a principal forma de conseguir um modelo melhor era treinar um maior por mais tempo. O test-time compute é a outra alavanca: manter o modelo igual e deixá-lo trabalhar mais em cada pergunta. As formas de fazer isso incluem escrever o raciocínio antes de responder, como fazem os modelos de raciocínio, amostrar várias respostas e escolher a melhor, e verificar as respostas com um verificador.
O que a pesquisa mostra
Um artigo de 2024 de Snell e colegas estudou o quanto o processamento extra na inferência ajuda. Ele concluiu que a melhor forma de gastá-lo depende da dificuldade do prompt, e que em alguns problemas um modelo menor com mais test-time compute podia superar um muito maior. Pensar mais tende a ajudar mais em matemática, código e problemas de várias etapas, e pouco em consultas simples.
Esforço de raciocínio e orçamentos de pensamento
As APIs expõem isso como uma configuração. O modo manual de extended thinking da Anthropic usava um valor budget_tokens para quantos tokens o Claude podia gastar raciocinando; os modelos Claude mais novos usam uma configuração de effort no lugar. Outros provedores oferecem opções parecidas de esforço de raciocínio baixo, médio e alto. São esses os nomes "reasoning effort" e "thinking budget" que você vai ver na documentação.
O custo
Os tokens de pensamento geralmente são cobrados como tokens de saída, então mais test-time compute significa um custo maior por requisição no preço por token e respostas mais lentas, incluindo um time to first token mais longo para o texto visível. Defina o esforço por tarefa: baixo para pedidos de rotina, alto só onde os testes mostram que ajuda. Veja nossa pesquisa de preços de modelos de IA para comparar os preços.
Como difere do chain-of-thought
O chain-of-thought é uma técnica, pedir ao modelo que mostre suas etapas. O test-time compute é o orçamento mais amplo, e o chain-of-thought é uma forma de gastá-lo.
Termos relacionados
- Modelo de raciocínio
- Um modelo de raciocínio (reasoning model) é um modelo de linguagem treinado para trabalhar um problema em um fluxo de tokens de pensamento intermediários antes de dar a resposta final, o que tende a ajudar em matemática, código e tarefas com várias etapas.
- Chain-of-thought
- Chain-of-thought (CoT, cadeia de raciocínio) é um método de prompting em que um modelo de linguagem escreve passos intermediários de raciocínio antes da resposta final, o que tende a melhorar os resultados em matemática, lógica e outros problemas de vários passos.
- Preço por token
- O preço por token (token pricing) é a forma como a maioria das APIs de modelos de IA cobra: um preço fixo por milhão de tokens de entrada que você envia e um preço separado, geralmente mais alto, por milhão de tokens de saída que o modelo gera, com descontos para entrada em cache e jobs em lote.
- Tokens de saída
- Tokens de saída (output tokens) são os tokens que um modelo de linguagem gera na resposta. Eles são contados e cobrados separadamente dos tokens de entrada, e uma configuração max_tokens limita quantos uma resposta pode conter.
- Time to first token
- Time to first token (TTFT, tempo até o primeiro token) é quanto um usuário espera entre enviar uma requisição a um modelo de linguagem e receber o primeiro token da resposta, incluindo fila, processamento do prompt e tempo de rede.