Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Test-time compute

Le test-time compute (calcul au moment de l'inférence) est la quantité de calcul qu'un modèle consacre à répondre à une requête, et non à l'entraînement. Laisser un modèle réfléchir plus longtemps ou essayer plusieurs réponses peut améliorer les résultats sur les problèmes difficiles.

Aussi appelé : reasoning effort, thinking budget, inference-time compute, inference-time scaling

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

Pendant des années, le principal moyen d'obtenir un meilleur modèle était d'en entraîner un plus grand, plus longtemps. Le test-time compute est l'autre levier : garder le même modèle et lui faire fournir plus de travail pour chaque question. On peut pour cela écrire un raisonnement avant de répondre, comme le font les modèles de raisonnement, échantillonner plusieurs réponses et choisir la meilleure, ou vérifier les réponses avec un vérificateur.

Ce que montre la recherche

Un article de 2024 de Snell et ses collègues a étudié dans quelle mesure du calcul supplémentaire au moment de l'inférence aide. Il a constaté que la meilleure façon de le dépenser dépend de la difficulté du prompt, et que sur certains problèmes un modèle plus petit doté de plus de test-time compute pouvait battre un modèle bien plus grand. La réflexion supplémentaire aide surtout en mathématiques, en code et sur les problèmes à plusieurs étapes, et peu sur les recherches simples.

Effort de raisonnement et budgets de réflexion

Les API exposent cela sous forme de réglage. Le mode manuel d'extended thinking d'Anthropic utilisait une valeur budget_tokens pour le nombre de tokens que Claude pouvait consacrer au raisonnement ; les modèles Claude plus récents utilisent plutôt un réglage d'effort. D'autres fournisseurs proposent des options similaires d'effort de raisonnement bas, moyen et élevé. Ce sont les noms « reasoning effort » et « thinking budget » que vous verrez dans les documentations.

Le coût

Les tokens de réflexion sont généralement facturés comme des tokens de sortie : plus de test-time compute signifie donc un coût par requête plus élevé selon la tarification au token et des réponses plus lentes, y compris un time to first token plus long pour le texte visible. Réglez l'effort par tâche : bas pour les requêtes courantes, élevé seulement là où les tests montrent qu'il aide. Consultez notre étude sur les prix des modèles d'IA pour comparer les prix.

En quoi il diffère du chain-of-thought

Le chain-of-thought est une technique, qui consiste à demander à un modèle de montrer ses étapes. Le test-time compute est le budget plus large, que le chain-of-thought est une façon de dépenser.

Termes liés

Modèle de raisonnement
Un modèle de raisonnement (reasoning model) est un modèle de langage entraîné à résoudre un problème au fil d'un flux de tokens de réflexion intermédiaires avant de donner sa réponse finale, ce qui aide généralement en mathématiques, en code et sur les tâches à plusieurs étapes.
Chain-of-thought
Le chain-of-thought (CoT, chaîne de pensée) est une méthode de prompting dans laquelle un modèle de langage écrit des étapes de raisonnement intermédiaires avant sa réponse finale, ce qui tend à améliorer les résultats en mathématiques, en logique et sur d'autres problèmes en plusieurs étapes.
Tarification au token
La tarification au token (token pricing) est la façon dont la plupart des API de modèles d'IA facturent : un prix fixe par million de tokens d'entrée envoyés et un prix distinct, généralement plus élevé, par million de tokens de sortie générés par le modèle, avec des remises pour les entrées en cache et les traitements batch.
Tokens de sortie
Les tokens de sortie (output tokens) sont les tokens qu'un modèle de langage génère dans sa réponse. Ils sont comptés et facturés séparément des tokens d'entrée, et un réglage max_tokens plafonne le nombre qu'une réponse peut contenir.
Time to first token
Le time to first token (TTFT, délai avant le premier token) est le temps qu'un utilisateur attend entre l'envoi d'une requête à un modèle de langage et la réception du premier token de sa réponse, ce qui couvre la mise en file d'attente, le traitement du prompt et le temps réseau.

Sources