Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Context rot

Le context rot (dégradation du contexte) est la baisse de précision et de fiabilité d'un modèle de langage à mesure que son entrée s'allonge, même quand cette entrée tient encore dans la fenêtre de contexte et que l'information nécessaire s'y trouve.

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

Une grande fenêtre de contexte vous dit combien de texte un modèle acceptera, pas s'il l'utilisera bien. Le context rot est l'écart entre les deux. À mesure que les prompts s'allongent, les modèles ratent des faits, confondent des passages similaires et suivent moins fidèlement les instructions.

Les éléments de preuve

Le rapport de Chroma de juillet 2025 a testé 18 modèles, dont GPT-4.1, Claude 4, Gemini 2.5 et Qwen3, et a constaté que les performances baissaient avec la longueur de l'entrée dans toutes les expériences, souvent de façon irrégulière et surprenante. Les tests simples de l'aiguille dans une botte de foin, où un modèle n'a qu'à trouver une phrase, masquent une grande partie du phénomène, car les vraies tâches exigent du modèle qu'il raisonne sur ce qu'il trouve et ignore les distracteurs qui se ressemblent.

Pourquoi c'est important pour les agents

Les agents accumulent les sorties d'outils, les contenus de fichiers et les anciens tours, si bien que leur contexte grossit de lui-même. Passé un certain point, plus de contexte rend l'agent moins bon. C'est l'une des principales raisons d'être du context engineering : ne mettre dans la fenêtre que ce dont l'étape suivante a besoin.

Comment le réduire

Récupérez les quelques passages pertinents par génération augmentée par récupération au lieu de coller des documents entiers. Résumez les longs historiques par compaction du contexte. Confiez les tâches annexes à un sous-agent pour que leur sortie n'atteigne jamais le fil principal. Placez les instructions les plus importantes là où le modèle les voit clairement, et testez votre propre tâche aux tailles de contexte que vous utilisez réellement, car le déclin varie selon le modèle et la tâche.

Termes liés

Compaction du contexte
La compaction du contexte (context compaction) est l'étape où un agent résume une conversation qui approche de la limite de sa fenêtre de contexte et poursuit dans une nouvelle fenêtre qui part de ce résumé, afin qu'une longue tâche puisse continuer.
Context engineering
Le context engineering (ingénierie du contexte) consiste à choisir et entretenir tout ce qui entre dans la fenêtre de contexte d'un modèle de langage au cours d'une tâche : instructions, documents récupérés, définitions d'outils, résultats d'outils et historique de la conversation.
Fenêtre de contexte
Une fenêtre de contexte (context window) est la quantité maximale de texte, comptée en tokens, qu'un modèle de langage peut prendre en compte à la fois, y compris le prompt système, la conversation, les documents, les résultats d'outils et la réponse qu'il rédige.
Génération augmentée par récupération
La génération augmentée par récupération (retrieval-augmented generation, RAG) est un schéma dans lequel un système cherche d'abord dans une collection de documents les passages pertinents pour une question, puis fournit ces passages à un modèle de langage pour que sa réponse s'appuie dessus.
Mémoire d'agent
La mémoire d'agent est l'ensemble des techniques qui permettent à un agent IA de conserver des informations au-delà d'une seule fenêtre de contexte, comme des faits sur un utilisateur ou un travail passé, en les stockant hors du modèle et en les rechargeant au besoin.

Sources