コンテキストの劣化
コンテキストの劣化(context rot)とは、入力が長くなるにつれて言語モデルの正確さと信頼性が落ちる現象です。入力がまだコンテキストウィンドウに収まっていて、必要な情報が含まれている場合でも起こります。
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
大きなコンテキストウィンドウからわかるのは、モデルがどれだけのテキストを受け付けるかであり、それをどれだけうまく使えるかではありません。コンテキストの劣化はその 2 つの差です。プロンプトが長くなるにつれ、モデルは事実を見落とし、似た文章を混同し、指示に従う度合いが下がります。
根拠
Chroma の 2025 年 7 月のレポートは、GPT-4.1、Claude 4、Gemini 2.5、Qwen3 を含む 18 のモデルをテストし、すべての実験で入力が長くなるにつれて性能が下がり、その下がり方はしばしば不均一で予想外だったことを明らかにしました。モデルが 1 つの文を見つけるだけでよい単純な needle-in-a-haystack テストでは、この多くが見えなくなります。実際のタスクでは、モデルは見つけたものについて推論し、よく似た紛らわしい情報を無視する必要があるからです。
エージェントにとっての重要性
エージェントはツールの出力、ファイルの内容、古いターンをためこむので、コンテキストはひとりでに大きくなります。ある時点を過ぎると、コンテキストが増えるほどエージェントの性能は悪くなります。これがコンテキストエンジニアリングの主な理由です。次の手順に必要なものだけをウィンドウに入れるのです。
軽減する方法
文書をまるごと貼り付けるのではなく、検索拡張生成で関連する少数の文章を取り出してください。長い履歴はコンテキスト圧縮で要約してください。付随するタスクはサブエージェントに任せ、その出力がメインのスレッドに届かないようにしてください。最も重要な指示はモデルがはっきり見える場所に置き、実際に使うコンテキストのサイズで自分のタスクをテストしてください。劣化の度合いはモデルとタスクによって異なるからです。
関連用語
- コンテキスト圧縮
- コンテキスト圧縮(context compaction)とは、コンテキストウィンドウの上限に近づいた会話をエージェントが要約し、その要約から始まる新しいウィンドウで作業を続ける手順です。これにより長いタスクを継続できます。
- コンテキストエンジニアリング
- コンテキストエンジニアリング(context engineering)とは、タスクの間に言語モデルのコンテキストウィンドウに入るすべてのもの、つまり指示、取得した文書、ツールの定義、ツールの結果、会話の履歴を選び、管理する取り組みです。
- コンテキストウィンドウ
- コンテキストウィンドウ(context window)とは、言語モデルが一度に考慮できるテキストの最大量で、トークン数で数えます。システムプロンプト、会話、文書、ツールの結果、モデルが書く応答が含まれます。
- 検索拡張生成(RAG)
- 検索拡張生成(retrieval-augmented generation、RAG)とは、システムがまず文書の集まりから質問に関連する文章を検索し、その文章を言語モデルに渡して、それに基づいて回答させるパターンです。
- エージェントメモリ
- エージェントメモリ(agent memory)とは、ユーザーに関する事実や過去の作業など、1 つのコンテキストウィンドウを超えて AI エージェントが情報を保持するための技術の総称です。情報をモデルの外に保存し、必要なときに読み込み直します。