컨텍스트 엔지니어링
컨텍스트 엔지니어링(context engineering)은 작업 동안 언어 모델의 컨텍스트 윈도에 들어가는 모든 것을 고르고 관리하는 일입니다. 지시, 검색한 문서, 도구 정의, 도구 결과, 대화 기록이 여기에 포함됩니다.
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
모델이 아는 것은 학습 데이터에 있는 것과 매 호출에서 눈앞에 주어진 것뿐입니다. 컨텍스트 엔지니어링은 두 번째 부분을 다룹니다. 단계마다 모델에게 지금 어떤 정보가 필요하고 무엇을 빼도 되는지 묻습니다.
왜 중요한가
에이전트는 루프로 동작합니다. 도구 호출, 파일 읽기, 검색 결과마다 토큰이 더해지고, 입력은 턴마다 늘어납니다. Anthropic의 엔지니어링 팀은 컨텍스트를 수익이 점점 줄어드는 유한한 자원으로 다뤄야 한다고 주장합니다. 입력이 늘수록 모델은 그 안에 있는 것을 잘 떠올리지 못합니다. 이런 저하를 흔히 컨텍스트 부패라고 부릅니다. 컨텍스트가 많다고 저절로 더 좋은 컨텍스트가 되지는 않습니다.
흔한 기법
- 시스템 프롬프트를 짧고 구체적으로 유지하기. - 문서 전체를 붙여 넣는 대신 검색 증강 생성처럼 관련 구절만 검색하기. - 오래된 턴을 요약하거나 잘라 내기. 이를 컨텍스트 압축이라고 합니다. - 메모를 윈도 밖에 저장했다가 필요할 때 다시 불러오기. 에이전트 메모리의 한 형태입니다. - 좁은 작업을 서브에이전트에게 맡겨 그 작업의 세부 내용이 메인 스레드에 들어오지 않게 하기.
프롬프트 엔지니어링과 다른 점
프롬프트 엔지니어링은 대체로 한 번 하는 일입니다. 좋은 지시를 쓰는 것입니다. 컨텍스트 엔지니어링은 에이전트가 일하는 동안 가능한 정보의 집합이 계속 바뀌므로 턴마다 반복됩니다. Anthropic은 이를 프롬프트 엔지니어링이 자연스럽게 발전한 형태라고 설명합니다.
예시
실패하는 테스트를 고치라는 요청을 받은 코딩 에이전트는 저장소 전체를 받을 때보다 테스트, 오류, 테스트 대상 함수를 받을 때 더 잘합니다. 기술은 그 작고 관련 있는 집합을 고르고, 작업이 진행됨에 따라 새로 고치는 데 있습니다.
관련 용어
- 프롬프트 엔지니어링(Prompt engineering)
- 프롬프트 엔지니어링(prompt engineering)은 모델의 가중치를 바꾸지 않고, 애플리케이션에 필요한 출력을 내도록 언어 모델에 주는 지시와 예시를 작성하고, 구성하고, 테스트하는 일입니다.
- 에이전트 메모리
- 에이전트 메모리(agent memory)는 사용자에 관한 사실이나 과거 작업처럼 AI 에이전트가 하나의 컨텍스트 윈도를 넘어서는 정보를 유지하게 해 주는 기법들입니다. 정보를 모델 밖에 저장했다가 필요할 때 다시 불러옵니다.
- 검색 증강 생성(Retrieval-augmented generation)
- 검색 증강 생성(retrieval-augmented generation, RAG)은 시스템이 먼저 문서 모음에서 질문과 관련된 구절을 검색한 뒤, 그 구절을 언어 모델에 주어 답변이 이를 바탕으로 하게 하는 패턴입니다.
- 컨텍스트 윈도
- 컨텍스트 윈도(context window)는 언어 모델이 한 번에 고려할 수 있는 텍스트의 최대량으로, 토큰 단위로 셉니다. 시스템 프롬프트, 대화, 문서, 도구 결과, 모델이 쓰는 응답이 모두 포함됩니다.
- 컨텍스트 부패
- 컨텍스트 부패(context rot)는 입력이 길어질수록 언어 모델의 정확성과 신뢰성이 떨어지는 현상입니다. 입력이 여전히 컨텍스트 윈도 안에 들어가고 필요한 정보가 그 안에 있어도 일어납니다.
- 컨텍스트 압축
- 컨텍스트 압축(context compaction)은 에이전트가 컨텍스트 윈도 한도에 가까워진 대화를 요약하고, 그 요 약에서 시작하는 새 윈도에서 이어 가는 단계입니다. 그래서 긴 작업을 계속할 수 있습니다.