에이전트 메모리
에이전트 메모리(agent memory)는 사용자에 관한 사실이나 과거 작업처럼 AI 에이전트가 하나의 컨텍스트 윈도를 넘어서는 정보를 유지하게 해 주는 기법들입니다. 정보를 모델 밖에 저장했다가 필요할 때 다시 불러옵니다.
다른 이름: long-term memory, memory layer
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
언어 모델은 호출과 호출 사이에 아무것도 기억하지 못합니다. 현재 작업에 대해 아는 모든 것은 컨텍스트 윈도 안에 있어야 하고, 그 윈도는 크기가 제한되어 있습니다. 에이전트 메모리는 정보를 다른 곳에 저장해 이 문제를 우회합니다.
메모리의 종류
- 단기 메모리는 현재 세션의 대화와 도구 결과입니다. - 장기 메모리는 세션이 바뀌어도 남습니다. 사용자 선호, 알게 된 사실, 과거 작업 요약이 여기에 해당합니다.
예를 들어 LangGraph는 단기 스레드 상태와 세션을 넘나드는 장기 메모리를 구분합니다.
작동 방식
에이전트나 그 주변 코드가 무엇을 기록할지 정합니다. 파일에 남기는 메모, 데이터베이스의 행, 벡터 데이터베이스의 임베딩 등입니다. 나중에 관련 기억을 검색해 프롬프트에 다시 넣는데, 검색 증강 생성과 비슷한 방식입니다. MemGPT 논문은 이를 운영체제가 빠른 메모리와 느린 메모리 사이에서 데이터를 옮기는 일에 빗대었고, 모델이 자신의 메모리 계층을 직접 관리하게 했습니다.
예시
코딩 에이전트가 세션이 끝날 때마다 프로젝트 메모 파일을 쓰고 다음 세션을 시작할 때 읽습니다. 그러면 빌드 명령을 매번 다시 익히지 않아도 됩니다.
한계
메모리는 오래되어 맞지 않게 되거나 서로 모순될 수 있고, 신뢰할 수 없는 출처에서 저장된 텍스트가 이후 세션에 지시를 끌고 들어올 수 있습니다. Mem0과 Letta 같은 도구가 관리형 메모리 계층을 제공하며, 에이전트 메모리 가이드에서 이들을 비교합니다.
관련 용어
- 컨텍스트 엔지니어링
- 컨텍스트 엔지니어링(context engineering)은 작업 동안 언어 모델의 컨텍스트 윈도에 들어가는 모든 것을 고르고 관리하는 일입니다. 지시, 검색한 문서, 도구 정의, 도구 결과, 대화 기록이 여기에 포함됩니다.
- 벡터 데이터베이스(Vector database)
- 벡터 데이터베이스(vector database)는 임베딩을 원본 레코드와 함께 저장하고, 쿼리 벡터에 가장 가까운 저장된 벡터를 찾습니다. 보통 근사 인덱스를 써서 수백만 개 항목에서도 검색이 빠르게 유지됩니다.
- 컨텍스트 윈도
- 컨텍스트 윈도(context window)는 언어 모델이 한 번에 고려할 수 있는 텍스트의 최대량으로, 토큰 단위로 셉니다. 시스템 프롬프트, 대화, 문서, 도구 결과, 모델이 쓰는 응답이 모두 포함됩니다.
- 컨텍스트 압축
- 컨텍스트 압축(context compaction)은 에이전트가 컨텍스트 윈도 한도에 가까워진 대화를 요약하고, 그 요약에서 시작하는 새 윈도에서 이어 가는 단계입니다. 그래서 긴 작업을 계속할 수 있습니다.
- 검색 증강 생성(Retrieval-augmented generation)
- 검색 증강 생성(retrieval-augmented generation, RAG)은 시스템이 먼저 문서 모음에서 질문과 관련된 구절을 검색한 뒤, 그 구절을 언어 모델에 주어 답변이 이를 바탕으로 하게 하는 패턴입니다.