검색 증강 생성(Retrieval-augmented generation)
검색 증강 생성(retrieval-augmented generation, RAG)은 시스템이 먼저 문서 모음에서 질문과 관련된 구절을 검색한 뒤, 그 구절을 언어 모델에 주어 답변이 이를 바탕으로 하게 하는 패턴입니다.
다른 이름: RAG
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
언어 모델은 지식 컷오프까지의 학습 데이터에 있던 것만 압니다. 회사 위키, 지난주 티켓, 어제 서명한 계약서는 볼 수 없습니다. RAG는 재학습 없이 이 간극을 메웁니다. 질문 시점에 알맞은 텍스트를 가져와 프롬프트에 넣습니다.
작동 방식
미리 문서를 청킹으로 나누고, 임베딩 모델로 벡터로 바꿔, 벡터 데이터베이스에 저장합니다. 질문이 들어오면 시스템은 질문을 임베딩하고, 가장 가까운 청크를 가져오고, 흔히 리랭커로 순서를 다시 매긴 뒤, 상위 몇 개를 그것을 근거로 답하라는 지시와 함께 모델에 넘깁니다.
이 아이디어에 이름을 붙인 2020년 논문은 학습된 텍스트 생성기를 검색 가능한 Wikipedia 인덱스와 결합했습니다. 오늘날 대부분의 RAG 시스템은 그런 공동 학습을 건너뛰고, 기성 모델을 별도의 검색기에 연결합니다.
예시
고객 지원 봇이 "월 중간에 요금제를 바꿀 수 있나요?"라는 질문을 받습니다. 봇은 청구 정책 단락과 요금제 FAQ를 가져오고, 모델은 이를 바탕으로 둘 다 인용하며 답합니다.
한계
RAG의 품질은 검색의 품질을 넘지 못합니다. 알 맞은 구절을 찾지 못하면 모델이 환각으로 빈틈을 메울 수 있습니다. "주요 주제는 무엇인가?"처럼 말뭉치 전체에 관한 질문에도 약하며, GraphRAG가 겨냥하는 것이 바로 이 경우입니다. 각 단계의 도구는 AI 스택 가이드에서 비교합니다.
관련 용어
- 벡터 데이터베이스(Vector database)
- 벡터 데이터베이스(vector database)는 임베딩을 원본 레코드와 함께 저장하고, 쿼리 벡터에 가장 가까운 저장된 벡터를 찾습니다. 보통 근사 인덱스를 써서 수백만 개 항목에서도 검색이 빠르게 유지됩니다.
- 환각(AI)
- 환각(hallucination)은 AI 모델의 출력이 유창하고 자신감 있게 들리지만 거짓이거나, 출처의 뒷받침이 없거나, 지어낸 것인 경우를 말합니다. 꾸며 낸 인용, 발언, 통계, API 함수 등이 그 예입니다.
- 임베딩
- 임베딩(embedding)은 텍스트, 이미지, 기타 데이터를 나타내는 숫자 목록(벡터)으로, 의미가 비슷한 항목끼리 가까운 벡터를 갖도록 만들어집니다.
- 청킹
- 청킹(chunking)은 긴 문서를 임베딩하고 색인하기 전에 더 작은 구절로 나누는 단계로, 검색 시스템이 문서 가운데 질의에 답하는 부분만 찾아 돌려줄 수 있게 합니다.
- 리랭킹(Reranking)
- 리랭킹(reranking)은 후보 문서의 짧은 목록을 받아, 첫 검색보다 더 정확하지만 느린 모델로 쿼리와의 관련도에 따라 다시 정렬하는 두 번째 검색 단계입니다.
- 에이전틱 RAG
- 에이전틱 RAG(agentic RAG)는 AI 에이전트가 실행하는 검색 증강 생성입니다. 에이전트가 언제 검색할지, 무엇을 검색할지, 어떤 출처를 쓸지 정하고, 처음 결과가 부족하면 다시 검색할 수 있습니다.