본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

지연 상호작용(ColBERT)

지연 상호작용(late interaction)은 ColBERT가 소개한 검색 방법으로, 질의와 각 문서를 따로 토큰마다 벡터 하나씩으로 인코딩한 뒤, 저렴한 마지막 단계에서 그 토큰 벡터들을 비교해 일치 점수를 매깁니다.

다른 이름: ColBERT, multi-vector retrieval, late interaction

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

트랜스포머로 관련성을 채점하는 흔한 방법은 두 가지입니다. 바이 인코더는 각 텍스트를 벡터 하나로 압축하므로 빠르지만 세부 정보를 잃습니다. 크로스 인코더는 질의와 문서를 함께 읽으므로 정확하지만 큰 컬렉션에는 너무 느립니다. 지연 상호작용은 그 사이에 있습니다.

작동 방식

ColBERT는 문서를 오프라인에서 한 번 인코딩하며, 모든 토큰에 대해 벡터를 유지합니다. 질의할 때는 질의를 같은 방식으로 인코딩합니다. 각 질의 토큰에 대해 가장 비슷한 문서 토큰을 찾고, 그 최고 일치 값들을 더해 점수를 냅니다. 문서 벡터가 미리 계산되어 있으므로, 질의 시점의 비싼 모델 작업은 짧은 질의에만 적용됩니다. 두 텍스트 사이의 상호작용은 이 마지막 비교에서 늦게 일어납니다.

ColBERT 논문은 BERT 기반 리랭커에 견줄 만한 정확도를 내면서 약 100배 빠르게 동작한다고 보고합니다.

다중 벡터 검색

다중 벡터 검색(multi-vector retrieval)은 항목마다 여러 벡터를 저장하는 방식을 가리키는 더 넓은 이름입니다. 같은 개념이 이제 페이지 이미지에도 쓰여, Nemotron ColEmbed V2 같은 시각 문서 검색기에서는 이미지 패치마다 벡터를 하나씩 둡니다.

한계

토큰마다 벡터를 저장하면 청크마다 벡터 하나를 저장할 때보다 공간이 훨씬 많이 들지만, 압축이 도움이 됩니다. 다중 벡터 검색을 기본으로 지원하는 벡터 데이터베이스는 더 적습니다. 많은 팀이 지연 상호작용을 더 저렴한 1차 검색 뒤의 리랭킹 단계로 씁니다.

관련 용어

크로스 인코더
크로스 인코더(cross-encoder)는 질의와 문서를 한 번에 함께 읽고 관련성 점수를 내는 모델입니다. 따로 만든 임베딩을 비교하는 것보다 정확하지만, 컬렉션 전체에 실행하기에는 너무 느립니다.
리랭킹(Reranking)
리랭킹(reranking)은 후보 문서의 짧은 목록을 받아, 첫 검색보다 더 정확하지만 느린 모델로 쿼리와의 관련도에 따라 다시 정렬하는 두 번째 검색 단계입니다.
벡터 검색(Vector search)
벡터 검색(vector search)은 항목의 임베딩을 쿼리의 임베딩과 비교해 가장 가까운 것을 돌려주는 방식으로 항목을 찾습니다. 그래서 결과가 공통 키워드가 아니라 의미로 일치합니다.
임베딩
임베딩(embedding)은 텍스트, 이미지, 기타 데이터를 나타내는 숫자 목록(벡터)으로, 의미가 비슷한 항목끼리 가까운 벡터를 갖도록 만들어집니다.
벡터 데이터베이스(Vector database)
벡터 데이터베이스(vector database)는 임베딩을 원본 레코드와 함께 저장하고, 쿼리 벡터에 가장 가까운 저장된 벡터를 찾습니다. 보통 근사 인덱스를 써서 수백만 개 항목에서도 검색이 빠르게 유지됩니다.

출처