본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Matryoshka 임베딩

Matryoshka 임베딩(Matryoshka embeddings)은 앞쪽 값에 가장 많은 정보가 담기도록 학습된 벡터입니다. 더 짧은 길이로 잘라도 쓸 만한 검색 결과를 얻을 수 있어 저장 공간을 아끼고 검색 속도를 높입니다.

다른 이름: Matryoshka representation learning, MRL

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

이름은 러시아의 마트료시카 인형에서 왔습니다. 쓸 수 있는 더 작은 임베딩이 큰 임베딩 안에 들어 있습니다. 이 방법, Matryoshka Representation Learning은 2022년에 발표되었고, 지금은 여러 상용 및 오픈 임베딩 모델에 쓰입니다.

작동 방식

학습 중 모델의 손실을 전체 벡터뿐 아니라 앞부분을 여러 길이로 잘라 낸 조각에서도 계산합니다. 그러면 모델은 대략적인 의미를 앞쪽 값에, 세부 정보를 뒤쪽 값에 담게 됩니다. 추론 시에는 달라지는 것이 없습니다. 원하는 만큼의 값만 남기면 됩니다.

왜 중요한가

임베딩 차원은 벡터 데이터베이스의 저장 및 검색 비용을 좌우합니다. Matryoshka 모델을 쓰면 짧은 벡터를 저장해 비용을 아끼거나, 짧은 벡터로 빠르게 1차 검색을 한 뒤 상위 결과를 전체 길이 벡터로 다시 점수를 매길 수 있습니다. OpenAI는 text-embedding-3 모델의 `dimensions` 파라미터로 이 기능을 제공하며, 이 파라미터는 끝에서부터 값을 잘라 냅니다.

한계

짧은 벡터는 품질이 어느 정도 떨어지며, 그 정도는 모델과 데이터에 따라 다릅니다. 잘라 내기는 이렇게 학습된 모델에서만 통합니다. 일반 임베딩을 자르면 크게 망가집니다. 내적으로 코사인 유사도를 계산한다면 자른 뒤 벡터를 다시 정규화하십시오. 길이를 정하기 전에 길이별로 검색 지표로 결과를 확인하십시오.

관련 용어

임베딩 차원
임베딩 차원(embedding dimension)은 임베딩 모델이 출력하는 각 벡터의 값 개수입니다. 차원이 많을수록 더 많은 세부 정보를 담을 수 있지만, 값이 하나 늘 때마다 항목당 저장, 메모리, 검색 비용이 늡니다.
임베딩
임베딩(embedding)은 텍스트, 이미지, 기타 데이터를 나타내는 숫자 목록(벡터)으로, 의미가 비슷한 항목끼리 가까운 벡터를 갖도록 만들어집니다.
벡터 데이터베이스(Vector database)
벡터 데이터베이스(vector database)는 임베딩을 원본 레코드와 함께 저장하고, 쿼리 벡터에 가장 가까운 저장된 벡터를 찾습니다. 보통 근사 인덱스를 써서 수백만 개 항목에서도 검색이 빠르게 유지됩니다.
코사인 유사도
코사인 유사도(cosine similarity)는 두 벡터 사이의 각도로 둘이 얼마나 비슷한지 재는 값입니다. -1부터 1까지의 범위를 가지며, 벡터의 길이는 무시하고, 검색에서 임베딩을 비교하는 가장 흔한 방법입니다.
검색 지표(recall@k, nDCG, MRR)
검색 지표(retrieval metrics)는 검색 시스템이 관련 문서를 얼마나 잘 반환하는지 점수로 나타냅니다. Recall@k는 상위 k개에 관련 항목이 얼마나 들어 있는지, nDCG는 관련 항목을 높은 순위에 올렸는지, MRR은 첫 번째 정답이 얼마나 일찍 나오는지를 봅니다.

출처