본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

hs-rerank-1

Vectorize가 만든 1억 1,400만(114M) 파라미터의 MIT 라이선스 크로스 인코더로, 에이전트 기억용으로 만들어졌고 CPU에서도 돌아갈 만큼 빠릅니다.

리뷰어: ReviewRamble editors · 업데이트

hs-rerank-1 방문 오픈 소스

이 페이지 공유:XLinkedInFacebookRedditWhatsApp이메일

평점

3.8/5

아직 많은 파이프라인에 남아 있는 오래된 MiniLM 크로스 인코더를 대신할 합리적인 모델로 CPU에서 돌 만큼 작지만, 벤치마크 우위를 보여 준 곳은 Vectorize뿐입니다.

hs-rerank-1의 개요

hs-rerank-1은 에이전트 기억 서버 Hindsight를 만든 Vectorize의 소형 다국어 리랭커로, 2026년 11월 3일에 공개되었습니다. 크로스 인코더로서 쿼리와 문서를 함께 읽고 0에서 1 사이의 관련도 점수 하나를 돌려줍니다. mmBERT-small을 미세 조정했으며 영어, 스페인어, 프랑스어, 독일어, 포르투갈어, 일본어, 한국어, 중국어를 지원합니다.

114M(1억 1,400만) 파라미터 가운데 98M(9,800만)은 토큰 임베딩 테이블이어서, 한 번의 처리에서 실제로 도는 트랜스포머는 약 15M(1,500만)입니다. 입력은 쿼리와 문서 한 쌍에 최대 8,192토큰입니다. FP16 safetensors와 CPU용 int8 ONNX 버전으로 배포되며 Hugging Face의 Text Embeddings Inference에서 돌아갑니다.

Hindsight 1.2.0부터 ms-marco-MiniLM-L-6-v2를 대신해 기본 로컬 리랭커가 되었고, 그래서 공개 몇 주 만에 다운로드가 약 200만 회를 넘었습니다. 가중치는 MIT 라이선스이며, Vectorize는 Cohere 호환 엔드포인트로도 제공해 입력 100만 토큰당 $0.015를 받습니다.

hs-rerank-1의 가격은 얼마입니까?

플랜가격포함 내용
WeightsFreeMIT 라이선스
Hindsight Inference$0.015 per million input tokensCohere Rerank 호환 엔드포인트, 출력 무료

MIT 가중치는 무료입니다. Hindsight Inference 호스팅은 입력 100만 토큰당 $0.015(출력 무료), hs-decide-1-flash 걸러내기를 더하면 $0.02이며, 새 계정은 $5 크레딧을 받습니다.

hs-rerank-1, 쓸 만한 가치가 있습니까?

이 모델의 진짜 경쟁 상대는 많은 파이프라인이 여전히 기본으로 쓰는 ms-marco MiniLM 크로스 인코더이며, Hindsight 자신도 1.2.0 버전까지 이를 썼습니다. 그에 비하면 분명한 진전입니다. MiniLM은 512토큰만 읽고 영어 MS MARCO 데이터로 학습되었지만, hs-rerank-1은 8개 언어로 8,192토큰을 읽으면서도 API 프로세스 안에서 돌릴 만큼 작습니다. Vectorize 리더보드에서 7개 벤치마크 평균은 56.0으로, ms-marco-MiniLM-L6-v2의 44.1, bge-reranker-base의 50.4, Alibaba gte-reranker-modernbert-base의 51.3보다 높습니다.

향상 폭은 영어 밖에서 가장 큽니다. 다국어 데이터셋인 MIRACL에서 57.7로, MiniLM-L6의 20.9와 gte 모델의 39.1을 앞섭니다. 추론 비중이 큰 BRIGHT에서는 작은 모델 모두 고전하며, 그룹 최고인 15.1도 절대 수준으로는 낮습니다. Vectorize는 모든 비교를 모델마다 같은 설정으로 직접 돌리고 방법도 공개했지만, 외부 연구소가 재현한 적은 아직 없습니다.

더 큰 오픈 모델 대신 이것을 고를 이유는 속도입니다. CPU 스레드 2개로 기억 50개를 약 1.5초에 재정렬해 gte-reranker-modernbert-base의 약 6분의 1 시간이 걸리고, MiniLM-L6은 0.9초로 더 빠릅니다. 더 긴 청크 50개에서는 약 21초까지 늘어나므로 CPU에서 긴 문서는 여전히 느리며, 그럴 때는 GPU나 호스팅 API가 답입니다.

어려운 쿼리에서 Cohere Rerank 5, Voyage rerank-3, 4B와 8B Qwen3 리랭커와 겨룰 모델은 아니며 그럴 의도도 없습니다. 호스팅 버전은 100만 토큰당 $0.015로 Cohere Fast 등급의 $0.02보다 싸고, 호스팅 문서에 따르면 문서를 모델 자체 한도의 절반인 4,096토큰에서 자릅니다.

제 역할을 하는 곳

  • 코딩 에이전트의 기억으로 Hindsight를 돌리는 개발자

    GPU나 다른 유료 API 없이 불러온 기억의 순위를 잘 매기기

    Hindsight 1.2.0 이상으로 올리면 hs-rerank-1이 이미 기본 로컬 리랭커이며 첫 실행 때 내려받아집니다. API 프로세스 안에서 CPU로 돌기 때문에 비용은 Hindsight를 이미 돌리는 머신의 CPU 시간뿐입니다.

  • 지원 검색에 MiniLM 크로스 인코더를 쓰는 유럽 SaaS 기업의 엔지니어

    독일어, 프랑스어, 스페인어 티켓도 영어처럼 잘 재정렬하기

    Sentence Transformers의 CrossEncoder나 Text Embeddings Inference에서 모델 ID를 hindsight-ai/hs-rerank-1로 바꿉니다. Vectorize의 MIRACL 결과로는 점수가 20.9에서 57.7로 오르고, CPU 지연 시간은 MiniLM-L6의 약 1.6배입니다.

  • 이미 LangChain에서 Cohere Rerank를 호출하는 작은 팀

    짧고 양이 많은 기억 조회의 리랭킹 비용 줄이기

    Cohere 클라이언트를 inference.hindsight.vectorize.io로 돌리고 입력 100만 토큰당 $0.015인 hs-rerank-1을 고릅니다. 월 10억 토큰이면 $15입니다. 어려운 쿼리에서는 품질 하락을 예상해야 합니다.

도입 전 확인할 점

설정
pip install sentence-transformers 후 CrossEncoder("hindsight-ai/hs-rerank-1")를 불러오거나, 모델 ID로 Text Embeddings Inference CPU 또는 GPU 이미지를 띄웁니다. 점수는 0에서 1 사이로 나옵니다.
연동
Sentence Transformers, Text Embeddings Inference, ONNX Runtime, Hindsight의 local, ONNX, TEI, 호스팅 리랭커 공급자. 호스팅 엔드포인트는 Cohere SDK로 쓸 수 있습니다.
데이터와 개인정보
직접 호스팅하면 문서는 자체 머신 밖으로 나가지 않습니다. 호스팅 Hindsight Inference 문서는 보관 기간을 밝히지 않으며, Vectorize는 Trust Center와 데이터 처리 계약을 공개합니다.
대규모 사용 시 비용
직접 호스팅 비용은 CPU 시간입니다. 호스팅은 입력 100만 토큰당 $0.015, 출력 무료이므로 호출당 300토큰 문단 20개로 월 200만 회 호출하면 약 $180입니다.
제한
직접 호스팅 시 쌍당 8,192토큰, 호스팅 API는 문서당 4,096토큰, 요청당 문서 1,000개까지. 호스팅 버전의 속도 제한은 공개되지 않았습니다. 8개 언어만 지원합니다.

좋은 점

  • 114M 파라미터, int8 ONNX로 CPU에서 동작
  • 8개 언어로 쌍당 8,192토큰
  • 사용 제한 없는 MIT 라이선스
  • 100만 토큰당 $0.015인 Cohere 호환 호스팅 엔드포인트

아쉬운 점

  • 모든 벤치마크가 Vectorize 자체 결과
  • 추론형 쿼리에 약함(BRIGHT 15.1)
  • GPU 없이는 긴 청크에서 느림
  • 호스팅 API는 문서를 4,096토큰에서 자름

추천 대상

오래된 MiniLM 크로스 인코더 대신 에이전트 기억이나 CPU 전용 RAG에 쓸 작고 라이선스가 느슨한 다국어 리랭커를 찾는 개발자.

hs-rerank-1 대안

hs-rerank-1: 자주 묻는 질문

hs-rerank-1, 쓸 만한 가치가 있습니까?
아직 많은 파이프라인에 남아 있는 오래된 MiniLM 크로스 인코더를 대신할 합리적인 모델로 CPU에서 돌 만큼 작지만, 벤치마크 우위를 보여 준 곳은 Vectorize뿐입니다. 평점은 5점 만점에 3.8점입니다.
hs-rerank-1의 가격은 얼마입니까?
MIT 가중치는 무료입니다. Hindsight Inference 호스팅은 입력 100만 토큰당 $0.015(출력 무료), hs-decide-1-flash 걸러내기를 더하면 $0.02이며, 새 계정은 $5 크레딧을 받습니다.
hs-rerank-1의 단점은 무엇입니까?
모든 벤치마크가 Vectorize 자체 결과; 추론형 쿼리에 약함(BRIGHT 15.1); GPU 없이는 긴 청크에서 느림; 호스팅 API는 문서를 4,096토큰에서 자름.
hs-rerank-1에 적합한 사람은 누구입니까?
오래된 MiniLM 크로스 인코더 대신 에이전트 기억이나 CPU 전용 RAG에 쓸 작고 라이선스가 느슨한 다국어 리랭커를 찾는 개발자.
팀이나 프로덕션 환경에서 hs-rerank-1의 비용은 얼마입니까?
직접 호스팅 비용은 CPU 시간입니다. 호스팅은 입력 100만 토큰당 $0.015, 출력 무료이므로 호출당 300토큰 문단 20개로 월 200만 회 호출하면 약 $180입니다.
hs-rerank-1에 회사 데이터를 맡겨도 안전합니까?
직접 호스팅하면 문서는 자체 머신 밖으로 나가지 않습니다. 호스팅 Hindsight Inference 문서는 보관 기간을 밝히지 않으며, Vectorize는 Trust Center와 데이터 처리 계약을 공개합니다.
hs-rerank-1의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 mxbai-rerank v2, Qwen3-Embedding and Qwen3-Reranker, Jina Reranker v3.5 및 Cohere Rerank 5입니다.

답변 확인일: 2026년 11월 20일.