본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

zerank-2

보정된 점수를 내는 ZeroEntropy의 4B 오픈 리랭커입니다. Notion이 회사를 인수하고 호스팅 API가 멈춘 뒤 Apache 2.0이 되었습니다.

리뷰어: Andrew Miller · 업데이트

zerank-2 방문 오픈 소스

평점

3.9/5

보정된 점수가 가치 있는 날카로운 오픈 리랭커이지만, 이제 뒤를 받쳐 주는 것은 자신의 GPU뿐입니다.

zerank-2의 개요

zerank-2는 ZeroEntropy가 2025년 11월 18일 발표한 리랭커입니다. Notion은 2026년 7월 24일 ZeroEntropy를 인수했고, 같은 날 회사는 모든 모델을 Apache 2.0으로 공개하면서 호스팅 제품은 2026년 9월 4일까지 지원한다고 밝혔습니다. 그 날짜가 지났고, ZeroEntropy API는 이제 rerank 요청에 "ZeroEntropy inference is unavailable"로 응답하므로, 사실상 자체 호스팅 전용입니다.

리랭커는 검색 시스템이 이미 가져온 후보 목록을 쿼리와 각 문서를 함께 읽어 다시 점수를 매깁니다. 벡터 비교보다 느리지만 더 정확합니다. zerank-2는 무엇이 관련 있는지에 대한 자연어 지시를 따르고, 점수가 보정되도록 학습되었습니다. ZeroEntropy는 점수 0.8이 대략 80%의 관련성을 뜻한다고 설명합니다. 학습에는 쌍대 선호를 Elo 방식 평점으로 바꾸는 회사의 zELO 방법을 씁니다.

파라미터는 40억(4 billion) 개, BF16 가중치는 약 8 GB이며, Qwen3-4B에서 파인튜닝되었고 최대 32,768토큰을 읽습니다. ZeroEntropy는 100개가 넘는 언어를 지원한다고 주장합니다. sentence-transformers CrossEncoder로 로드됩니다. 2026년 5월 변경으로 predict()가 0에서 1 사이 점수 대신 원시 logit을 반환하게 되었고, 카드는 변환식 (scores / 5).sigmoid()를 제시합니다.

zerank-2, 쓸 만한 가치가 있습니까?

zerank-2는 보정으로 자리를 얻습니다. 대부분의 리랭커는 순서로만 의미가 있는 점수를 내지만, 이 모델은 숫자 자체가 의미를 갖도록 학습되었습니다. 그래서 파이프라인이 고정 임계값으로 약한 문단을 걸러 내거나, 컨텍스트가 언어 모델에 닿기 전에 관련성 여부를 판단하는 데 이 모델을 쓸 수 있습니다.

모델 카드에서 OpenAI text-embedding-3-small의 상위 100개 결과를 리랭킹했을 때 일곱 개 도메인 평균 NDCG@10은 0.6714로, Cohere rerank-3.5의 0.5847, Gemini 2.5 Flash의 0.5999보다 높습니다. 지는 분야는 금융뿐으로, Gemini가 0.7694, 이 모델이 0.7600입니다. 수치는 ZeroEntropy의 것이고, 경쟁 모델은 한 세대 전입니다. Cohere Rerank 4와 Voyage rerank-3는 표에 없습니다. Notion의 인수 게시물은 이 리랭커가 답변 품질을 유지하면서 리랭킹 지연 시간을 85% 줄였다고 덧붙이는데, 이는 벤치마크가 아니라 고객의 말입니다.

모델보다 상황이 더 크게 바뀌었습니다. ZeroEntropy 팀은 이제 Notion의 모델 연구를 이끌고, 호스팅 API는 서비스를 멈췄으며, 뉴스 페이지의 최신 글은 7월 인수 공지로 zerank-3의 기미는 없습니다. Apache 2.0이 라이선스 위험을 없애고 카드에는 여전히 AWS Marketplace가 올라 있지만, 수정과 새 버전은 이제 포크하는 사람에게 달려 있습니다.

마이그레이션에서 두 가지 세부 사항이 발목을 잡습니다. 2026년 5월 원시 logit으로의 전환은 sigmoid 변환을 적용하지 않으면 예전 0에서 1 점수로 맞춘 임계값을 모두 조용히 망가뜨립니다. 또 카드 예시는 "zeroentropy/zerank-2"를 로드하지만 저장소 이름은 zerank-2-reranker입니다. 둘 다 고치기 어렵지 않지만 오류 메시지 없이 실패하며, 검색 파이프라인은 바로 그렇게 눈치채지 못한 채 나빠집니다.

제 역할을 하는 곳

  • 법률 리서치 스타트업의 RAG 엔지니어

    관련 없는 문단이 언어 모델에 닿기 전에 잘라 내기

    상위 100개 결과를 리랭킹하고 sigmoid 변환 후 보정된 컷오프를 넘는 것만 남겨, 답변마다 입력 토큰을 줄입니다. 법률은 카드에서 격차가 가장 큰 도메인 중 하나로, Cohere rerank-3.5의 0.5257에 비해 0.6644입니다.

  • ZeroEntropy API의 기존 고객

    호스팅 API가 멈춘 뒤에도 검색을 계속 돌리기

    ZeroEntropy의 7월 마이그레이션 가이드를 따라 Apache 2.0 가중치를 GPU 한 장에서 자체 엔드포인트로 서빙하고, 원시 logit 출력에 맞춰 임계값을 다시 조정합니다. 비용은 100만 토큰당 $0.025에서 상시 가동 GPU 인스턴스 비용으로 바뀝니다.

  • 직원 40명 SaaS 회사의 검색 리드

    자체 호스팅 리랭커와 관리형 API 중 고르기

    zerank-2는 무료로 돌릴 수 있지만 업그레이드, 수정, 가동 시간은 팀의 몫입니다. Cohere Rerank 4나 Voyage rerank-3는 쿼리마다 과금하지만 업체가 뒤에 있습니다. 결정 요인은 보통 이미 실서비스에서 GPU 추론을 운영하는 사람이 있느냐입니다.

도입 전 확인할 점

설정
pip install sentence-transformers 후 모델을 CrossEncoder로 로드하고 predict()나 rank()를 호출합니다. trust_remote_code는 더 이상 필요 없습니다. 보정된 0에서 1 점수를 얻으려면 (scores / 5).sigmoid()를 적용합니다.
연동
커뮤니티 양자화 15종이 있는 Hugging Face 가중치, 모델 카드에 따른 AWS Marketplace, sentence-transformers나 Qwen3 기반 모델을 돌리는 모든 서버에서 쓸 수 있습니다. ZeroEntropy의 호스팅 /models/rerank 엔드포인트는 더 이상 요청을 처리하지 않습니다.
데이터와 개인정보
Apache 2.0은 매출 제한 없이 상업적 이용, 수정, 재배포를 허용합니다. 자체 호스팅하면 쿼리와 문서가 자체 인프라 안에 남으며, 데이터를 보낼 업체 API는 이제 없습니다.
대규모 사용 시 비용
가중치는 무료이고, 비용은 약 8 GB의 BF16 가중치와 배치 메모리를 담을 GPU입니다. 24 GB 데이터센터 카드 한 장이면 충분합니다. 지연 시간과 처리량 수치는 공개되지 않았으므로, 용량은 자신의 쿼리 구성으로 측정해야 합니다.
제한
쿼리와 문서 쌍당 32,768토큰 컨텍스트이며 텍스트 전용입니다. 공개된 지연 시간 수치가 없고, Notion 인수 이후 관리자 로드맵도 없습니다.

좋은 점

  • 고정 컷오프로 쓸 수 있는 보정된 점수
  • 2026년 7월부터 Apache 2.0 가중치
  • 32K 토큰 컨텍스트와 자연어 관련성 지시
  • 카드 기준 일곱 개 도메인 중 여섯 개에서 Cohere rerank-3.5를 앞섬

아쉬운 점

  • 호스팅 API가 서비스를 멈춰 자체 호스팅만 가능
  • Notion 인수 이후 업체 로드맵 없음
  • 벤치마크는 ZeroEntropy 자체 측정이며 비교 대상이 구형
  • 2026년 5월 원시 logit 전환으로 기존 임계값이 깨짐

추천 대상

이미 GPU 추론을 운영하면서 컷오프로 쓸 수 있는 관련성 점수를 내는 무료 리랭커를 원하는 팀.

zerank-2 대안

zerank-2: 자주 묻는 질문

zerank-2, 쓸 만한 가치가 있습니까?
보정된 점수가 가치 있는 날카로운 오픈 리랭커이지만, 이제 뒤를 받쳐 주는 것은 자신의 GPU뿐입니다. 평점은 5점 만점에 3.9점입니다.
zerank-2의 가격은 얼마입니까?
Apache 2.0으로 무료입니다. ZeroEntropy 호스팅 API(출시 당시 1M 토큰당 $0.025)는 2026년 9월 4일까지만 지원되었고 지금은 사용 불가 오류를 반환합니다.
zerank-2의 단점은 무엇입니까?
호스팅 API가 서비스를 멈춰 자체 호스팅만 가능; Notion 인수 이후 업체 로드맵 없음; 벤치마크는 ZeroEntropy 자체 측정이며 비교 대상이 구형; 2026년 5월 원시 logit 전환으로 기존 임계값이 깨짐.
zerank-2에 적합한 사람은 누구입니까?
이미 GPU 추론을 운영하면서 컷오프로 쓸 수 있는 관련성 점수를 내는 무료 리랭커를 원하는 팀.
팀이나 프로덕션 환경에서 zerank-2의 비용은 얼마입니까?
가중치는 무료이고, 비용은 약 8 GB의 BF16 가중치와 배치 메모리를 담을 GPU입니다. 24 GB 데이터센터 카드 한 장이면 충분합니다. 지연 시간과 처리량 수치는 공개되지 않았으므로, 용량은 자신의 쿼리 구성으로 측정해야 합니다.
zerank-2에 회사 데이터를 맡겨도 안전합니까?
Apache 2.0은 매출 제한 없이 상업적 이용, 수정, 재배포를 허용합니다. 자체 호스팅하면 쿼리와 문서가 자체 인프라 안에 남으며, 데이터를 보낼 업체 API는 이제 없습니다.
zerank-2의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 Cohere Rerank 4, Voyage rerank-3, Jina Reranker v3.5 및 mxbai-rerank v2입니다.

답변 확인일: 2026년 10월 22일.