zerank-2의 개요
zerank-2는 ZeroEntropy가 2025년 11월 18일 발표한 리랭커입니다. Notion은 2026년 7월 24일 ZeroEntropy를 인수했고, 같은 날 회사는 모든 모델을 Apache 2.0으로 공개하면서 호스팅 제품은 2026년 9월 4일까지 지원한다고 밝혔습니다. 그 날짜가 지났고, ZeroEntropy API는 이제 rerank 요청에 "ZeroEntropy inference is unavailable"로 응답하므로, 사실상 자체 호스팅 전용입니다.
리랭커는 검색 시스템이 이미 가져온 후보 목록을 쿼리와 각 문서를 함께 읽어 다시 점수를 매깁니다. 벡터 비교보다 느리지만 더 정확합니다. zerank-2는 무엇이 관련 있는지에 대한 자연어 지시를 따르고, 점수가 보정되도록 학습되었습니다. ZeroEntropy는 점수 0.8이 대략 80%의 관련성을 뜻한다고 설명합니다. 학습에는 쌍대 선호를 Elo 방식 평점으로 바꾸는 회사의 zELO 방법을 씁니다.
파라미터는 40억(4 billion) 개, BF16 가중치는 약 8 GB이며, Qwen3-4B에서 파인튜닝되었고 최대 32,768토큰을 읽습니다. ZeroEntropy는 100개가 넘는 언어를 지원한다고 주장합니다. sentence-transformers CrossEncoder로 로드됩니다. 2026년 5월 변경으로 predict()가 0에서 1 사이 점수 대신 원시 logit을 반환하게 되었고, 카드는 변환식 (scores / 5).sigmoid()를 제시합니다.
zerank-2, 쓸 만한 가치가 있습니까?
zerank-2는 보정으로 자리를 얻습니다. 대부분의 리랭커는 순서로만 의미가 있는 점수를 내지만, 이 모델은 숫자 자체가 의미를 갖도록 학습되었습니다. 그래서 파이프라인이 고정 임계값으로 약한 문단을 걸러 내거나, 컨텍스트가 언어 모델에 닿기 전에 관련성 여부를 판단하는 데 이 모델을 쓸 수 있습니다.
모델 카드에서 OpenAI text-embedding-3-small의 상위 100개 결과를 리랭킹했을 때 일곱 개 도메인 평균 NDCG@10은 0.6714로, Cohere rerank-3.5의 0.5847, Gemini 2.5 Flash의 0.5999보다 높습니다. 지는 분야는 금융뿐으로, Gemini가 0.7694, 이 모델이 0.7600입니다. 수치는 ZeroEntropy의 것이고, 경쟁 모델은 한 세대 전입니다. Cohere Rerank 4와 Voyage rerank-3는 표에 없습니다. Notion의 인수 게시물은 이 리랭커가 답변 품질을 유지하면서 리랭킹 지연 시간을 85% 줄였다고 덧붙이는데, 이는 벤치마크가 아니라 고객의 말입니다.
모델보다 상황이 더 크게 바뀌었습니다. ZeroEntropy 팀은 이제 Notion의 모델 연구를 이끌고, 호스팅 API는 서비스를 멈췄으며, 뉴스 페이지의 최신 글은 7월 인수 공지로 zerank-3의 기미는 없습니다. Apache 2.0이 라이선스 위험을 없애고 카드에는 여전히 AWS Marketplace가 올라 있지만, 수정과 새 버전은 이제 포크하는 사람에게 달려 있습니다.
마이그레이션에서 두 가지 세부 사항이 발목을 잡습니다. 2026년 5월 원시 logit으로의 전환은 sigmoid 변환을 적용하지 않으면 예전 0에서 1 점수로 맞춘 임계값을 모두 조용히 망가뜨립니다. 또 카드 예시는 "zeroentropy/zerank-2"를 로드하지만 저장소 이름은 zerank-2-reranker입니다. 둘 다 고치기 어렵지 않지만 오류 메시지 없이 실패하며, 검색 파이프라인은 바로 그렇게 눈치채지 못한 채 나빠집니다.
제 역할을 하는 곳
법률 리서치 스타트업의 RAG 엔지니어
관련 없는 문단이 언어 모델에 닿기 전에 잘라 내기
상위 100개 결과를 리랭킹하고 sigmoid 변환 후 보정된 컷오프를 넘는 것만 남겨, 답변마다 입력 토큰을 줄입니다. 법률은 카드에서 격차가 가장 큰 도메인 중 하나로, Cohere rerank-3.5의 0.5257에 비해 0.6644입니다.
ZeroEntropy API의 기존 고객
호스팅 API가 멈춘 뒤에도 검색을 계속 돌리기
ZeroEntropy의 7월 마이그레이션 가이드를 따라 Apache 2.0 가중치를 GPU 한 장에서 자체 엔드포인트로 서빙하고, 원시 logit 출력에 맞춰 임계값을 다시 조정합니다. 비용은 100만 토큰당 $0.025에서 상시 가동 GPU 인스턴스 비용으로 바뀝니다.
직원 40명 SaaS 회사의 검색 리드
자체 호스팅 리랭커와 관리형 API 중 고르기
zerank-2는 무료로 돌릴 수 있지만 업그레이드, 수정, 가동 시간은 팀의 몫입니다. Cohere Rerank 4나 Voyage rerank-3는 쿼리마다 과금하지만 업체가 뒤에 있습니다. 결정 요인은 보통 이미 실서비스에서 GPU 추론을 운영하는 사람이 있느냐입니다.
도입 전 확인할 점
- 설정
- pip install sentence-transformers 후 모델을 CrossEncoder로 로드하고 predict()나 rank()를 호출합니다. trust_remote_code는 더 이상 필요 없습니다. 보정된 0에서 1 점수를 얻으려면 (scores / 5).sigmoid()를 적용합니다.
- 연동
- 커뮤니티 양자화 15종이 있는 Hugging Face 가중치, 모델 카드에 따른 AWS Marketplace, sentence-transformers나 Qwen3 기반 모델을 돌리는 모든 서버에서 쓸 수 있습니다. ZeroEntropy의 호스팅 /models/rerank 엔드포인트는 더 이상 요청을 처리하지 않습니다.
- 데이터와 개인정보
- Apache 2.0은 매출 제한 없이 상업적 이용, 수정, 재배포를 허용합니다. 자체 호스팅하면 쿼리와 문서가 자체 인프라 안에 남으며, 데이터를 보낼 업체 API는 이제 없습니다.
- 대규모 사용 시 비용
- 가중치는 무료이고, 비용은 약 8 GB의 BF16 가중치와 배치 메모리를 담을 GPU입니다. 24 GB 데이터센터 카드 한 장이면 충분합니다. 지연 시간과 처리량 수치는 공개되지 않았으므로, 용량은 자신의 쿼리 구성으로 측정해야 합니다.
- 제한
- 쿼리와 문서 쌍당 32,768토큰 컨텍스트이며 텍스트 전용입니다. 공개된 지연 시간 수치가 없고, Notion 인수 이후 관리자 로드맵도 없습니다.
좋은 점
- 고정 컷오프로 쓸 수 있는 보정된 점수
- 2026년 7월부터 Apache 2.0 가중치
- 32K 토큰 컨텍스트와 자연어 관련성 지시
- 카드 기준 일곱 개 도메인 중 여섯 개에서 Cohere rerank-3.5를 앞섬
아쉬운 점
- 호스팅 API가 서비스를 멈춰 자체 호스팅만 가능
- Notion 인수 이후 업체 로드맵 없음
- 벤치마크는 ZeroEntropy 자체 측정이며 비교 대상이 구형
- 2026년 5월 원시 logit 전환으로 기존 임계값이 깨짐
추천 대상
이미 GPU 추론을 운영하면서 컷오프로 쓸 수 있는 관련성 점수를 내는 무료 리랭커를 원하는 팀.
zerank-2 대안
zerank-2: 자주 묻는 질문
- zerank-2, 쓸 만한 가치가 있습니까?
- 보정된 점수가 가치 있는 날카로운 오픈 리랭커이지만, 이제 뒤를 받쳐 주는 것은 자신의 GPU뿐입니다. 평점은 5점 만점에 3.9점입니다.
- zerank-2의 가격은 얼마입니까?
- Apache 2.0으로 무료입니다. ZeroEntropy 호스팅 API(출시 당시 1M 토큰당 $0.025)는 2026년 9월 4일까지만 지원되었고 지금은 사용 불가 오류를 반환합니다.
- zerank-2의 단점은 무엇입니까?
- 호스팅 API가 서비스를 멈춰 자체 호스팅만 가능; Notion 인수 이후 업체 로드맵 없음; 벤치마크는 ZeroEntropy 자체 측정이며 비교 대상이 구형; 2026년 5월 원시 logit 전환으로 기존 임계값이 깨짐.
- zerank-2에 적합한 사람은 누구입니까?
- 이미 GPU 추론을 운영하면서 컷오프로 쓸 수 있는 관련성 점수를 내는 무료 리랭커를 원하는 팀.
- 팀이나 프로덕션 환경에서 zerank-2의 비용은 얼마입니까?
- 가중치는 무료이고, 비용은 약 8 GB의 BF16 가중치와 배치 메모리를 담을 GPU입니다. 24 GB 데이터센터 카드 한 장이면 충분합니다. 지연 시간과 처리량 수치는 공개되지 않았으므로, 용량은 자신의 쿼리 구성으로 측정해야 합니다.
- zerank-2에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0은 매출 제한 없이 상업적 이용, 수정, 재배포를 허용합니다. 자체 호스팅하면 쿼리와 문서가 자체 인프라 안에 남으며, 데이터를 보낼 업체 API는 이제 없습니다.
- zerank-2의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Cohere Rerank 4, Voyage rerank-3, Jina Reranker v3.5 및 mxbai-rerank v2입니다.
답변 확인일: 2026년 10월 22일.
