Jina Reranker v3.5의 개요
jina-reranker-v3.5는 2025년 10월 Elastic이 인수한 Jina AI의 리랭커로, 2026년 7월 27일 공개됐습니다. 리랭커는 질의와 문서를 함께 읽어 검색 시스템의 후보 목록에 점수를 다시 매깁니다. 문서를 하나씩 채점하는 대부분의 리랭커와 달리 이 모델은 listwise 방식입니다. 질의와 많은 후보를 한 번에 읽으므로 문서끼리 서로 비교해 판단할 수 있습니다.
파라미터는 5억 9,700만(597 million) 개이고, Qwen3-0.6B를 기반으로 52개 언어로 학습했으며, 최대 131,072토큰을 받습니다. 이 한도 안에 질의와 모든 후보가 들어가야 합니다. jina-reranker-v3를 그대로 대체할 수 있으며, 모델 이름만 바꾸면 됩니다.
가중치는 Hugging Face에 비상업용 CC BY-NC 4.0 라이선스로 올라와 있고, GGUF와 MLX 빌드도 있습니다. 상업적 사용은 100만 토큰당 $0.05인 Jina API, Elastic Inference Service, AWS나 Azure 마켓플레이스 결제, 또는 Elastic의 유료 Jina On-Prem 라이선스를 통해야 합니다.
Jina Reranker v3.5, 쓸 만한 가치가 있습니까?
Jina Reranker v3.5는 저렴하게 돌릴 수 있을 만큼 작은 모델로 대형 모델에 가까운 순위 품질을 냅니다. Jina의 모델 카드에 따르면 BEIR에서 nDCG@10 63.20점으로, 약 일곱 배 작은데도 Qwen3-Reranker-4B의 62.28점을 앞섭니다. 다국어 MIRACL(76.56 대 74.11), RTEB 엔터프라이즈 평가 묶음(77.68 대 70.95), 정형 데이터(55.6 대 48.3)에서는 여전히 Qwen의 4B 모델이 이깁니다. 모두 Jina가 1단계 검색에 jina-embeddings-v5-text-small을 써서 직접 측정한 결과입니 다.
v3 대비 개선은 업무용 검색이 고전하는 지점에서 나타납니다. Elastic의 출시 글에 따르면 AILA 판례 검색은 20.82에서 32.55로, 법령 검색은 32.15에서 46.16으로 올랐지만, LegalQuAD와 LegalSum은 거의 변하지 않았습니다. 의료와 금융 결과는 차트로만 나옵니다. Elastic은 리랭커가 부실한 1단계 검색을 구해낼 수는 없다고 솔직하게 밝힙니다.
지연 시간은 문서 길이에 크게 좌우됩니다. Elastic은 문서 평균이 146토큰인 BEIR Natural Questions에서 요청당 305 ms를 측정했지만, 평균 1,904토큰인 법률 판결문에서는 v3보다 56% 빨라졌는데도 10.3초가 걸렸습니다. 후보를 먼저 줄이지 않는다면 긴 문서의 리랭킹은 오프라인이나 비동기 경로에서 처리해야 합니다.
구매 결정의 대부분은 라이선스가 좌우합니다. CC BY-NC 4.0은 공개 가중치를 테스트와 연구로 제한하므로, 운영 환경 셀프호스팅에는 견적으로 연간 가격이 정해지는 Elastic의 Jina On-Prem 라이선스가 필요합니다. 호스팅 API는 100만 토큰당 $0.05로 저렴하지만, 그 시장에서는 Voyage의 rerank-3, Cohere의 Rerank 4와 정면으로 맞붙으며, Jina의 근거는 자체 벤치마크 표에 기대고 있습니다.
제 역할을 하는 곳
고객센터 문서에 하이브리드 검색을 운영하는 Elasticsearch 팀
두 번째 업체를 들이지 않고 답변 품질 높이기
BM25와 벡터 검색 뒤에 Elastic Inference Service로 리랭커를 호출합니다. 요청마다 약 300토큰짜리 상위 청크 50개를 보내면 약 15,000토큰이며, Jina API의 100만 토큰당 $0.05 기준으로 질의당 $0.00075입니다.
변호사를 위해 판례 순위를 매기는 리걸테크 스타트업
알맞은 선례를 상위 5개 결과 안에 넣기
v3.5에서 공개된 가장 큰 개선은 AILA 판례와 법령 검색입니다. 긴 판결문은 요청을 느리게 만들어, Elastic의 테스트에서 1,904토큰 문서 기준 약 10초가 걸렸습니다. 따라서 파일 전체가 아니라 단락을 리랭킹하십시오.
월 1M 건의 질의를 처리하는 RAG 플랫폼 엔지니어
예측 가능한 비용과 처리량으로 리랭킹 추가하기
요청당 약 15,000토큰이면 질의 1M 건에 월 약 $750가 듭니다. 유료 등급의 분당 2M 토큰은 이를 분당 약 130건으로 제한하므로, 피크 트래픽에는 분당 50M인 Premium 키가 필요합니다.
도입 전 확인할 점
- 설정
- 기존 v3 호출에서 모델 이름을 jina-reranker-v3.5로 바꾸거나, trust_remote_code로 Transformers에 가중치를 불러와 model.rerank를 호출합니다.
- 연동
- Jina API, Elastic Inference API와 Service, AWS SageMaker와 Azure 결제, Jina On-Prem 컨테이너, 로컬 평가용 GGUF와 MLX 빌드. 텍스트 전용이며, 이미지에는 Jina가 jina-reranker-m0을 안내합니다.
- 데이터와 개인정보
- Jina는 Elastic의 DPA에 따라 고객 입력으로 학습하지 않으며 요청 처리에 필요한 만큼만 저장한다고 밝힙니다. 보존 기간이나 인증은 명시돼 있지 않습니다. 가중치의 CC BY-NC 4.0 라이선스는 Jina On-Prem 없이 상업적 셀프호스팅을 금지합니다.
- 대규모 사용 시 비용
- 100만 토큰당 $0.05이므로, 각 약 15,000토큰인 질의 1M 건은 월 약 $750입니다. 질의가 한 번만 집계되는지 문서마다 집계되는지는 Jina 페이지에 나와 있지 않습니다.
- 제한
- 질의와 후보를 합쳐 요청당 131,072토큰이며, API에서는 자동으로 잘립니다. 요청 한도는 무료에서 분당 요청 100건과 100K 토큰, 유료에서 500건과 2M, Premium에서 5,000건과 50M입니다.
좋은 점
- 0.6B로 BEIR에서 Qwen3-Reranker-4B를 이깁니다
- 문서 수 제한 없는 131K 토큰 listwise 컨텍스트
- AILA 판례 검색이 v3 대비 20.82에서 32.55로 상승
- v3를 그대로 대체하며, 로컬 테스트용 GGUF와 MLX 빌드가 있습니다
아쉬운 점
- 가중치가 비상업 라이선스입니다
- MIRACL, RTEB, 정형 데이터에서 Qwen3-Reranker-4B에 뒤집니다
- 1,900토큰 법률 문서에서 요청당 약 10초
추천 대상
자체 하드웨어에서 작고 긴 컨텍스트를 지원하는 리랭커를 원하는 Elastic 사용자와 팀.
Jina Reranker v3.5 대안
Jina Reranker v3.5: 자주 묻는 질문
- Jina Reranker v3.5, 쓸 만한 가치가 있습니까?
- BEIR에서 4B 모델을 이기는 0.6B 리랭커지만, 셀프호스팅을 영업 상담으로 만드는 라이선스가 발목을 잡습니다. 평점은 5점 만점에 4.3점입니다.
- Jina Reranker v3.5의 가격은 얼마입니까?
- Jina API는 1M 토큰당 $0.05입니다. 가중치는 비상업적 용도에 한해 무료이며, 상업적 셀프호스팅에는 유료 Elastic 라이선스가 필요합니다.
- Jina Reranker v3.5의 단점은 무엇입니까?
- 가중치가 비상업 라이선스입니다; MIRACL, RTEB, 정형 데이터에서 Qwen3-Reranker-4B에 뒤집니다; 1,900토큰 법률 문서에서 요청당 약 10초.
- Jina Reranker v3.5에 적합한 사람은 누구입니까?
- 자체 하드웨어에서 작고 긴 컨텍스트를 지원하는 리랭커를 원하는 Elastic 사용자와 팀.
- 팀이나 프로덕션 환경에서 Jina Reranker v3.5의 비용은 얼마입니까?
- 100만 토큰당 $0.05이므로, 각 약 15,000토큰인 질의 1M 건은 월 약 $750입니다. 질의가 한 번만 집계되는지 문서마다 집계되는지는 Jina 페이지에 나와 있지 않습니다.
- Jina Reranker v3.5에 회사 데이터를 맡겨도 안전합니까?
- Jina는 Elastic의 DPA에 따라 고객 입력으로 학습하지 않으며 요청 처리에 필요한 만큼만 저장한다고 밝힙니다. 보존 기간이나 인증은 명시돼 있지 않습니다. 가중치의 CC BY-NC 4.0 라이선스는 Jina On-Prem 없이 상업적 셀프호스팅을 금지합니다.
- Jina Reranker v3.5의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Voyage rerank-3, Cohere Rerank 4 및 Qwen3-Embedding and Qwen3-Reranker입니다.
답변 확인일: 2026년 10월 22일.
