mxbai-rerank v2의 개요
mxbai-rerank v2는 Mixedbread가 2025년 3월 13일에 발표한 오픈 리랭커 두 종입니다(가중치는 3월 3일 Hugging Face에 올라왔습니다). mxbai-rerank-base-v2(5억, 0.5 billion 파라미터)와 mxbai-rerank-large-v2(15억, 1.5 billion)입니다. 리랭커는 검색 시스템이 이미 가져온 후보 목록을 쿼리와 각 문서를 함께 읽어 다시 점수를 매깁니다. 벡터 비교보다 느리지만 더 정확합니다. 두 모델 모두 문서를 하나씩 채점하는(pointwise) 방식이며, Qwen2.5를 기반으로 강화 학습, 대조 학습, 선호 학습으로 훈련되었습니다.
Mixedbread는 100개가 넘는 언어와 코드를 다루며, 컨텍스트는 기본 8,000 토큰이고 32,000 토큰까지 호환된다고 밝힙니다. v1은 512였습니다. 가중치는 Hugging Face에 Apache 2.0으로 공개되어 있고, 작은 mxbai-rerank Python 패키지가 함께 제공됩니다.
Mixedbread의 더 새로운 리랭커인 mxbai-rerank-v3.1-listwise는 독점 모델로, 호스팅 서비스인 Mixedbread Search 안에서만 쓸 수 있습니다. 여기서는 이 모델이 기본값이고 large-v2는 pointwise 옵션으로 남아 있습니다. 문서에는 별도의 리랭크 엔드포인트가 나와 있지 않으며, 리랭킹은 시맨틱 검색 1,000건당 $3.50가 추가됩니다.
mxbai-rerank v2의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Weights | Free | Apache 2.0 |
| Semantic search | $4 per 1,000 queries | Mixedbread Search |
| Search with reranking | $7.50 per 1,000 queries | Mixedbread Search |
| Scale plan | $20/month in credits |
Apache 2.0으로 무료. 호스팅은 Mixedbread Search 안에서만 가능: 시맨틱 검색 1,000건당 $4, 리랭킹 포함 시 $7.50, Scale 요금제는 월 $20 크레딧.
mxbai-rerank v2, 쓸 만한 가치가 있습니까?
mxbai-rerank v2가 자리를 지키는 이유는 현재 정확도가 아니라 라이선스와 크기입니다. 두 모델 모두 상업적 조건이 붙지 않는 Apache 2.0입니다. Jina의 새 리랭커가 상업적 자체 호스팅에 유료 Elastic 라이선스를 요구하는 지금 이 점은 중요합니다. 0.5B base 모델은 평범한 GPU에서 애플리케이션 옆에 함께 돌릴 수 있을 만큼 작습니다. Mixedbread가 A100 1장으로 NFCorpus에서 잰 쿼리당 시간은 large-v2 0.89초, base-v2 0.67초이고, bge-reranker-v2-m3는 3.05초, bge-reranker-v2-gemma는 7.20초입니다.
출시 당시에는 영어에서 오픈 모델 가운데 선두였습니다. Mixedbread는 BEIR 평균 NDCG@10을 large-v2 57.49, base-v2 55.57로 보고했고, Cohere rerank-3.5는 55.39, Voyage rerank-2는 54.54였습니다. ToolRet 도구 검색에서는 39.2로, 이전 최고치 39.09를 근소하게 앞섰습니다. 다국어 Mr.TyDi에서는 두 BGE 리랭커가 앞섰으므로(30.99와 30.40 대 29.79), 100개 언어라는 주장은 자체 데이터로 확인해 볼 필요가 있습니다. 이 수치는 모두 Mixedbread의 측정입니다.
그 사이 상황은 달라졌습니다. 그 표에 있던 상용 경쟁 모델은 모두 후속 모델로 바뀌었고, Jina는 0.6B Jina Reranker v3.5가 BEIR에서 63.20을 기록했다고 보고합니다. 다만 설정이 달라 직접 비교할 수는 없습니다. Mixedbread의 개발은 독점 모델인 listwise v3.1에 집중되어 있습니다. Mixedbread는 이 모델이 ViDoRe v3에서 쿼리당 0.65초로 프런티어 LLM 리랭커와 같은 수준이라고 보고하지만, Mixedbread Search 안에서만 돌아갑니다. 공개 GitHub 저장소는 2025년 9월에 마지막으로 업데이트되었고, Python 패키지는 아직 0.1.6 버전입니다.
호스팅을 쓰면 경제성이 달라집니다. Mixedbread는 리랭킹 포함 시맨틱 검색 1,000건에 $7.50를 받고, 그중 $3.50가 리랭크 단계 몫입니다. 그래서 월 100만 건의 리랭크 쿼리는 인덱싱과 저장 비용을 빼고도 $7,500입니다. Mixedbread 자체 수치인 A100에서 쿼리당 0.89초로 계산하면, 같은 100만 건은 large-v2로 약 250 GPU시간이며 GPU 1장의 한 달 용량에 충분히 들어갑니다.
제 역할을 하는 곳
Elasticsearch에서 BM25를 운영하는 20명 규모 SaaS 회사의 검색 엔지니어
업체를 늘리지 않고 앱 내 도움말 검색의 관련성 높이기
기존 BM25 후보 목록 뒤에 작은 GPU로 base-v2를 붙입니다. Mixedbread 테스트에서 BM25와 base-v2 조합은 BEIR 평균 55.57이었습니다. Apache 2.0이라 라이선스 검토가 필요 없고, 운영 비용은 GPU뿐입니다.
수백 개의 도구를 쓰는 에이전트를 만드는 개발자
요청마다 모델에 보여줄 도구 설명 고르기
large-v2로 요청에 맞춰 도구 설명을 리랭크합니다. BM25를 1단계로 둔 ToolRet에서 39.2를 기록했고, BM25 단독은 31.97이었습니다. pointwise 채점이라 각 도구의 점수가 다른 도구와 독립적입니다.
로펌의 지식 관리 책임자
호스팅 검색 서비스와 리랭커 자체 호스팅 중 선택하기
리랭킹 포함 Mixedbread Search는 1,000건당 $7.50이고 기본값은 비공개 v3.1 모델입니다. v2를 자체 호스팅하면 문서가 회사 하드웨어에 남지만, GPU와 모니터링, 업데이트를 직접 맡아야 합니다.
도입 전 확인할 점
- 설정
- pip install mxbai-rerank로 설치하고, Hugging Face에서 mixedbread-ai/mxbai-rerank-base-v2 또는 large-v2를 불러와 쿼리와 후보 문서를 넘깁니다.
- 연동
- mxbai-rerank Python 패키지와 Transformers. Mixedbread Search 안에서는 search_options.rerank에서 large-v2를 선택할 수 있고 top_k와 메타데이터 설정을 쓸 수 있습니다.
- 데이터와 개인정보
- Apache 2.0으로 자체 호스팅하므로 문서가 자사 인프라를 벗어나지 않습니다. Mixedbread Search는 Enterprise에서 bring-your-own-bucket을 제공합니다. Mixedbread의 개인정보 처리방침에 따르면 Security 기준만 다루는 SOC 2 Type II 보고서를 보유하고 있습니다.
- 대규모 사용 시 비용
- 자체 호스팅에서 Mixedbread 수치인 건당 0.89초로 100만 건을 처리하면 약 250 A100시간입니다. 호스팅 Mixedbread Search는 리랭크 시맨틱 검색 1,000건당 $7.50, 즉 100만 건당 $7,500이고, 인덱싱 1M 토큰당 $1.50~$3가 추가됩니다.
- 제한
- 쿼리-문서 쌍당 기본 8K 토큰, 32K 호환입니다. pointwise 방식이라 비용은 후보 수에 비례해 늘어납니다. Mixedbread Search Starter는 분당 100건, Scale은 2,400건을 허용합니다.
좋은 점
- Apache 2.0, 상업적 제한 없음
- Mixedbread 테스트에서 A100 1장 기준 쿼리당 0.67~0.89초
- 8K 토큰 컨텍스트, 32K 호환
- Mixedbread의 코드 및 도구 검색 테스트에서 BGE보다 우수
아쉬운 점
- 2025년 3월 출시, 공개 저장소는 2025년 9월 이후 정체
- 다국어 Mr.TyDi에서 BGE에 뒤처짐
- 더 새로운 v3.1 listwise 모델은 비공개이며 Mixedbread Search에 묶여 있음
- 벤치마크가 모두 Mixedbread 자체 측정
- 별도의 호스팅 리랭크 API 없음
추천 대상
작고 허용적인 라이선스의 리랭커를 자체 하드웨어에서 돌리려는 팀.
mxbai-rerank v2 대안
mxbai-rerank v2: 자주 묻는 질문
- mxbai-rerank v2, 쓸 만한 가치가 있습니까?
- 라이선스만 보면 여전히 자체 호스팅하기 가장 안전한 소형 리랭커입니다. 다만 벤치마크 우위는 2025년 3월 기준입니다. 평점은 5점 만점에 3.8점입니다.
- mxbai-rerank v2의 가격은 얼마입니까?
- Apache 2.0으로 무료. 호스팅은 Mixedbread Search 안에서만 가능: 시맨틱 검색 1,000건당 $4, 리랭킹 포함 시 $7.50, Scale 요금제는 월 $20 크레딧.
- mxbai-rerank v2의 단점은 무엇입니까?
- 2025년 3월 출시, 공개 저장소는 2025년 9월 이후 정체; 다국어 Mr.TyDi에서 BGE에 뒤처짐; 더 새로운 v3.1 listwise 모델은 비공개이며 Mixedbread Search에 묶여 있음; 벤치마크가 모두 Mixedbread 자체 측정; 별도의 호스팅 리랭크 API 없음.
- mxbai-rerank v2에 적합한 사람은 누구입니까?
- 작고 허용적인 라이선스의 리랭커를 자체 하드웨어에서 돌리려는 팀.
- 팀이나 프로덕션 환경에서 mxbai-rerank v2의 비용은 얼마입니까?
- 자체 호스팅에서 Mixedbread 수치인 건당 0.89초로 100만 건을 처리하면 약 250 A100시간입니다. 호스팅 Mixedbread Search는 리랭크 시맨틱 검색 1,000건당 $7.50, 즉 100만 건당 $7,500이고, 인덱싱 1M 토큰당 $1.50~$3가 추가됩니다.
- mxbai-rerank v2에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0으로 자체 호스팅하므로 문서가 자사 인프라를 벗어나지 않습니다. Mixedbread Search는 Enterprise에서 bring-your-own-bucket을 제공합니다. Mixedbread의 개인정보 처리방침에 따르면 Security 기준만 다루는 SOC 2 Type II 보고서를 보유하고 있습니다.
- mxbai-rerank v2의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3-Embedding and Qwen3-Reranker, zerank-2, Jina Reranker v3.5 및 Voyage rerank-3입니다.
답변 확인일: 2026년 10월 26일.