Cohere Rerank 5의 개요
Rerank 5는 Cohere의 현행 리랭커로, 2026년 10월 21일 rerank-v5.0-pro와 rerank-v5.0-fast로 출시되었습니다. 리랭커는 검색 시스템이 돌려준 후보 목록을 질의와 각 문서를 함께 읽어 다시 채점합니다. 벡터 검색보다 느리지만 더 정확합니다. Cohere에 따르면 Pro는 약 20억(2 billion) 파라미터, Fast는 약 5억(500 million) 파라미터이며 가중치는 공개되지 않았습니다.
두 모델 모두 질의와 문서 한 쌍당 32,768 토큰을 받고, 텍스트만 지원하며, 100개가 넘는 언어를 다룹니다. 새 기능은 두 가지입니다. 점수가 보정되어 있어 0.7은 문서가 쓸모 있을 확률이 70%라는 뜻이 되도록 설계되었습니다. 또 선택 사항인 Context Focus 모드는 각 문서 안에서 질의에 답하는 문자 구간을 점수와 함께 돌려주므로, 그 부분만 LLM에 전달하면 됩니다.
검색 단위로 과금하는 Rerank 4와 달리 Rerank 5는 토큰 단위로 과금합니다. 100만 토큰당 Pro는 $0.05, Fast는 $0.02입니다. Cohere API, Model Vault, Microsoft Foundry, Amazon SageMaker, 프라이빗 배포에서 쓸 수 있습니다.
Cohere Rerank 5의 가격은 얼마입니까?
| 플랜 | 가격 | 포함 내용 |
|---|---|---|
| Rerank 5 Pro | $0.05 per million tokens | |
| Rerank 5 Fast | $0.02 per million tokens | |
| Model Vault | $4.00/hour ($2,500/month) | 전용 인스턴스, 두 크기 모두 가능 |
Cohere API에서 100만 토큰당 Pro $0.05, Fast $0.02. Model Vault 전용 인스턴스는 두 크기 모두 시간당 $4.00(월 $2,500)입니다.
Cohere Rerank 5, 쓸 만한 가치가 있습니까?
가장 중요한 변화는 벤치마크 우위보다 보정입니다. 이전 리랭커의 점수는 서로 비교할 때만 의미가 있어서, 팀들은 코퍼스마다 컷오프를 손으로 조정했습니다. Cohere는 Rerank 5 두 크기의 기대 보정 오차가 0.058로, Rerank 4 Pro의 0.384와 Voyage rerank-3의 0.234보다 낮다고 밝혔습니다. 또 Pro의 적정 임계값이 BRIGHT, NanoBEIR, ViDoRe V3 전반에서 0.47과 0.53 사이에 머문다고 합니다. 여러분의 데이터에서도 이것이 맞는다면, 도우미가 모른다고 답할 시점을 숫자 하나로 정할 수 있습니다.
품질 면에서 출시 글은 분명한 우위를 주장합니다. 46개 종합 데이터셋 중 39개에서 1위, 추론 비중이 큰 BRIGHT 벤치마크에서 82.2점으로 Voyage rerank-3보다 5.8점, Rerank 4 Pro보다 12.4점 높다는 것입니다. 모두 Cohere가 자체 지표인 RCP-nDCG@10으로 측정했으며, 출시 이틀 뒤까지 독립적인 결과는 찾지 못했습니다. 파싱된 PDF에서는 차이가 89.9 대 Voyage의 88.4로 작아서, 효과는 코퍼스에 따라 다를 것입니다.
일반적인 검색에서는 가격이 이전 모델보다 쌉니다. 300 토큰짜리 단락 20개로 된 호출은 약 6,000 토큰으로 Pro에서 대략 $0.0003인데, Vercel 게이트웨이의 Rerank 4 Pro는 검색당 $0.0025 정액입니다. 문서가 길면 차이가 사라집니다. 500 토큰짜리 문서 100개는 어느 쪽이든 비용이 같습니다. Cohere에 따르면 100만 토큰당 $0.02인 Fast는 A100 한 장에서 1,000 토큰짜리 문서를 초당 약 187개 처리하며, 이는 Pro의 2.9배입니다.
Context Focus는 의존하기 전에 시험해 봐야 할 기능입니다. Cohere는 컨텍스트를 절반으로 줄여도 답변 품질의 96%가 유지되었다고 하지만, 자체 문서에서 표, 양식, 코드는 산문보다 깔끔하게 나뉘지 않는다고 경고합니다. 이 모드는 Cohere API에서만 쓸 수 있고 Foundry나 SageMaker에서는 쓸 수 없습니다. 문서에는 또 모델이 관련성 판단 방식을 바꾸는 지시를 따르지 않는다고 되어 있어, 분야별 관련성 기준은 여전히 질의 자체에 담아야 합니다.
제 역할을 하는 곳
월 200만(2 million) 건 질의에 답하는 고객지원 도우미를 맡은 검색 엔지니어
관련 자료가 검색되지 않으면 답을 거부하게 해 오답 줄이기
하이브리드 검색 상위 20개 결과를 Pro로 리랭킹하고, Cohere가 손익분기점으로 밝힌 0.5 근처 점수 아래에서는 '모르겠습니다'로 답하게 합니다. 300 토큰짜리 단락 기준으로 약 120억(12 billion) 토큰이며, Pro로 월 약 $600, Fast로 $240입니다.
RAG 프롬프트가 너무 길고 비싼 AI 엔지니어
각 문서에서 질문에 답하는 부분만 LLM에 보내기
relevant_spans를 약 0.3 임계값으로 켜고, 돌아온 구간만 생성 모델에 넘깁니다. Cohere는 컨텍스트를 50% 줄이고도 답변 품질 96%를 유지했다고 밝혔습니다. 표와 코드는 확인이 필요하며, 이 모드는 Cohere 자체 API에서만 작동합니다.
멀티테넌트 API로 문서를 보낼 수 없는 은행의 IT 책임자
은행 자체 클라우드 계정 안에 리랭킹 추가하기
Amazon SageMaker, Microsoft Foundry 또는 프라이빗 VPC 배포로 운영합니다. Cohere는 이 경우 입력과 출력을 전혀 받지 않는다고 밝혔습니다. 전용 Model Vault 인스턴스는 시간당 $4, 월 약 $2,500로 표기되어 있어 트래픽이 들쭉날쭉한 경우보다 꾸준한 물량에 맞습니다.
도입 전 확인할 점
- 설정
- 이전 버전과 같은 Rerank 엔드포인트입니다. rerank-v5.0-pro 또는 rerank-v5.0-fast를 질의, 문서와 함께 전달하면 되며 재인덱싱은 필요 없습니다. Rerank 4에서 옮겨 오는 파이프라인은 점수 척도가 바뀌었으므로 임계값을 다시 맞춰야 합니다.
- 연동
- Cohere API와 SDK, Model Vault, Microsoft Foundry, Amazon SageMaker, Cohere North, 프라이빗 VPC 또는 온프레미스 배포. LangChain, Haystack, Elasticsearch, Weaviate에서 프레임워크 지원.
- 데이터와 개인정보
- Cohere의 SaaS에서는 프롬프트와 출력이 기록되고 30일 후 삭제됩니다. 학습 활용은 Data Controls에서 끌 수 있으며, 승인된 기업 고객은 데이터 무보존(zero data retention)을 이용할 수 있습니다. 클라우드 플랫폼과 프라이빗 배포에서는 Cohere가 입력을 받지 않습니다. SOC 2 Type II와 ISO 27001.
- 대규모 사용 시 비용
- 100만 토큰당 Pro $0.05, Fast $0.02이므로 월 120억(12 billion) 토큰이면 약 $600 또는 $240입니다. Model Vault Medium 인스턴스는 두 크기 모두 시간당 $4.00, 월 $2,500입니다.
- 제한
- 질의·문서 쌍당 32,768 토큰이며, 더 긴 문서는 청크로 나뉘어 여러 번에 걸쳐 채점됩니다. 프로덕션 키는 분당 리랭크 요청 1,000건, 체험 키는 10건. 텍스트만 지원하며 관련성을 조정하는 지시는 지원하지 않습니다.
좋은 점
- 보정된 점수 덕분에 여러 코퍼스에서 임계값 하나를 쓸 수 있음
- 토큰 단위 가격: 100만 토큰당 Pro $0.05, Fast $0.02
- Context Focus가 각 문서의 관련 구간을 돌려줌
- 쌍당 32K 토큰. Cohere API, Foundry, SageMaker, 프라이빗 배포 지원
아쉬운 점
- 공개된 벤치마크가 모두 Cohere 자체 결과
- Context Focus는 Cohere API에서만 제공
- 텍스트만 지원. 이미지와 PDF는 먼저 파싱해야 함
- 관련성을 재정의하는 지시를 무시함
추천 대상
프로덕션 RAG나 기업 검색을 운영하며, 믿을 만한 점수 임계값과 프라이빗 배포 옵션을 갖춘 호스팅 리랭커가 필요한 팀.
Cohere Rerank 5 대안
Cohere Rerank 5: 자주 묻는 질문
- Cohere Rerank 5, 쓸 만한 가치가 있습니까?
- Rerank 5는 리랭킹을 아껴 쓸 필요가 없을 만큼 싸고, 임계값을 믿을 수 있을 만큼 보정되어 있습니다. 다만 지금까지 근거가 된 벤치마크는 모두 Cohere가 직접 낸 것입니다. 평점은 5점 만점에 4.4점입니다.
- Cohere Rerank 5의 가격은 얼마입니까?
- Cohere API에서 100만 토큰당 Pro $0.05, Fast $0.02. Model Vault 전용 인스턴스는 두 크기 모두 시간당 $4.00(월 $2,500)입니다.
- Cohere Rerank 5의 단점은 무엇입니까?
- 공개된 벤치마크가 모두 Cohere 자체 결과; Context Focus는 Cohere API에서만 제공; 텍스트만 지원. 이미지와 PDF는 먼저 파싱해야 함; 관련성을 재정의하는 지시를 무시함.
- Cohere Rerank 5에 적합한 사람은 누구입니까?
- 프로덕션 RAG나 기업 검색을 운영하며, 믿을 만한 점수 임계값과 프라이빗 배포 옵션을 갖춘 호스팅 리랭커가 필요한 팀.
- 팀이나 프로덕션 환경에서 Cohere Rerank 5의 비용은 얼마입니까?
- 100만 토큰당 Pro $0.05, Fast $0.02이므로 월 120억(12 billion) 토큰이면 약 $600 또는 $240입니다. Model Vault Medium 인스턴스는 두 크기 모두 시간당 $4.00, 월 $2,500입니다.
- Cohere Rerank 5에 회사 데이터를 맡겨도 안전합니까?
- Cohere의 SaaS에서는 프롬프트와 출력이 기록되고 30일 후 삭제됩니다. 학습 활용은 Data Controls에서 끌 수 있으며, 승인된 기업 고객은 데이터 무보존(zero data retention)을 이용할 수 있습니다. 클라우드 플랫폼과 프라이빗 배포에서는 Cohere가 입력을 받지 않습니다. SOC 2 Type II와 ISO 27001.
- Cohere Rerank 5의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Voyage rerank-3, Cohere Rerank 4, zerank-2, Jina Reranker v3.5 및 mxbai-rerank v2입니다.
답변 확인일: 2026년 10월 23일.
