選び方
- リランカーを加える前に、ハイブリッド(キーワードとベクトル)検索を加えましょう。
- 正解がよく上位20件には入るのに上位3件に入らない場合、リランカーは追加の遅延に見合います。
- モデルに送る段落の数は少なく保ちましょう。文脈は多ければよいわけではありません。
確認すべきポイント
選択肢を分けるポイントを、重要な順に並べています。
01
自分の第1段階に対する改善
リランカーの価値は、何を並べ替えるかで決まります。Voyage自身のテストでは、rerank-3はBM25のキーワード検索を20%改善しますが、強力な埋め込みモデルに対しては6%にとどまります。自分のクエリで、リランカーありとなしのrecall at 100とNDCG at 10を測りましょう。正しい段落が上位20件に入ることがめったにないなら、リランカーを加える前に検索(ハイブリッド検索、よりよいチャンキング)を直してください。
02
BEIRとMTEBの数字の読み方
リランカーのスコアの多くは、公開の検索データセット群であるBEIR、またはMTEBリーダーボードの検索とリランキングのタスクでのNDCG@10です。リランカーのスコアは、どの第1段階の検索が候補を出したか、何件を並べ替えたか(通常は上位100件)に左右され、ベンダーはそれぞれ異なる設定を選んでいるので、あるカードの63と別のカードの57は直接比較できません。すべてのモデルを同じ候補で実行した表を選び、平均ではなく自分に最も近い分野(法律、コード、多言語のMIRACLやMr.TyDi)を見て、ベンダーの表は再現すべき主張として扱いましょう。
03
クエリあたりの遅延
リランカーはすべての検索にモデルの呼び出しを1回加え、費用は候補数と文書の長さの積とともに増えます。公表されている数字は約0.3秒(A100でのJina v3.5)から0.9秒(mxbai-rerank-large-v2)まで幅があり、リランカーとして使うLLMは数十秒かかることもあります。実際の候補数と段落の長さでp95を測り、recallの最後の1ポイントより遅延が重要なら、候補を100から30や50に減らしましょう。
04
クロスエンコーダー、リストワイズ、LLMのリランカー
クロスエンコーダー(ポイントワイズ)は、クエリと文書のペアを1つずつ独立に採点します。Qwen3-Reranker、zerank-2、mxbai v2を含め、現在のモデルの多くは、このように使われる小さなLLMです。Jina v3.5やMixedbreadのv3.1のようなリストワイズのリランカーは、候補のリスト全体を一度に読み、文書同士を比べて重みづけできますが、コンテキストウィンドウにすべての候補が収まらなければなりません。汎用のLLMにプロンプトで並べ替えさせると品質は並べますが、クエリあたりはるかに遅く、高くつきます。
05
最大入力長
古いリランカーは512トークンで切り捨て、各段落の冒頭だけを黙って採点していました。現在のモデルはクエリと文書のペアあたり8K〜32Kトークンを受け付け、Jina v3.5はクエリとすべての候補を合わせて131Kトークンを受け付けます。上限をチャンクサイズに合わせましょう。チャンクが長いなら、Cohereが500トークンを超えると行っているように、APIが文書を分割してそれぞれを課金するかを確認してください。
06
言語
多言語の主張は、一覧のない「多言語」から100以上の言語まで幅があります。MIRACLやMr.TyDi、言語をまたぐクエリ(ドイツ語の文書に対する英語の質問)でのスコアを探し、自分の言語でテストしてください。たとえばmxbai v2は、100言語の主張にもかかわらず、Mr.TyDiではBGEのリランカーに及びません。
07
ライセンスと動かし方
Qwen3-Reranker、zerank-2、mxbai v2はApache 2.0で、どこでも動かせます。Jina v3.5の重みは非商用なので、本番でセルフホストするには有料のElasticのライセンスが必要です。VoyageとCohereはAPI専用で、スタックからGPUがなくなる代わりに文書を第三者に送ることになります。ベンダーの安定性も確認しましょう。ZeroEntropyのホスト型APIは、7月にNotionが同社を買収した後、2026年9月4日までしかサポートされず、オープンウェイトだけが残りました。
08
1,000回の検索あたりの価格
APIはトークン単位(Voyage、Jina)か検索単位(Cohere)で価格が決まります。1つの単位に換算しましょう。300トークンの段落を100件並べ替えると検索1回あたり約30,000トークンで、Voyage rerank-3の100万トークンあたり$0.05なら1,000回の検索あたり約$1.50です。ゲートウェイの掲載価格でのCohere Rerank 4 Proは1,000回あたり約$2.50です。セルフホストはそれをGPU時間と引き換えにするもので、元が取れるのは安定した大量の利用の場合だけです。
自分のデータで試す方法
- 代表的な質問を50〜100件作り、それぞれの正しい段落に印を付けます。
- 難しいケースを含めましょう。略語、正確なID、あいまいな質問、長い段落、提供している他の言語などです。
- 実際の第1段階(使っているならハイブリッド)を実行し、Recall@50または@100を記録します。リランカーは、届かなかった段落を取り戻すことはできません。
- 同じ候補を各モデルで並べ替え、リランカーなしの場合とNDCG@10とRecall@5を比べます。
- 実際の候補数、段落の長さ、同時実行数でp95の遅延を測ります。
- 各選択肢の価格を1,000回の検索あたりで、セルフホストならGPU時間で算出します。
- 最終的な回答の品質をエンドツーエンドで確認します。回答を変えない順位の改善は、その遅延に見合いません。
選択肢の違い
検索は2段階で行われます。第1段階のキーワード(BM25)、ベクトル、ハイブリッドの検索は速く、50〜100件ほどの候補を返します。次にリランカーがクエリと各候補を一緒に読んで並べ替えます。こちらは遅いものの格段に正確で、最良の数件の段落だけがモデルに届きます。LlamaIndex、Haystack、RAGFlowのようなフレームワークは自ら並べ替えるのではなく、検索器とリランカーをつなぎます。
リランカーは、動かし方と読み方で分かれます。ホスト型のAPI(Voyage rerank-3、Cohere Rerank 4)はGPUが不要で、トークン単位か検索単位で価格が決まります。オープンウェイトのモデル(Qwen3-Reranker、zerank-2、mxbai-rerank v2、そして非商用ライセンスのJina v3.5)は自分のハードウェアで動きます。ほとんどは文書を1つずつ採点し、Jina v3.5のようなリストワイズのモデルは候補の一覧全体を1回のパスで比較します。
9 個のツールを比較
当サイトの評価順です。各レビューで出典、料金、評価の詳細を確認できます。
| ツール | 評価 | 当サイトの評価 | 向いている用途 | 料金 |
|---|---|---|---|---|
| Voyage rerank-3モデル | 4.6/5 | Voyage自身の数値では、rerank-3はホスト型の競合すべてを上回ります。liteモデルは非常に安いため、どれだけリランクするかを決めるのは請求額ではなくレート制限です。 | 本番でRAGや検索を運用し、費用に見合う最高のホスト型リランキング品質を求めるチームです。 | rerank-3は100万(1M)トークンあたり$0.05、rerank-3-liteは100万トークンあたり$0.02です。最初の2億(200M)トークンは無料です。 |
| Jina Reranker v3.5モデル | 4.3/5 | BEIRで4Bのモデルを上回る0.6Bのリランカーですが、セルフホストを営業との商談に変えてしまうライセンスが足かせです。 | Elasticのユーザーや、自社のハードウェアで小型で長いコンテキストのリランカーを使いたいチーム。 | Jina APIは1Mトークンあたり$0.05です。重みは非商用利用なら無料で、商用のセルフホストには有料のElasticライセンスが必要です。 |
| LlamaIndexリポジトリ | 4.3/5 | ドキュメント主体のRAG向けとしては依然として奥深いツールキットですが、開発元はフレームワークがもはや最優先事 項ではないことを率直に明言しています。 | 大規模で多様なデータソースを対象に、RAGやドキュメントエージェントを構築するPython開発者に適しています。 | フレームワークはMITライセンスで無料です。LlamaParse(有料クラウド): Free(10k credits)、Starter月額$50(40k credits)、Pro月額$500(400k credits)、Enterpriseはカスタム。1,000 credits = $1.25です。 |
| Haystackリポジトリ | 4.2/5 | RAGシステムを信じるのではなく読んで理解したい人のためのフレームワークです。その代わり、部品同士の接続は自分で多めに書くことになります。 | 保守しやすい本番向けのRAGとエージェントのパイプラインをPythonで構築するエンジニアリングチーム。 | Apache 2.0ライセンスの無料オープンソースです。deepset Studioは1ユーザーまで無料で、Haystack Enterprise Platformは個別見積もりです。 |
| Qwen3-Embedding and Qwen3-Rerankerモデル | 4.2/5 | 埋め込みモデルとリランカーを1つのライセンスでそろえた完全なオープンの検索スタックですが、リーダーボードの首位は2025年6月時点のものです。 | 多言語やコードの検索をセルフホストし、埋め込みとリランキングの両方を1つのオープンなライセンスでそろえたいチーム。 | Apache 2.0で無料です。Qwen3をベースにしたQwen Cloudのホスト版text-embedding-v4は、100万トークンあたり$0.07です。 |
| RAGFlowリポジトリ | 4.0/5 | 1台の サーバーで稼働させられる完成された文書応答製品ですが、これまでのセキュリティ実績を考慮すると、公開インターネットではなくVPNの背後に配置するのが適切です。 | パイプラインを構築することなく、セルフホスト型の文書Q&Aやナレッジアシスタントを導入したいチームに適しています。 | Apache 2.0ライセンスに基づく無料でオープンソースのソフトウェアです。また、InfiniFlowはRAGFlow Cloudも販売しています。Free(月間500クレジット、APIキーなし)、Starter(月額29ドル)、Pro(月額129ドル、それぞれ定価の59ドルと259ドルから割引表記)、そしてBYOCやオンプレミス展開に対応した個別見積もりのEnterpriseがあります。 |
| zerank-2モデル | 3.9/5 | 較正されたスコアに価値がある鋭いオープンなリランカーですが、今や後ろ盾は自分のGPUだけです。 | すでにGPUで推論を運用していて、カットオフとして使える関連性スコア付きの無料のリランカーを求めるチームです。 | Apache 2.0で無料です。ZeroEntropyのホスト型API(公開時は100万(1M)トークンあたり$0.025)のサポートは2026年9月4日までで、現在は利用不可のエラーを返します。 |
| mxbai-rerank v2モデル | 3.8/5 | ライセンスだけで見れば、セルフホストする小型リランカーとして今も最も安全な選択です。ただし、ベンチマークでの優位は2025年3月時点のものです。 | 自前のハードウェアで動かす、小型で寛容なライセンスのリランカーを求めるチームに向いています。 | Apache 2.0で無料です。ホスト型はMixedbread Searchの中のみ:セマンティック検索は1,000クエリあたり$4、リランク付きで$7.50。Scaleプランは月$20分のクレジットです。 |
| Cohere Rerank 4モデル | 3.7/5 | Rerank 4は今も動作しますが、Cohereが報告するすべてのベンチマークで自社のRerank 5が上回っているため、新たに採用するより移行すべきモデルです。 | 調整済みのRerank 4パイプラインがあり、Rerank 5で再検証するまで時間が必要なチーム。 | 検索単位の課金(1クエリ、最大100文書)。Vercel AI Gatewayでは1,000検索あたりProが$2.50、Fastが$2.00です。Cohereのページには現在Rerank 4の料金は載っていません。 |
仕様の比較
このステップで重要な仕様です。2026年10月23日に確認しました。導入前に提供元のサイトで確認してください。
| ツール | 種類 | パラメータ数 | 最大トークン数 | 言語 | ライセンス・利用方法 |
|---|---|---|---|---|---|
| Voyage rerank-3 | ホスト型のリランカー、指示に従う | 非公開 | クエリと文書で32K | 非公開 | プロプライエタリのAPI、MongoDB Atlas |
| Jina Reranker v3.5 | リストワイズのLLMリランカー | 0.6B | クエリとすべての候補で131K | 52 | CC BY-NC 4.0。APIまたは有料ライセンス |
| LlamaIndex | フレームワーク(リランカーを差し込む) | 該当なし | リランカー次第 | リランカー次第 | MIT |
| Haystack | フレームワーク(リランカーを差し込む) | 該当なし | リランカー次第 | リランカー次第 | Apache 2.0 |
| Qwen3-Embedding and Qwen3-Reranker | ポイントワイズのLLMリランカー | 0.6B, 4B, 8B | 32K | 100以上 | Apache 2.0 |
| RAGFlow | ハイブリッドとリランク付きのRAGエンジン | 該当なし | リランカー次第 | リランカー次第 | Apache 2.0 |
| zerank-2 | ポイントワイズのリランカー、較正されたスコア | 4B | 32K | 100以上(ベンダーの主張) | Apache 2.0。ホスト型APIは終了 |
| mxbai-rerank v2 | ポイントワイズのLLMリランカー | 0.5B, 1.5B | 8K(32K互換) | 100以上 | Apache 2.0 |
| Cohere Rerank 4 | ホスト型のリランカー(ProとFast) | 非公開 | クエリと文書で32K | 多言語(数は非公開) | プロプライエタリのAPI、Model Vault |
このステージが使われる場面
- 文書とのチャット:まず Voyage rerank-3 から始めます。
- カスタマーサポートエージェント:まず Cohere Rerank 4 から始めます。
- リサーチとナレッジグラフ:まず Jina Reranker v3.5 から始めます。
- プライベートなオンデバイスAI:まず Jina Reranker v3.5 から始めます。