Nemotron 3.5 Rerank 8Bとは?
Nemotron 3.5 Rerank 8Bは、NVIDIAが2026年10月20日にOpenMDW-1.1ライセンスで公開した83.8億パラメータのオープンなリランカーです。リランカーは、検索システムがすでに見つけた候補リストを受け取り、クエリと文書を一緒に読んで各候補を採点し直します。ベクトル比較より遅いものの、より正確です。このモデルは文書をテキスト、ページ画像、またはその両方で受け付けるため、グラフ、表、スキャンしたページを直接評価できます。クエリはテキストです。
MistralのMinistral 3 8BにPixtral画像エンコーダーを組み合わせたクロスエンコーダーで、まずテキスト、次に230万件の画像サンプルで学習されており、NVIDIAのNemotron 3.5 Embedの後段に置く想定です。ペアごとに生のスコアを1つ出力し、最大32,768トークンを読み、NVIDIA GPU上のTransformers、Sentence Transformers、vLLMで動作します。
Nemotron 3.5 Rerank 8Bは使う価値があるか?
Nemotron 3.5 Rerank 8Bは、視覚的な文書向けとして最も強力なオープンリランカーです。MTEBとともに始まったViDoRe v3.1のリランキングリーダーボードで、2026年10月20日に画像+テキストのページでnDCG@10 60.49を記録して首位となり、AlibabaのQwen3-VL-Reranker-8Bの59.17を上回りました。NVIDIA自身の構成でNemotron 3.5 Embed 1Bの上位50件を並べ替えると、ViDoRe V3の画像+テキストは58.82から67.56に、MIRACL-VISIONは68.93から78.69に上がり、Qwenのリランカーは66.03と75.06でした。
この改善はエージェントの処理にも及びます。NVIDIAによれば、リランカーを加えるとエージェントのクエリあたりのトークンコストが8B埋め込みモデルで約14%、1Bで13%減りました。結果を読むモデルが良いページを先に受け取り、検索の回数が減るためです。NVIDIAの説明では、Perplexityが非公開の72タスクのベンチマークでこのモデルが最高の平均を出したと確認しています。
純粋なテキストでは評価が分かれます。NVIDIAの発表の下に投稿されたコミュニティのテストでは、BEIRで63.18とQwen3-Reranker-8Bの65.11を下回り、MIRACLでは75.06対74.13で上回りました。NVIDIAはテキスト専用のリランキング表を公開していません。テキストだけの検索なら、0.6BのJina Reranker v3.5やCohereのホスト型Rerank 5のような小さなリランカーのほうが、依然として安い第一候補です。
注意点:提供されるのは8Bだけで、ペアを1件ずつ採点します。つまり50件の候補を並べ替えると、クエリごとに80億パラメータのモデルを50回通すことになり、ページ画像ならさらに増えます。出力は校正された確率ではなく生のロジットなので、しきい値はコーパスごとに調整が必要です。動くのはLinux上のNVIDIA GPUだけで、OpenRouterでは当面無料ですが、その後の価格は公開されていません。
結論:コーパスがPDFやスライドで、精度のために専用のGPU時間を割く価値があるなら、Nemotron 3.5 EmbedのうしろにNemotron 3.5 Rerankを置きましょう。テキスト検索なら、1B未満のリランカーでわずかな計算量のまま効果の大半を得られます。
真価を発揮する場面
保険会社のAIプラットフォームチーム
スキャンした保険証券や料率表から引受担当者の質問に答える
Nemotron 3.5 Embed 1Bで50ページを取得し、8Bで画像+OCRテキストとして並べ替え、上位5件を言語モデルに渡します。この構成でNVIDIAのViDoRe V3画像+テキストのスコアは58.82から67.56に上がります。
文書ストアを繰り返し検索する調査エージェントを作る開発者
無関係なページの読み込みに使うエージェントのトークンを減らす
検索とエージェントの間にリランカーを挟みます。NVIDIAは8B埋め込みモデルでクエリあたりのエージェントのトークンが約14%減ったと計測しています。GPU時間を買う前にOpenRouterの無料エンドポイントで試作しましょう。
多言語の製品マニュアルを持つメーカーの検索責任者
日本語やドイツ語での技術者の質問に合う図を見つける
NVIDIAは日本語とドイツ語を含む18言語で画像検索を評価しているので、自社のマニュアルで試してください。候補ページは1件ずつ採点されるため、リランカー用にGPUを1枚見込んでおきます。
導入前に確認すること
- 導入
- pip install transformers 5.20.0とsentence-transformersを行い、nvidia/Nemotron-3.5-Rerank-8B-BF16を読み込んでクエリと文書のペアを採点します。別の環境でvLLM 0.32.0を使って提供することもできます。
- 連携
- Transformers、Sentence Transformers、vLLM、NVIDIA NIM。OpenRouter(nvidia/nemotron-3.5-rerank-8b:free)。Nemotron 3.5 Embedと組み合わせて使います。Elasticの対応は近日予定と発表されています。
- データとプライバシー
- OpenMDW-1.1は商用利用とセルフホストを認めているので、文書は自社ハードウェアに留まります。商用利用可能なデータと合成データから、テキスト2,100万件、画像230万件のサンプルで学習されています。
- 大規模利用時のコスト
- 重みとOpenRouterでの呼び出しは現在無料です。実際のコストはGPU時間で、8Bモデルがすべての候補を採点します。NVIDIAはA100 80GB、H100 80GB、GB200を検証済みハードウェアとしており、NIMの価格は非公開です。
- 制限
- クエリと文書のペアあたり、画像トークンを含めて32,768トークン。画像の長辺は既定で1,120ピクセル、最大1,540。クエリはテキストのみ。出力は生のロジット。LinuxとNVIDIA GPU。
良い点
- ViDoRe v3.1のリランキングリーダーボードで60.49の首位(2026年10月20日)
- ページ画像、テキスト、またはその両方を評価
- NVIDIAのテストでNemotron 3.5 Embed 1BのMIRACL-VISIONを68.93から78.69に向上
- 緩やかなOpenMDW-1.1ライセンス、当面はOpenRouterで無料
気になる点
- 8Bのみで、候補ごとに完全な順伝播が必要
- コミュニティのテストでBEIRテキストはQwen3-Reranker-8Bに劣る
- 生のスコアで、校正された確率ではない
- Linux上のNVIDIA GPUのみ
- NVIDIAによるテキスト専用ベンチマークの公開なし
おすすめの人
PDF、スライド、スキャン文書を対象に検索を行い、最も精度の高いオープンな第2段階を必要とするチーム。