Qu’est-ce que Nemotron 3.5 Rerank 8B ?
Nemotron 3.5 Rerank 8B est un reranker ouvert de NVIDIA de 8,38 milliards de paramètres, publié le 20 octobre 2026 sous la licence OpenMDW-1.1. Un reranker prend la liste restreinte qu'un moteur de recherche a déjà trouvée et rescore chaque candidat en lisant ensemble la requête et le document, ce qui est plus lent qu'une comparaison de vecteurs mais plus précis. Celui-ci accepte les documents sous forme de texte, d'images de pages ou des deux, si bien que graphiques, tableaux et pages numérisées peuvent être jugés directement ; les requêtes sont textuelles.
C'est un cross-encoder fondé sur Ministral 3 8B de Mistral avec un encodeur d'images Pixtral, entraîné d'abord sur du texte puis sur 2,3 millions d'exemples d'images, et conçu pour se placer derrière le Nemotron 3.5 Embed de NVIDIA. Il renvoie un score brut par paire, lit jusqu'à 32 768 tokens et tourne dans Transformers, Sentence Transformers et vLLM sur GPU NVIDIA.
Nemotron 3.5 Rerank 8B vaut-il le coup ?
Nemotron 3.5 Rerank 8B est le reranker ouvert le plus solide pour les documents visuels. Sur le leaderboard de reranking ViDoRe v3.1, lancé avec MTEB, il était premier le 20 octobre 2026 avec 60,49 de nDCG@10 sur des pages image plus texte, contre 59,17 pour le Qwen3-VL-Reranker-8B d'Alibaba. Dans la configuration de NVIDIA, en réordonnant les 50 premiers résultats de Nemotron 3.5 Embed 1B, il fait passer ViDoRe V3 image plus texte de 58,82 à 67,56 et MIRACL-VISION de 68,93 à 78,69, contre 66,03 et 75,06 pour le reranker de Qwen.
Les gains se retrouvent dans les charges d'agents. NVIDIA indique que l'ajout du reranker a réduit le coût en tokens par requête d'un agent d'environ 14 % avec l'embedder 8B et de 13 % avec le 1B, car le modèle qui lit les résultats reçoit d'abord de meilleures pages et cherche moins. Perplexity, selon NVIDIA, a constaté qu'il obtenait la meilleure moyenne sur un benchmark privé de 72 tâches.
Sur le texte brut, c'est moins net. Un test communautaire publié sous l'annonce de NVIDIA lui donnait 63,18 sur BEIR contre 65,11 pour Qwen3-Reranker-8B, mais devant sur MIRACL (75,06 contre 74,13) ; NVIDIA ne publie aucun tableau de reranking purement textuel. Pour la recherche uniquement textuelle, des rerankers plus petits comme Jina Reranker v3.5 en 0.6B ou le Rerank 5 hébergé de Cohere restent le premier choix moins cher.
Le hic : seul un 8B est proposé, et il note les paires une à une, si bien que réordonner 50 candidats représente 50 passages dans un modèle de 8 milliards de paramètres à chaque requête, davantage avec des images de pages. La sortie est un logit brut et non une probabilité calibrée, il faut donc régler les seuils pour chaque corpus. Il ne tourne que sur GPU NVIDIA sous Linux, et il est gratuit sur OpenRouter pour l'instant sans prix publié pour la suite.
Notre avis : placez Nemotron 3.5 Rerank derrière Nemotron 3.5 Embed quand votre corpus est fait de PDF et de présentations et que la précision justifie du temps GPU dédié ; pour la recherche textuelle, un reranker de moins de 1B apporte l'essentiel du gain pour une fraction du calcul.
Là où il fait la différence
Une équipe plateforme IA chez un assureur
Répondre aux questions des souscripteurs à partir de polices numérisées et de grilles tarifaires
Récupérez 50 pages avec Nemotron 3.5 Embed 1B, réordonnez-les avec le 8B en image plus texte OCR et passez les cinq meilleures au modèle de langage ; avec cette configuration, le score image plus texte de NVIDIA sur ViDoRe V3 passe de 58,82 à 67,56.
Un développeur qui conçoit un agent de recherche interrogeant sans cesse une base documentaire
Réduire les tokens que l'agent dépense à lire des pages inutiles
Insérez le reranker entre la recherche et l'agent ; NVIDIA a mesuré environ 14 % de tokens d'agent en moins par requête avec l'embedder 8B. Prototypez sur l'endpoint gratuit d'OpenRouter avant d'acheter du temps GPU.
Un responsable recherche chez un industriel avec des manuels produits en de nombreuses langues
Trouver le bon schéma pour la question d'un technicien en japonais ou en allemand
NVIDIA a évalué la recherche d'images dans 18 langues dont le japonais et l'allemand : testez sur vos propres manuels ; prévoyez un GPU pour le reranker, car chaque page candidate est notée séparément.
Avant de vous engager
- Mise en route
- pip install transformers 5.20.0 et sentence-transformers, chargez nvidia/Nemotron-3.5-Rerank-8B-BF16 et notez les paires requête-document ; ou servez-le avec vLLM 0.32.0 dans un environnement séparé.
- Intégrations
- Transformers, Sentence Transformers, vLLM, NVIDIA NIM ; OpenRouter (nvidia/nemotron-3.5-rerank-8b:free) ; s'associe à Nemotron 3.5 Embed ; la prise en charge par Elastic est annoncée pour bientôt.
- Données et confidentialité
- OpenMDW-1.1 autorise l'usage commercial et l'auto-hébergement, les documents restent donc sur votre matériel. Entraîné sur 21 millions d'exemples de texte et 2,3 millions d'images issus de données autorisées pour un usage commercial et de données synthétiques.
- Coût à grande échelle
- Les poids et les appels OpenRouter sont gratuits aujourd'hui ; le vrai coût est le temps GPU, puisqu'un modèle de 8B note chaque candidat. NVIDIA cite A100 80GB, H100 80GB et GB200 comme matériel testé ; le prix de NIM n'est pas publié.
- Limites
- 32 768 tokens par paire requête-document, tokens d'image compris ; images par défaut à 1 120 pixels sur le plus grand côté, jusqu'à 1 540 ; requêtes textuelles uniquement ; renvoie des logits bruts ; Linux et GPU NVIDIA.
Les points forts
- Premier du leaderboard de reranking ViDoRe v3.1 avec 60,49 (20 octobre 2026)
- Juge images de pages, texte ou les deux
- Fait passer MIRACL-VISION de 68,93 à 78,69 au-dessus de Nemotron 3.5 Embed 1B dans le test de NVIDIA
- Licence permissive OpenMDW-1.1 ; gratuit sur OpenRouter pour l'instant
Les points faibles
- 8B uniquement ; chaque candidat est un passage complet
- Derrière Qwen3-Reranker-8B sur le texte BEIR dans un test communautaire
- Scores bruts, pas de probabilités calibrées
- GPU NVIDIA sous Linux uniquement
- Aucun benchmark purement textuel publié par NVIDIA
Idéal pour
Les équipes qui font de la recherche sur des PDF, des présentations et des documents numérisés et ont besoin de la seconde étape ouverte la plus précise.
Alternatives à Nemotron 3.5 Rerank 8B
Nemotron 3.5 Rerank 8B : questions fréquentes
- Nemotron 3.5 Rerank 8B vaut-il le coup ?
- Nemotron 3.5 Rerank est le reranker ouvert pour la recherche documentaire où la réponse peut se trouver dans un graphique, mais avec 8B c'est une seconde étape lourde pour du texte brut. Nous lui donnons 4.1 sur 5.
- Combien coûte Nemotron 3.5 Rerank 8B ?
- Gratuit sous OpenMDW-1.1. Gratuit sur OpenRouter pour l'instant ; NVIDIA NIM disponible, sans prix public.
- Quels sont les inconvénients de Nemotron 3.5 Rerank 8B ?
- 8B uniquement ; chaque candidat est un passage complet; derrière Qwen3-Reranker-8B sur le texte BEIR dans un test communautaire; scores bruts, pas de probabilités calibrées; gPU NVIDIA sous Linux uniquement; aucun benchmark purement textuel publié par NVIDIA.
- À qui s’adresse Nemotron 3.5 Rerank 8B ?
- Les équipes qui font de la recherche sur des PDF, des présentations et des documents numérisés et ont besoin de la seconde étape ouverte la plus précise.
- Combien coûte Nemotron 3.5 Rerank 8B pour une équipe ou en production ?
- Les poids et les appels OpenRouter sont gratuits aujourd'hui ; le vrai coût est le temps GPU, puisqu'un modèle de 8B note chaque candidat. NVIDIA cite A100 80GB, H100 80GB et GB200 comme matériel testé ; le prix de NIM n'est pas publié.
- Nemotron 3.5 Rerank 8B est-il sûr pour les données de l’entreprise ?
- OpenMDW-1.1 autorise l'usage commercial et l'auto-hébergement, les documents restent donc sur votre matériel. Entraîné sur 21 millions d'exemples de texte et 2,3 millions d'images issus de données autorisées pour un usage commercial et de données synthétiques.
- Quelles sont les meilleures alternatives à Nemotron 3.5 Rerank 8B ?
- Les alternatives les plus proches que nous avons testées sont Cohere Rerank 5, Jina Reranker v3.5, Qwen3-Embedding and Qwen3-Reranker, zerank-2 et mxbai-rerank v2.
Réponses vérifiées le 7 nov. 2026.
Vous éditez Nemotron 3.5 Rerank 8B ? Affichez cette note sur votre site
