¿Qué es Nemotron 3.5 Rerank 8B?
Nemotron 3.5 Rerank 8B es un reranker abierto de NVIDIA, publicado el 20 de octubre de 2026 bajo la licencia OpenMDW-1.1 con 8.380 millones de parámetros. Un reranker toma la lista corta que un sistema de búsqueda ya ha encontrado y vuelve a puntuar cada candidato leyendo juntos la consulta y el documento, algo más lento que comparar vectores pero más preciso. Este acepta documentos como texto, imágenes de página o ambos, así que gráficos, tablas y páginas escaneadas se pueden juzgar directamente; las consultas son de texto.
Es un cross-encoder basado en Ministral 3 8B de Mistral con un codificador de imagen Pixtral, entrenado primero con texto y luego con 2,3 millones de muestras de imagen, y está pensado para ir detrás del Nemotron 3.5 Embed de NVIDIA. Devuelve una puntuación en bruto por pareja, lee hasta 32.768 tokens y funciona en Transformers, Sentence Transformers y vLLM sobre GPU de NVIDIA.
¿Merece la pena Nemotron 3.5 Rerank 8B?
Nemotron 3.5 Rerank 8B es el reranker abierto más fuerte para documentos visuales. En la leaderboard de reranking de ViDoRe v3.1, lanzada con MTEB, quedó primero el 20 de octubre de 2026 con 60,49 de nDCG@10 en páginas de imagen más texto, frente a 59,17 de Qwen3-VL-Reranker-8B de Alibaba. En la configuración de la propia NVIDIA, reordenando los 50 primeros resultados de Nemotron 3.5 Embed 1B, sube ViDoRe V3 de imagen más texto de 58,82 a 67,56 y MIRACL-VISION de 68,93 a 78,69, frente a 66,03 y 75,06 del reranker de Qwen.
Las mejoras se trasladan a cargas de agentes. NVIDIA indica que añadir el reranker redujo el coste en tokens por consulta de un agente en torno a un 14% con el embedder 8B y un 13% con el 1B, porque el modelo que lee los resultados recibe antes las mejores páginas y busca menos. Perplexity, según NVIDIA, vio que obtenía la media más alta en una prueba privada de 72 tareas.
En texto plano la cosa está menos clara. Una prueba de la comunidad publicada bajo el anuncio de NVIDIA le dio 63,18 en BEIR frente a 65,11 de Qwen3-Reranker-8B, aunque por delante en MIRACL (75,06 frente a 74,13); NVIDIA no publica una tabla propia de reranking solo de texto. Para búsqueda solo de texto, rerankers más pequeños como Jina Reranker v3.5 de 0.6B o el Rerank 5 alojado de Cohere siguen siendo la primera opción más barata.
La pega: solo se ofrece un 8B, y puntúa las parejas de una en una, así que reordenar 50 candidatos supone 50 pasadas por un modelo de 8.000 millones de parámetros en cada consulta, más con imágenes de página. La salida es un logit en bruto y no una probabilidad calibrada, así que los umbrales hay que ajustarlos para cada corpus. Solo funciona en GPU de NVIDIA con Linux, y es gratis en OpenRouter por ahora sin precio publicado para después.
Nuestra opinión: pon Nemotron 3.5 Rerank detrás de Nemotron 3.5 Embed cuando tu corpus sean PDF y presentaciones y la precisión justifique dedicarle GPU; para búsqueda de texto, un reranker de menos de 1B consigue la mayor parte del beneficio con una fracción del cómputo.
Dónde se gana su sitio
Un equipo de plataforma de IA en una aseguradora
Responder a preguntas de suscriptores a partir de pólizas escaneadas y tablas de tarifas
Recupera 50 páginas con Nemotron 3.5 Embed 1B, reordénalas con el 8B como imagen más texto OCR y pasa las cinco mejores al modelo de lenguaje; con esta configuración, la puntuación de imagen más texto de NVIDIA en ViDoRe V3 sube de 58,82 a 67,56.
Un desarrollador que crea un agente de investigación que consulta un almacén de documentos una y otra vez
Reducir los tokens que gasta el agente leyendo páginas irrelevantes
Inserta el reranker entre la búsqueda y el agente; NVIDIA midió en torno a un 14% menos de tokens del agente por consulta con el embedder 8B. Haz el prototipo en el endpoint gratuito de OpenRouter antes de comprar tiempo de GPU.
Un responsable de búsqueda en un fabricante con manuales de producto en muchos idiomas
Encontrar el diagrama adecuado para la pregunta de un técnico en japonés o alemán
NVIDIA evaluó la recuperación de imágenes en 18 idiomas, entre ellos japonés y alemán, así que prueba con tus propios manuales; reserva una GPU para el reranker, ya que cada página candidata se puntúa por separado.
Antes de decidirte
- Puesta en marcha
- pip install transformers 5.20.0 y sentence-transformers, carga nvidia/Nemotron-3.5-Rerank-8B-BF16 y puntúa parejas de consulta y documento; o sírvelo con vLLM 0.32.0 en un entorno aparte.
- Integraciones
- Transformers, Sentence Transformers, vLLM, NVIDIA NIM; OpenRouter (nvidia/nemotron-3.5-rerank-8b:free); se combina con Nemotron 3.5 Embed; el soporte de Elastic está anunciado como próximo.
- Datos y privacidad
- OpenMDW-1.1 permite el uso comercial y alojarlo uno mismo, así que los documentos se quedan en tu hardware. Entrenado con 21 millones de muestras de texto y 2,3 millones de imagen procedentes de datos con permiso comercial y sintéticos.
- Coste a escala
- Los pesos y las llamadas en OpenRouter son gratis hoy; el coste real es el tiempo de GPU, ya que un modelo de 8B puntúa cada candidato. NVIDIA indica A100 80GB, H100 80GB y GB200 como hardware probado; el precio de NIM no se publica.
- Límites
- 32.768 tokens por pareja de consulta y documento, incluidos los tokens de imagen; las imágenes van por defecto a 1.120 píxeles en el lado más largo, hasta 1.540; solo consultas de texto; devuelve logits en bruto; Linux y GPU de NVIDIA.
Lo bueno
- Primero en la leaderboard de reranking de ViDoRe v3.1 con 60,49 (20 de octubre de 2026)
- Evalúa imágenes de página, texto o ambos
- Sube MIRACL-VISION de 68,93 a 78,69 sobre Nemotron 3.5 Embed 1B en la prueba de NVIDIA
- Licencia permisiva OpenMDW-1.1; gratis en OpenRouter por ahora
Lo malo
- Solo 8B; cada candidato es una pasada completa
- Por detrás de Qwen3-Reranker-8B en texto de BEIR en una prueba de la comunidad
- Puntuaciones en bruto, no probabilidades calibradas
- Solo GPU de NVIDIA con Linux
- NVIDIA no publica pruebas solo de texto
Ideal para
Equipos que hacen recuperación sobre PDF, presentaciones y documentos escaneados y necesitan la segunda etapa abierta más precisa.
Alternativas a Nemotron 3.5 Rerank 8B
Nemotron 3.5 Rerank 8B: preguntas frecuentes
- ¿Merece la pena Nemotron 3.5 Rerank 8B?
- Nemotron 3.5 Rerank es el reranker abierto para buscar en documentos donde la respuesta puede estar en un gráfico, pero con 8B es una segunda etapa pesada para texto plano. Le damos un 4.1 sobre 5.
- ¿Cuánto cuesta Nemotron 3.5 Rerank 8B?
- Gratis bajo OpenMDW-1.1. Gratis en OpenRouter por ahora; NVIDIA NIM disponible, sin precio público.
- ¿Qué inconvenientes tiene Nemotron 3.5 Rerank 8B?
- Solo 8B; cada candidato es una pasada completa; por detrás de Qwen3-Reranker-8B en texto de BEIR en una prueba de la comunidad; puntuaciones en bruto, no probabilidades calibradas; solo GPU de NVIDIA con Linux; nVIDIA no publica pruebas solo de texto.
- ¿Para quién es Nemotron 3.5 Rerank 8B?
- Equipos que hacen recuperación sobre PDF, presentaciones y documentos escaneados y necesitan la segunda etapa abierta más precisa.
- ¿Cuánto cuesta Nemotron 3.5 Rerank 8B para un equipo o en producción?
- Los pesos y las llamadas en OpenRouter son gratis hoy; el coste real es el tiempo de GPU, ya que un modelo de 8B puntúa cada candidato. NVIDIA indica A100 80GB, H100 80GB y GB200 como hardware probado; el precio de NIM no se publica.
- ¿Es Nemotron 3.5 Rerank 8B seguro para los datos de la empresa?
- OpenMDW-1.1 permite el uso comercial y alojarlo uno mismo, así que los documentos se quedan en tu hardware. Entrenado con 21 millones de muestras de texto y 2,3 millones de imagen procedentes de datos con permiso comercial y sintéticos.
- ¿Cuáles son las mejores alternativas a Nemotron 3.5 Rerank 8B?
- Las alternativas más cercanas que hemos analizado son Cohere Rerank 5, Jina Reranker v3.5, Qwen3-Embedding and Qwen3-Reranker, zerank-2 y mxbai-rerank v2.
Respuestas comprobadas el 7 nov 2026.
¿Desarrollas Nemotron 3.5 Rerank 8B? Muestra esta nota en tu web
