O que é Nemotron 3.5 Rerank 8B?
Nemotron 3.5 Rerank 8B é um reranker aberto da NVIDIA, lançado em 20 de outubro de 2026 sob a licença OpenMDW-1.1 com 8,38 bilhões de parâmetros. Um reranker pega a lista curta que um sistema de busca já encontrou e pontua de novo cada candidato lendo juntos a consulta e o documento, o que é mais lento que comparar vetores, porém mais preciso. Este aceita documentos como texto, imagens de página ou ambos, então gráficos, tabelas e páginas digitalizadas podem ser julgados diretamente; as consultas são em texto.
É um cross-encoder baseado no Ministral 3 8B da Mistral com um codificador de imagem Pixtral, treinado primeiro com texto e depois com 2,3 milhões de amostras de imagem, e foi pensado para ficar atrás do Nemotron 3.5 Embed da NVIDIA. Ele devolve uma pontuação bruta por par, lê até 32.768 tokens e roda no Transformers, Sentence Transformers e vLLM em GPUs NVIDIA.
Nemotron 3.5 Rerank 8B vale a pena?
Nemotron 3.5 Rerank 8B é o reranker aberto mais forte para documentos visuais. No leaderboard de reranking do ViDoRe v3.1, lançado com o MTEB, ficou em primeiro em 20 de outubro de 2026 com 60,49 de nDCG@10 em páginas de imagem mais texto, contra 59,17 do Qwen3-VL-Reranker-8B da Alibaba. Na configuração da própria NVIDIA, reordenando os 50 primeiros resultados do Nemotron 3.5 Embed 1B, ele eleva o ViDoRe V3 de imagem mais texto de 58,82 para 67,56 e o MIRACL-VISION de 68,93 para 78,69, contra 66,03 e 75,06 do reranker da Qwen.
Os ganhos chegam às cargas de agentes. A NVIDIA informa que acrescentar o reranker cortou o custo em tokens por consulta de um agente em cerca de 14% com o embedder 8B e 13% com o 1B, porque o modelo que lê os resultados recebe antes as melhores páginas e busca menos. A Perplexity, segundo a NVIDIA, constatou que ele teve a maior média num benchmark privado de 72 tarefas.
Em texto puro, a coisa é menos clara. Um teste da comunidade publicado sob o anúncio da NVIDIA deu a ele 63,18 no BEIR contra 65,11 do Qwen3-Reranker-8B, embora à frente no MIRACL (75,06 contra 74,13); a NVIDIA não publica uma tabela própria de reranking só de texto. Para busca só de texto, rerankers menores como o Jina Reranker v3.5 de 0.6B ou o Rerank 5 hospedado da Cohere continuam sendo a primeira escolha mais barata.
O porém: só existe a versão 8B, e ela pontua pares um a um, então reordenar 50 candidatos significa 50 passagens por um modelo de 8 bilhões de parâmetros a cada consulta, mais com imagens de página. A saída é um logit bruto e não uma probabilidade calibrada, então os limiares precisam ser ajustados para cada acervo. Só roda em GPUs NVIDIA com Linux, e está grátis no OpenRouter por enquanto, sem preço publicado para depois.
Nossa opinião: coloque o Nemotron 3.5 Rerank atrás do Nemotron 3.5 Embed quando o acervo for de PDFs e apresentações e a precisão justificar tempo de GPU dedicado; para busca de texto, um reranker com menos de 1B entrega a maior parte do ganho com uma fração do processamento.
Onde ele se destaca
Uma equipe de plataforma de IA numa seguradora
Responder a perguntas de subscritores a partir de apólices digitalizadas e tabelas de tarifas
Recupere 50 páginas com o Nemotron 3.5 Embed 1B, reordene-as com o 8B como imagem mais texto de OCR e passe as cinco melhores ao modelo de linguagem; nessa configuração, a pontuação de imagem mais texto da NVIDIA no ViDoRe V3 sobe de 58,82 para 67,56.
Um desenvolvedor criando um agente de pesquisa que consulta repetidamente um acervo de documentos
Cortar os tokens que o agente gasta lendo páginas irrelevantes
Coloque o reranker entre a busca e o agente; a NVIDIA mediu cerca de 14% menos tokens do agente por consulta com o embedder 8B. Faça o protótipo no endpoint gratuito do OpenRouter antes de comprar tempo de GPU.
Um líder de busca numa fabricante com manuais de produto em vários idiomas
Encontrar o diagrama certo para a pergunta de um técnico em japonês ou alemão
A NVIDIA avaliou a recuperação de imagens em 18 idiomas, incluindo japonês e alemão, então teste com seus próprios manuais; reserve uma GPU para o reranker, já que cada página candidata é pontuada separadamente.
Antes de decidir
- Configuração
- pip install transformers 5.20.0 e sentence-transformers, carregue nvidia/Nemotron-3.5-Rerank-8B-BF16 e pontue pares de consulta e documento; ou sirva com vLLM 0.32.0 num ambiente separado.
- Integrações
- Transformers, Sentence Transformers, vLLM, NVIDIA NIM; OpenRouter (nvidia/nemotron-3.5-rerank-8b:free); combina com o Nemotron 3.5 Embed; suporte da Elastic anunciado para breve.
- Dados e privacidade
- OpenMDW-1.1 permite uso comercial e auto-hospedagem, então os documentos ficam no seu hardware. Treinado com 21 milhões de amostras de texto e 2,3 milhões de imagem vindas de dados com uso comercial permitido e sintéticos.
- Custo em escala
- Os pesos e as chamadas no OpenRouter são grátis hoje; o custo real é tempo de GPU, já que um modelo de 8B pontua cada candidato. A NVIDIA lista A100 80GB, H100 80GB e GB200 como hardware testado; o preço do NIM não é publicado.
- Limites
- 32.768 tokens por par de consulta e documento, incluindo tokens de imagem; imagens por padrão com 1.120 pixels no lado maior, até 1.540; só consultas em texto; devolve logits brutos; Linux e GPUs NVIDIA.
O que é bom
- Primeiro no leaderboard de reranking do ViDoRe v3.1 com 60,49 (20 de outubro de 2026)
- Avalia imagens de página, texto ou ambos
- Eleva o MIRACL-VISION de 68,93 para 78,69 sobre o Nemotron 3.5 Embed 1B no teste da NVIDIA
- Licença permissiva OpenMDW-1.1; grátis no OpenRouter por enquanto
O que não é
- Só 8B; cada candidato é uma passagem completa
- Atrás do Qwen3-Reranker-8B em texto do BEIR num teste da comunidade
- Pontuações brutas, não probabilidades calibradas
- Só GPUs NVIDIA com Linux
- Nenhum benchmark só de texto publicado pela NVIDIA
Ideal para
Equipes que fazem recuperação sobre PDFs, apresentações e documentos digitalizados e precisam da segunda etapa aberta mais precisa.
Alternativas ao Nemotron 3.5 Rerank 8B
Nemotron 3.5 Rerank 8B: perguntas frequentes
- Nemotron 3.5 Rerank 8B vale a pena?
- Nemotron 3.5 Rerank é o reranker aberto para busca em documentos em que a resposta pode estar num gráfico, mas com 8B é uma segunda etapa pesada para texto puro. Damos nota 4.1 de 5.
- Quanto custa Nemotron 3.5 Rerank 8B?
- Gratuito sob OpenMDW-1.1. Grátis no OpenRouter por enquanto; NVIDIA NIM disponível, sem preço público.
- Quais são as desvantagens de Nemotron 3.5 Rerank 8B?
- Só 8B; cada candidato é uma passagem completa; atrás do Qwen3-Reranker-8B em texto do BEIR num teste da comunidade; pontuações brutas, não probabilidades calibradas; só GPUs NVIDIA com Linux; nenhum benchmark só de texto publicado pela NVIDIA.
- Para quem Nemotron 3.5 Rerank 8B é indicado?
- Equipes que fazem recuperação sobre PDFs, apresentações e documentos digitalizados e precisam da segunda etapa aberta mais precisa.
- Quanto custa Nemotron 3.5 Rerank 8B para uma equipe ou em produção?
- Os pesos e as chamadas no OpenRouter são grátis hoje; o custo real é tempo de GPU, já que um modelo de 8B pontua cada candidato. A NVIDIA lista A100 80GB, H100 80GB e GB200 como hardware testado; o preço do NIM não é publicado.
- Nemotron 3.5 Rerank 8B é seguro para dados da empresa?
- OpenMDW-1.1 permite uso comercial e auto-hospedagem, então os documentos ficam no seu hardware. Treinado com 21 milhões de amostras de texto e 2,3 milhões de imagem vindas de dados com uso comercial permitido e sintéticos.
- Quais são as melhores alternativas ao Nemotron 3.5 Rerank 8B?
- As alternativas mais próximas que analisamos são Cohere Rerank 5, Jina Reranker v3.5, Qwen3-Embedding and Qwen3-Reranker, zerank-2 e mxbai-rerank v2.
Respostas verificadas em 7 de nov. de 2026.
Você faz o Nemotron 3.5 Rerank 8B? Mostre esta nota no seu site
