Etapa 07 de 22
Recuperação e reranking
Combinar busca por palavra-chave e busca vetorial e depois reordenar os resultados por relevância. A primeira busca é rápida, mas grosseira. Um reranker lê direito os primeiros resultados e coloca o trecho certo em primeiro lugar.
Por Sheela · Verificado em 23 de out. de 2026 · Como avaliamos
Como escolher
- Adicione busca híbrida (palavra-chave mais vetores) antes de adicionar um reranker.
- Um reranker vale a latência extra quando a resposta certa costuma estar entre os 20 primeiros, mas não entre os 3 primeiros.
- Mantenha pequeno o número de trechos enviados ao modelo; mais contexto não é contexto melhor.
O que observar
As perguntas que separam as opções, em ordem de importância.
01
Ganho em relação à sua própria primeira etapa
O valor de um reranker depende do que ele reordena. Os testes da própria Voyage mostram o rerank-3 melhorando a busca por palavra-chave BM25 em 20%, mas um modelo de embedding forte em apenas 6%. Meça o recall em 100 e o NDCG em 10 nas suas próprias consultas, com e sem o reranker; se o trecho certo raramente está entre os 20 primeiros, corrija a recuperação (busca híbrida, chunking melhor) antes de acrescentar um.
02
Como ler os números do BEIR e do MTEB
A maioria das notas de rerankers é NDCG@10 no BEIR, um conjunto de datasets públicos de recuperação, ou nas tarefas de recuperação e reranking do ranking do MTEB. A nota de um reranker depende de qual recuperador de primeira etapa produziu os candidatos e de quantos ele reordenou (geralmente os 100 primeiros), e os fornecedores escolhem configurações diferentes, então um 63 em um model card e um 57 em outro não são diretamente comparáveis. Prefira tabelas que rodam todos os modelos sobre os mesmos candidatos, olhe o domínio mais próximo do seu (jurídico, código, MIRACL ou Mr.TyDi multilíngues) em vez da média e trate as tabelas dos fornecedores como alegações a reproduzir.
03
Latência por consulta
Um reranker acrescenta uma chamada a um modelo em cada busca, e o custo cresce com o número de candidatos vezes o tamanho dos documentos. Os números publicados vão de cerca de 0,3 segundo (Jina v3.5 em uma A100) a 0,9 segundo (mxbai-rerank-large-v2), e LLMs usados como rerankers podem levar dezenas de segundos. Meça o p95 com o seu número real de candidatos e o tamanho real dos trechos, e reduza os candidatos de 100 para 30 ou 50 se a latência importar mais do que o último ponto de recall.
04
Cross-encoder, listwise ou reranker com LLM
Um cross-encoder (pointwise) pontua cada par consulta-documento de forma independente; a maioria dos modelos atuais, incluindo Qwen3-Reranker, zerank-2 e mxbai v2, são pequenos LLMs usados dessa forma. Rerankers listwise como o Jina v3.5 e o v3.1 da Mixedbread leem toda a lista de candidatos de uma vez e podem pesar os documentos uns contra os outros, mas a sua janela de contexto precisa comportar todos os candidatos. Pedir a um LLM de uso geral que reordene pode igualar a qualidade, mas é muito mais lento e mais caro por consulta.
05
Tamanho máximo de entrada
Rerankers mais antigos truncavam em 512 tokens, pontuando sem aviso apenas o começo de cada trecho. Os modelos atuais aceitam de 8K a 32K tokens por par consulta-documento, e o Jina v3.5 aceita 131K tokens para a consulta e todos os candidatos juntos. Ajuste o limite ao tamanho dos seus chunks; se os chunks forem longos, verifique se a API divide os documentos e cobra cada parte, como a Cohere faz acima de 500 tokens.
06
Idiomas
As alegações multilíngues vão de "multilíngue" sem lista nenhuma a mais de 100 idiomas. Procure notas no MIRACL ou no Mr.TyDi e em consultas entre idiomas (uma pergunta em inglês sobre documentos em alemão) e teste os seus próprios idiomas: o mxbai v2, por exemplo, fica atrás dos rerankers BGE no Mr.TyDi apesar de alegar 100 idiomas.
07
Licença e como você pode rodá-lo
O Qwen3-Reranker, o zerank-2 e o mxbai v2 são Apache 2.0 e podem rodar em qualquer lugar. Os pesos do Jina v3.5 são não comerciais, então a hospedagem própria em produção exige uma licença paga da Elastic. A Voyage e a Cohere são apenas API, o que tira as GPUs da sua stack, mas envia os documentos a um terceiro. Confira também a estabilidade do fornecedor: a API hospedada da ZeroEntropy só teve suporte até 4 de setembro de 2026, depois que a Notion adquiriu a empresa em julho, restando apenas os pesos abertos.
08
Preço a cada 1.000 buscas
As APIs cobram por token (Voyage, Jina) ou por busca (Cohere). Converta para uma única unidade: reordenar 100 trechos de 300 tokens dá cerca de 30.000 tokens por busca, o que, aos $0,05 por milhão de tokens do Voyage rerank-3, dá cerca de $1,50 a cada 1.000 buscas, contra cerca de $2,50 a cada 1.000 do Cohere Rerank 4 Pro nas listagens de gateways. Hospedar por conta própria troca isso por horas de GPU, o que só compensa com volume alto e constante.
Como testar com seus próprios dados
- Monte de 50 a 100 perguntas representativas e marque os trechos corretos de cada uma.
- Inclua casos difíceis: abreviações, IDs exatos, perguntas ambíguas, trechos longos e outros idiomas que você atende.
- Rode a sua primeira etapa real (híbrida, se você a usa) e registre o Recall@50 ou @100; um reranker não consegue recuperar trechos que nunca chegam até ele.
- Reordene esses mesmos candidatos com cada modelo e compare NDCG@10 e Recall@5 com o resultado sem reranker.
- Meça a latência no p95 com o seu número real de candidatos, tamanho de trecho e concorrência.
- Calcule o preço de cada opção a cada 1.000 buscas, ou em horas de GPU se for self-hosted.
- Verifique a qualidade da resposta final de ponta a ponta; um ganho de ordenação que não muda as respostas não vale a latência.
Como as opções se diferenciam
A recuperação acontece em duas etapas. A primeira, busca por palavra-chave (BM25), vetorial ou híbrida, é rápida e devolve talvez de 50 a 100 candidatos. Um reranker então lê a consulta junto com cada candidato e os reordena, o que é mais lento, mas muito mais preciso, de modo que só os poucos melhores trechos chegam ao modelo. Frameworks como LlamaIndex, Haystack e RAGFlow não fazem reranking por conta própria; eles conectam um recuperador e um reranker.
Os rerankers se dividem pela forma de rodar e pela forma de ler. APIs hospedadas (Voyage rerank-3, Cohere Rerank 4) não exigem GPUs e são cobradas por token ou por busca. Modelos de pesos abertos (Qwen3-Reranker, zerank-2, mxbai-rerank v2 e o Jina v3.5 sob licença não comercial) rodam no seu próprio hardware. A maioria pontua um documento por vez; modelos listwise como o Jina v3.5 comparam toda a lista curta de uma só vez.
9 ferramentas comparadas
Ordenadas pela nossa nota. Abra qualquer avaliação para ver as fontes, os preços e o veredito completo.
| Ferramenta | Nota | Nosso veredito | Ideal para | Preço |
|---|---|---|---|---|
| Voyage rerank-3modelo | 4.6/5 | Pelos números da própria Voyage, o rerank-3 lidera todos os rivais hospedados, e o modelo lite custa tão pouco que é o limite de taxa, não a conta, que decide quanto reranking você faz. | Equipes que rodam RAG ou busca em produção e querem a melhor qualidade de reranking hospedado pelo dinheiro. | rerank-3 a US$ 0,05 por 1 milhão de tokens; rerank-3-lite a US$ 0,02 por 1 milhão de tokens; primeiros 200 milhões de tokens grátis. |
| Jina Reranker v3.5modelo | 4.3/5 | Um reranker de 0,6B que supera um de 4B no BEIR, freado por uma licença que transforma a auto-hospedagem em uma conversa com vendas. | Usuários da Elastic e equipes que querem um reranker pequeno e de contexto longo no próprio hardware. | API da Jina a US$ 0,05 por 1M de tokens. Pesos gratuitos para uso não comercial; a auto-hospedagem comercial exige uma licença paga da Elastic. |
| LlamaIndexrepositório | 4.3/5 | Ainda é um kit de ferramentas profundo para RAG com muitos documentos, mas seu criador agora diz com todas as letras que o framework não é mais a prioridade. | Desenvolvedores Python construindo RAG ou agentes de documentos sobre fontes de dados grandes e variadas. | Framework gratuito sob MIT. LlamaParse (nuvem paga): Free com 10k créditos, Starter $50/mês (40k créditos), Pro $500/mês (400k créditos), Enterprise sob consulta; 1.000 créditos = $1.25. |
| Haystackrepositório | 4.2/5 | Um framework para quem quer ler o próprio sistema de RAG em vez de confiar nele, ao custo de escrever mais da ligação entre as partes por conta própria. | Equipes de engenharia que criam pipelines de RAG e de agentes em Python para produção e fáceis de manter. | Gratuito e de código aberto sob a licença Apache 2.0. O deepset Studio é gratuito para um usuário; a Haystack Enterprise Platform tem preço sob consulta. |
| Qwen3-Embedding and Qwen3-Rerankermodelo | 4.2/5 | Uma pilha de busca aberta completa sob uma única licença, embedder e reranker juntos, embora a sua coroa no leaderboard seja de junho de 2025. | Equipes que auto-hospedam busca multilíngue ou de código e querem embedding e reranking sob uma única licença aberta. | Gratuito sob Apache 2.0. O text-embedding-v4 hospedado no Qwen Cloud, baseado no Qwen3, custa US$ 0,07 por 1M de tokens. |
| RAGFlowrepositório | 4.0/5 | Um produto pronto, do documento à resposta, que você roda em um único servidor, cujo histórico de segurança diz que ele pertence a um lugar atrás de uma VPN, não à internet aberta. | Equipes que querem um assistente de perguntas e respostas sobre documentos e de conhecimento, auto-hospedado, sem construir um pipeline. | Gratuito e de código aberto sob a licença Apache 2.0. A InfiniFlow também vende o RAGFlow Cloud: Free (500 créditos por mês, sem chave de API), Starter $29/mês e Pro $129/mês (cada um exibido contra um preço maior de $59 e $259) e Enterprise sob consulta, com BYOC e implantação on-premises. |
| zerank-2modelo | 3.9/5 | Um reranker aberto afiado, cujas notas calibradas valem a pena, agora sem ninguém por trás além da sua própria GPU. | Equipes que já rodam inferência em GPU e querem um reranker gratuito com notas de relevância que possam usar como corte. | Grátis sob Apache 2.0. A API hospedada da ZeroEntropy (US$ 0,025 por 1 milhão de tokens no lançamento) teve suporte só até 4 de setembro de 2026 e agora devolve um erro de indisponibilidade. |
| mxbai-rerank v2modelo | 3.8/5 | Ainda é o reranker pequeno mais seguro para hospedar por conta própria só pela licença, embora sua vantagem nos benchmarks seja de março de 2025. | Equipes que querem um reranker pequeno, com licença permissiva, para rodar no próprio hardware. | Gratuito sob Apache 2.0. Hospedado só dentro do Mixedbread Search: busca semântica $4 a cada 1.000 consultas, $7,50 com reranking; plano Scale $20/mês em créditos. |
| Cohere Rerank 4modelo | 3.7/5 | O Rerank 4 ainda funciona, mas o próprio Rerank 5 da Cohere agora o supera em todos os benchmarks que a Cohere informa, o que o torna um modelo do qual migrar, não um para adotar. | Equipes com um pipeline ajustado no Rerank 4 que precisam de tempo antes de revalidar no Rerank 5. | Cobrado por busca (uma consulta, até 100 documentos). O Vercel AI Gateway lista o Pro a US$ 2,50 e o Fast a US$ 2,00 por 1.000 buscas; a página da Cohere não mostra mais as tarifas do Rerank 4. |
Lado a lado
As especificações que importam nesta etapa. Verificadas em 23 de out. de 2026; confirme no site do fornecedor antes de decidir.
| Ferramenta | Tipo | Parâmetros | Máximo de tokens | Idiomas | Licença / acesso |
|---|---|---|---|---|---|
| Voyage rerank-3 | Reranker hospedado, segue instruções | Não publicado | 32K consulta + documento | Não publicado | API proprietária, MongoDB Atlas |
| Jina Reranker v3.5 | Reranker listwise com LLM | 0,6B | 131K para consulta + todos os candidatos | 52 | CC BY-NC 4.0; API ou licença paga |
| LlamaIndex | Framework (conecta rerankers) | Não se aplica | Depende do reranker | Depende do reranker | MIT |
| Haystack | Framework (conecta rerankers) | Não se aplica | Depende do reranker | Depende do reranker | Apache 2.0 |
| Qwen3-Embedding and Qwen3-Reranker | Reranker pointwise com LLM | 0,6B, 4B, 8B | 32K | Mais de 100 | Apache 2.0 |
| RAGFlow | Motor de RAG com busca híbrida + reranking | Não se aplica | Depende do reranker | Depende do reranker | Apache 2.0 |
| zerank-2 | Reranker pointwise, notas calibradas | 4B | 32K | Mais de 100 (segundo o fornecedor) | Apache 2.0; API hospedada encerrada |
| mxbai-rerank v2 | Reranker pointwise com LLM | 0,5B, 1,5B | 8K (compatível com 32K) | Mais de 100 | Apache 2.0 |
| Cohere Rerank 4 | Reranker hospedado (Pro e Fast) | Não publicado | 32K consulta + documento | Multilíngue (número não publicado) | API proprietária, Model Vault |
Onde esta etapa se encaixa
- Converse com os seus documentos: começaríamos com Voyage rerank-3.
- Agente de atendimento ao cliente: começaríamos com Cohere Rerank 4.
- Pesquisa e grafo de conhecimento: começaríamos com Jina Reranker v3.5.
- IA privada no dispositivo: começaríamos com Jina Reranker v3.5.
Fontes deste guia
- Ranking do MTEB
- Benchmark BEIR no GitHub
- Voyage AI: rerank-3 e rerank-3-lite
- Documentação da Cohere: modelos Rerank
- Model card do jinaai/jina-reranker-v3.5
- Blog do Qwen: Qwen3 Embedding
- Mixedbread: mxbai-rerank-v2
- Mixedbread: mxbai-rerank-v3.1-listwise
- Model card do zeroentropy/zerank-2-reranker
- Notícias da ZeroEntropy