Cross-encoder
Un cross-encoder (encodeur croisé) est un modèle qui lit ensemble une requête et un document en une seule passe et renvoie un score de pertinence. Il est plus précis que la comparaison d'embeddings séparés, mais trop lent pour être appliqué à toute une collection.
Aussi appelé : bi-encoder, cross encoder
Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode
Le terme compte surtout quand il faut choisir entre deux façons d'utiliser un transformer pour la recherche.
Bi-encoder ou cross-encoder
Un bi-encoder encode séparément la requête et chaque document en embeddings. Les vecteurs des documents peuvent être calculés une fois et stockés dans une base de données vectorielle, et une recherche se résume à une comparaison rapide de vecteurs. C'est ainsi que fonctionne la recherche vectorielle.
Un cross-encoder fournit au modèle la requête et un document comme une seule entrée, si bien que chaque mot de la requête peut porter son attention sur chaque mot du document. Il produit un score, pas un vecteur réutilisable. Rien ne peut être précalculé : noter un million de documents implique donc un million d'appels au modèle.
L'article sur Sentence-BERT chiffre l'écart : trouver la paire la plus similaire parmi 10 000 phrases prenait environ 65 heures avec un cross-encoder BERT, contre environ 5 secondes avec son bi-encoder.
Comment on les combine
Le schéma habituel est la récupération suivie d'un reranking : un bi-encoder ou BM25 trouve quelques dizaines de candidats, puis un cross-encoder les renote. C'est ce que font la plupart des modèles de reranking, dont mxbai-rerank v2.
Entre les deux
Les modèles à late interaction comme ColBERT encodent séparément la requête et le document, mais conservent de nombreux vecteurs par texte et les comparent lors d'une étape finale peu coûteuse, ce qui les place entre les deux approches en coût et en précision.
Termes liés
- Reranking
- Le reranking (reclassement) est une seconde étape de recherche qui prend une courte liste de documents candidats et les réordonne selon leur pertinence pour la requête, à l'aide d'un modèle plus précis mais plus lent que la première recherche.
- Late interaction (ColBERT)
- La late interaction (interaction tardive) est une méthode de récupération, introduite par ColBERT, qui encode séparément la requête et chaque document en un vecteur par token, puis note une correspondance en comparant ces vecteurs de tokens lors d'une étape finale peu coûteuse.
- Embedding
- Un embedding (plongement vectoriel) est une liste de nombres (un vecteur) qui représente un morceau de texte, une image ou d'autres données, produite de sorte que les éléments de sens proche obtiennent des vecteurs proches les uns des autres.
- Recherche vectorielle
- La recherche vectorielle (vector search) trouve des éléments en comparant leurs embeddings à celui d'une requête et en renvoyant les plus proches, si bien que les résultats correspondent par le sens plutôt que par des mots-clés communs.
- Recherche hybride
- La recherche hybride (hybrid search) exécute une recherche par mots-clés et une recherche vectorielle sur la même requête et fusionne les deux listes classées, afin que les résultats puissent correspondre aux mots exacts comme au sens.