Cross-Encoder
Ein Cross-Encoder ist ein Modell, das eine Anfrage und ein Dokument gemeinsam in einem Durchgang liest und einen Relevanzwert ausgibt. Er ist genauer als der Vergleich getrennter Embeddings, aber zu langsam, um ihn über eine ganze Sammlung laufen zu lassen.
Auch: bi-encoder, cross encoder
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Der Begriff ist vor allem wichtig, wenn du zwischen zwei Arten wählst, einen Transformer für die Suche zu nutzen.
Bi-Encoder und Cross-Encoder
Ein Bi-Encoder kodiert die Anfrage und jedes Dokument getrennt in Embeddings. Dokumentvektoren lassen sich einmal berechnen und in einer Vektordatenbank speichern, und eine Suche ist ein schneller Vektorvergleich. So funktioniert Vektorsuche.
Ein Cross-Encoder gibt Anfrage und Dokument als eine Eingabe ins Modell, sodass jedes Wort der Anfrage auf jedes Wort des Dokuments achten kann. Er erzeugt einen Wert, keinen wiederverwendbaren Vektor. Nichts lässt sich vorab berechnen, eine Million Dokumente zu bewerten heißt also eine Million Modellaufrufe.
Das Sentence-BERT-Paper beziffert das: Das ähnlichste Paar unter 10.000 Sätzen zu finden, dauerte mit einem BERT-Cross-Encoder etwa 65 Stunden, mit seinem Bi-Encoder etwa 5 Sekunden.
Wie sie kombiniert werden
Das übliche Muster ist Retrieve and Rerank: Ein Bi-Encoder oder BM25 findet einige Dutzend Kandidaten, dann bewertet ein Cross-Encoder sie neu. Das tun die meisten Modelle für Reranking, darunter mxbai-rerank v2.
Der Mittelweg
Modelle mit Late Interaction wie ColBERT kodieren Anfrage und Dokument getrennt, behalten aber viele Vektoren pro Text und vergleichen sie in einem günstigen letzten Schritt. Bei Kosten und Genauigkeit liegen sie zwischen den beiden Ansätzen.
Verwandte Begriffe
- Reranking
- Reranking (Neusortierung) ist ein zweiter Suchschritt, der eine kurze Liste von Kandidatendokumenten nimmt und sie nach Relevanz für die Abfrage neu ordnet, mit einem genaueren, aber langsameren Modell als bei der ersten Suche.
- Late Interaction (ColBERT)
- Late Interaction (späte Interaktion) ist eine Retrieval-Methode, eingeführt mit ColBERT, die Anfrage und jedes Dokument getrennt in einen Vektor pro Token kodiert und einen Treffer dann bewertet, indem sie diese Token-Vektoren in einem günstigen letzten Schritt vergleicht.
- Embedding
- Ein Embedding (Einbettung) ist eine Liste von Zahlen (ein Vektor), die ein Stück Text, ein Bild oder andere Daten repräsentiert und so erzeugt wird, dass Elemente mit ähnlicher Bedeutung nahe beieinanderliegende Vektoren erhalten.
- Vektorsuche
- Vektorsuche (Vector Search) findet Einträge, indem sie ihre Embeddings mit dem Embedding einer Abfrage vergleicht und die nächstgelegenen zurückgibt. Ergebnisse passen so nach Bedeutung statt nach gemeinsamen Stichwörtern.
- Hybride Suche
- Hybride Suche (Hybrid Search) führt zu derselben Anfrage eine Stichwortsuche und eine Vektorsuche aus und führt die beiden Ergebnislisten zusammen, sodass Treffer sowohl über exakte Wörter als auch über Bedeutung passen können.