Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Cross-Encoder

Ein Cross-Encoder ist ein Modell, das eine Anfrage und ein Dokument gemeinsam in einem Durchgang liest und einen Relevanzwert ausgibt. Er ist genauer als der Vergleich getrennter Embeddings, aber zu langsam, um ihn über eine ganze Sammlung laufen zu lassen.

Auch: bi-encoder, cross encoder

Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir

Der Begriff ist vor allem wichtig, wenn du zwischen zwei Arten wählst, einen Transformer für die Suche zu nutzen.

Bi-Encoder und Cross-Encoder

Ein Bi-Encoder kodiert die Anfrage und jedes Dokument getrennt in Embeddings. Dokumentvektoren lassen sich einmal berechnen und in einer Vektordatenbank speichern, und eine Suche ist ein schneller Vektorvergleich. So funktioniert Vektorsuche.

Ein Cross-Encoder gibt Anfrage und Dokument als eine Eingabe ins Modell, sodass jedes Wort der Anfrage auf jedes Wort des Dokuments achten kann. Er erzeugt einen Wert, keinen wiederverwendbaren Vektor. Nichts lässt sich vorab berechnen, eine Million Dokumente zu bewerten heißt also eine Million Modellaufrufe.

Das Sentence-BERT-Paper beziffert das: Das ähnlichste Paar unter 10.000 Sätzen zu finden, dauerte mit einem BERT-Cross-Encoder etwa 65 Stunden, mit seinem Bi-Encoder etwa 5 Sekunden.

Wie sie kombiniert werden

Das übliche Muster ist Retrieve and Rerank: Ein Bi-Encoder oder BM25 findet einige Dutzend Kandidaten, dann bewertet ein Cross-Encoder sie neu. Das tun die meisten Modelle für Reranking, darunter mxbai-rerank v2.

Der Mittelweg

Modelle mit Late Interaction wie ColBERT kodieren Anfrage und Dokument getrennt, behalten aber viele Vektoren pro Text und vergleichen sie in einem günstigen letzten Schritt. Bei Kosten und Genauigkeit liegen sie zwischen den beiden Ansätzen.

Verwandte Begriffe

Reranking
Reranking (Neusortierung) ist ein zweiter Suchschritt, der eine kurze Liste von Kandidatendokumenten nimmt und sie nach Relevanz für die Abfrage neu ordnet, mit einem genaueren, aber langsameren Modell als bei der ersten Suche.
Late Interaction (ColBERT)
Late Interaction (späte Interaktion) ist eine Retrieval-Methode, eingeführt mit ColBERT, die Anfrage und jedes Dokument getrennt in einen Vektor pro Token kodiert und einen Treffer dann bewertet, indem sie diese Token-Vektoren in einem günstigen letzten Schritt vergleicht.
Embedding
Ein Embedding (Einbettung) ist eine Liste von Zahlen (ein Vektor), die ein Stück Text, ein Bild oder andere Daten repräsentiert und so erzeugt wird, dass Elemente mit ähnlicher Bedeutung nahe beieinanderliegende Vektoren erhalten.
Vektorsuche
Vektorsuche (Vector Search) findet Einträge, indem sie ihre Embeddings mit dem Embedding einer Abfrage vergleicht und die nächstgelegenen zurückgibt. Ergebnisse passen so nach Bedeutung statt nach gemeinsamen Stichwörtern.
Hybride Suche
Hybride Suche (Hybrid Search) führt zu derselben Anfrage eine Stichwortsuche und eine Vektorsuche aus und führt die beiden Ergebnislisten zusammen, sodass Treffer sowohl über exakte Wörter als auch über Bedeutung passen können.

Quellen