Sparse Retrieval
Sparse Retrieval (dünnbesetzte Suche) stellt Abfragen und Dokumente als Vektoren über ein Vokabular dar, in denen die meisten Einträge null sind und jeder Eintrag ungleich null ein Wortgewicht ist. So kann die Suche schnelle invertierte Indizes nutzen, wie bei der Stichwortsuche.
Auch: sparse embeddings, SPLADE, learned sparse retrieval
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
In einem dichten Embedding ist jeder Wert ungleich null, und keiner hat eine feste Bedeutung. In einem dünnbesetzten Vektor steht jede Position für einen Begriff aus dem Vokabular, und nur die Begriffe, die für den Text zählen, bekommen ein Gewicht. BM25 ist die klassische Sparse-Methode, mit Gewichten aus einer festen Formel.
Gelernte Sparse-Modelle
Modelle wie SPLADE nutzen ein neuronales Netz, um die Gewichte festzulegen. Sie können außerdem verwandte Begriffe hinzufügen, die im Text nie vorkamen, ein Schritt namens Expansion, sodass ein Dokument über „Automobile“ auch Gewicht auf „Auto“ bekommt. Das Ergebnis behält die Stärken der Stichwortsuche, exakte Begriffsübereinstimmung und invertierte Indizes, und schließt einen Teil der Lücke zu dichten Modellen bei der Bedeutung.
Warum man es nutzt
Sparse-Vektoren lassen sich leicht untersuchen: Du siehst, welche Wörter einen Treffer ausgelöst haben. Sie schneiden gut bei Namen, Codes und Fachjargon ab, die dichte Modelle verwischen. Sie laufen außerdem auf bestehenden Suchmaschinen. Ein verbreitetes Setup ist hybride Suche mit einem Sparse- und einem dichten Retriever, zusammengeführt vor dem Reranking.
Grenzen
Gelernte Sparse-Modelle brauchen beim Indexieren und bei der Abfrage einen Modellaufruf, anders als BM25. Ihr Vokabular ist durch den Tokenizer festgelegt, daher können sie sich über Sprachen hinweg schwertun. Die Unterstützung unterscheidet sich zwischen Vektordatenbanken; prüfe deine, bevor du dich festlegst.
Verwandte Begriffe
- BM25
- BM25 ist eine Ranking-Formel für die Stichwortsuche. Sie bewertet jedes Dokument danach, wie oft die Wörter der Anfrage darin vorkommen, gewichtet seltene Wörter stärker und rechnet langen Dokumenten und wiederholten Begriffen weniger an.
- Hybride Suche
- Hybride Suche (Hybrid Search) führt zu derselben Anfrage eine Stichwortsuche und eine Vektorsuche aus und führt die beiden Ergebnislisten zusammen, sodass Treffer sowohl über exakte Wörter als auch über Bedeutung passen können.
- Embedding
- Ein Embedding (Einbettung) ist eine Liste von Zahlen (ein Vektor), die ein Stück Text, ein Bild oder andere Daten repräsentiert und so erzeugt wird, dass Elemente mit ähnlicher Bedeutung nahe beieinanderliegende Vektoren erhalten.
- Vektorsuche
- Vektorsuche (Vector Search) findet Einträge, indem sie ihre Embeddings mit dem Embedding einer Abfrage vergleicht und die nächstgelegenen zurückgibt. Ergebnisse passen so nach Bedeutung statt nach gemeinsamen Stichwörtern.
- Reranking
- Reranking (Neusortierung) ist ein zweiter Suchschritt, der eine kurze Liste von Kandidatendokumenten nimmt und sie nach Relevanz für die Abfrage neu ordnet, mit einem genaueren, aber langsameren Modell als bei der ersten Suche.