Embedding
Ein Embedding (Einbettung) ist eine Liste von Zahlen (ein Vektor), die ein Stück Text, ein Bild oder andere Daten repräsentiert und so erzeugt wird, dass Elemente mit ähnlicher Bedeutung nahe beieinanderliegende Vektoren erhalten.
Auch: vector embedding, embeddings, embedding model
Von Divya Sharma · Geprüft am 15. Nov. 2026 · So testen wir
Computer können Bedeutung nicht direkt vergleichen, Zahlen aber schnell. Ein Embedding verwandelt „How do I reset my password?“ und „I forgot my login“ in zwei Vektoren, die nahe beieinanderliegen, obwohl sie kaum Wörter gemeinsam haben. Das macht semantische Suche, Clustering und Empfehlungen möglich.
Embedding-Modelle
Ein Embedding-Modell ist das neuronale Netz, das diese Vektoren erzeugt. Du schickst ihm Text (oder bei multimodalen Modellen ein Bild), und es gibt einen Vektor fester Länge zurück. Beispiele sind text-embedding-3-large und Voyage 4 Large. Das MTEB-Leaderboard vergleicht sie, und der Leitfaden zu Embedding-Modellen hilft bei der Auswahl.
Wie sie genutzt werden
Bei Retrieval-Augmented Generation wird jeder Chunk deiner Dokumente einmal eingebettet und in einer Vektordatenbank gespeichert. Zur Anfragezeit wird die Frage mit demselben Modell eingebettet, und die nächstgelegenen gespeicherten Vektoren werden zurückgegeben. Die Nähe wird meist mit Kosinus-Ähnlichkeit oder einem Skalarprodukt gemessen.
Gut zu wissen
Vektoren verschiedener Modelle sind nicht vergleichbar, ein Modellwechsel bedeutet also, alles neu einzubetten. Die Länge des Vektors ist die Embedding-Dimension, die die Speicherkosten bestimmt. Ein Embedding erfasst die grobe Bedeutung gut, kann aber exakte Kennungen wie Produktcodes verfehlen, was ein Grund ist, warum Teams in einem Setup für hybride Suche Stichwortsuche ergänzen.
Verwandte Begriffe
- Vektordatenbank
- Eine Vektordatenbank speichert Embeddings zusammen mit ihren Quelldatensätzen und findet die gespeicherten Vektoren, die einem Abfragevektor am nächsten liegen, meist mit einem approximativen Index, damit die Suche über Millionen von Einträgen schnell bleibt.
- Embedding-Dimension
- Die Embedding-Dimension ist die Anzahl der Werte in jedem Vektor, den ein Embedding-Modell ausgibt. Mehr Dimensionen können mehr Details fassen, aber jeder zusätzliche Wert erhöht Speicher-, Arbeitsspeicher- und Suchkosten pro Element.
- Kosinus-Ähnlichkeit
- Die Kosinus-Ähnlichkeit (Cosine Similarity) misst anhand des Winkels zwischen zwei Vektoren, wie ähnlich sie sind. Sie reicht von -1 bis 1, ignoriert die Vektorlänge und ist der gängigste Weg, Embeddings in der Suche zu vergleichen.
- Vektorsuche
- Vektorsuche (Vector Search) findet Einträge, indem sie ihre Embeddings mit dem Embedding einer Abfrage vergleicht und die nächstgelegenen zurückgibt. Ergebnisse passen so nach Bedeutung statt nach gemeinsamen Stichwörtern.
- MTEB
- MTEB, der Massive Text Embedding Benchmark, ist ein öffentlicher Benchmark mit Leaderboard, der Text-Embedding-Modelle über viele Aufgabentypen wie Retrieval, Clustering, Klassifikation und Reranking bewertet, auf vielen Datensätzen und in vielen Sprachen.