Speichern und Abrufen
Embeddings, Vektorsuche und die anderen Bausteine, mit denen ein Modell die richtigen Fakten findet.
- Agentic RAG
- Agentic RAG (agentisches RAG) ist Retrieval-Augmented Generation, gesteuert von einem KI-Agenten, der entscheidet, wann gesucht wird, wonach und in welcher Quelle, und erneut suchen kann, wenn die ersten Ergebnisse nicht reichen.
- Approximative Nächste-Nachbarn-Suche
- Die approximative Nächste-Nachbarn-Suche (Approximate Nearest Neighbor, ANN) findet Vektoren nahe an einer Anfrage, ohne jeden gespeicherten Vektor zu prüfen. Sie verzichtet auf die Garantie des exakt besten Treffers und sucht dafür in großen Sammlungen viel schneller.
- BM25
- BM25 ist eine Ranking-Formel für die Stichwortsuche. Sie bewertet jedes Dokument danach, wie oft die Wörter der Anfrage darin vorkommen, gewichtet seltene Wörter stärker und rechnet langen Dokumenten und wiederholten Begriffen weniger an.
- Cross-Encoder
- Ein Cross-Encoder ist ein Modell, das eine Anfrage und ein Dokument gemeinsam in einem Durchgang liest und einen Relevanzwert ausgibt. Er ist genauer als der Vergleich getrennter Embeddings, aber zu langsam, um ihn über eine ganze Sammlung laufen zu lassen.
- Embedding
- Ein Embedding (Einbettung) ist eine Liste von Zahlen (ein Vektor), die ein Stück Text, ein Bild oder andere Daten repräsentiert und so erzeugt wird, dass Elemente mit ähnlicher Bedeutung nahe beieinanderliegende Vektoren erhalten.
- Embedding-Dimension
- Die Embedding-Dimension ist die Anzahl der Werte in jedem Vektor, den ein Embedding-Modell ausgibt. Mehr Dimensionen können mehr Details fassen, aber jeder zusätzliche Wert erhöht Speicher-, Arbeitsspeicher- und Suchkosten pro Element.
- GraphRAG
- GraphRAG ist ein Retrieval-Ansatz, bei dem ein LLM zuerst aus einer Dokumentensammlung einen Wissensgraphen aufbaut und Zusammenfassungen zu Gruppen verwandter Entitäten schreibt und dann Fragen mithilfe dieser Zusammenfassungen und der Verknüpfungen im Graphen beantwortet.
- HNSW
- HNSW (Hierarchical Navigable Small World) ist ein graphbasierter Index für die approximative Nächste-Nachbarn-Suche. Er verknüpft Vektoren über mehrere Ebenen mit ihren Nachbarn, sodass eine Suche schnell zu den nächstgelegenen Treffern springen kann.
- Hybride Suche
- Hybride Suche (Hybrid Search) führt zu derselben Anfrage eine Stichwortsuche und eine Vektorsuche aus und führt die beiden Ergebnislisten zusammen, sodass Treffer sowohl über exakte Wörter als auch über Bedeutung passen können.
- Kosinus-Ähnlichkeit
- Die Kosinus-Ähnlichkeit (Cosine Similarity) misst anhand des Winkels zwischen zwei Vektoren, wie ähnlich sie sind. Sie reicht von -1 bis 1, ignoriert die Vektorlänge und ist der gängigste Weg, Embeddings in der Suche zu vergleichen.
- Late Interaction (ColBERT)
- Late Interaction (späte Interaktion) ist eine Retrieval-Methode, eingeführt mit ColBERT, die Anfrage und jedes Dokument getrennt in einen Vektor pro Token kodiert und einen Treffer dann bewertet, indem sie diese Token-Vektoren in einem günstigen letzten Schritt vergleicht.
- Matryoshka-Embeddings
- Matryoshka-Embeddings sind Vektoren, die so trainiert sind, dass ihre ersten Werte die meiste Information tragen. Du kannst sie auf eine kürzere Länge kürzen und bekommst trotzdem brauchbare Suchergebnisse, was Speicher spart und die Suche beschleunigt.
- Metadatenfilterung
- Metadatenfilterung beschränkt eine Suche auf Einträge, deren gespeicherte Attribute wie Datum, Autor, Sprache oder Zugriffsgruppe bestimmte Bedingungen erfüllen, zusätzlich zur oder vor der Rangfolge nach Vektorähnlichkeit.
- Query Rewriting
- Query Rewriting (Umschreiben der Suchanfrage) verändert die Frage eines Nutzers vor der Suche, etwa indem es sie präzisiert, aufteilt oder um verwandte Begriffe ergänzt, damit der Retriever eher die Passagen findet, die sie beantworten.
- Reranking
- Reranking (Neusortierung) ist ein zweiter Suchschritt, der eine kurze Liste von Kandidatendokumenten nimmt und sie nach Relevanz für die Abfrage neu ordnet, mit einem genaueren, aber langsameren Modell als bei der ersten Suche.
- Retrieval-Augmented Generation
- Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
- Retrieval-Metriken (Recall@k, nDCG, MRR)
- Retrieval-Metriken bewerten, wie gut ein Suchsystem relevante Dokumente liefert. Recall@k prüft, wie viele relevante Einträge unter den ersten k erscheinen, nDCG belohnt es, sie weit oben einzuordnen, und MRR misst, wie früh der erste richtige auftaucht.
- Sparse Retrieval
- Sparse Retrieval (dünnbesetzte Suche) stellt Abfragen und Dokumente als Vektoren über ein Vokabular dar, in denen die meisten Einträge null sind und jeder Eintrag ungleich null ein Wortgewicht ist. So kann die Suche schnelle invertierte Indizes nutzen, wie bei der Stichwortsuche.
- Vektordatenbank
- Eine Vektordatenbank speichert Embeddings zusammen mit ihren Quelldatensätzen und findet die gespeicherten Vektoren, die einem Abfragevektor am nächsten liegen, meist mit einem approximativen Index, damit die Suche über Millionen von Einträgen schnell bleibt.
- Vektorsuche
- Vektorsuche (Vector Search) findet Einträge, indem sie ihre Embeddings mit dem Embedding einer Abfrage vergleicht und die nächstgelegenen zurückgibt. Ergebnisse passen so nach Bedeutung statt nach gemeinsamen Stichwörtern.
- Wissensdatenbank (KI)
- In KI-Apps ist eine Wissensdatenbank (Knowledge Base) die Sammlung von Dokumenten und Daten, die ein Assistent oder Agent durchsucht, um Fragen zu beantworten, etwa Hilfeartikel, Richtlinien oder Produktdokumentation, getrennt vom Modell selbst.
- Wissensgraph
- Ein Wissensgraph (Knowledge Graph) speichert Informationen als Entitäten (Personen, Produkte, Orte, Konzepte), die durch benannte Beziehungen verbunden sind, sodass Software Verknüpfungen zwischen Fakten folgen kann, statt losen Text zu durchsuchen.