Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Speichern und Abrufen

Embeddings, Vektorsuche und die anderen Bausteine, mit denen ein Modell die richtigen Fakten findet.

Agentic RAG
Agentic RAG (agentisches RAG) ist Retrieval-Augmented Generation, gesteuert von einem KI-Agenten, der entscheidet, wann gesucht wird, wonach und in welcher Quelle, und erneut suchen kann, wenn die ersten Ergebnisse nicht reichen.
Approximative Nächste-Nachbarn-Suche
Die approximative Nächste-Nachbarn-Suche (Approximate Nearest Neighbor, ANN) findet Vektoren nahe an einer Anfrage, ohne jeden gespeicherten Vektor zu prüfen. Sie verzichtet auf die Garantie des exakt besten Treffers und sucht dafür in großen Sammlungen viel schneller.
BM25
BM25 ist eine Ranking-Formel für die Stichwortsuche. Sie bewertet jedes Dokument danach, wie oft die Wörter der Anfrage darin vorkommen, gewichtet seltene Wörter stärker und rechnet langen Dokumenten und wiederholten Begriffen weniger an.
Cross-Encoder
Ein Cross-Encoder ist ein Modell, das eine Anfrage und ein Dokument gemeinsam in einem Durchgang liest und einen Relevanzwert ausgibt. Er ist genauer als der Vergleich getrennter Embeddings, aber zu langsam, um ihn über eine ganze Sammlung laufen zu lassen.
Embedding
Ein Embedding (Einbettung) ist eine Liste von Zahlen (ein Vektor), die ein Stück Text, ein Bild oder andere Daten repräsentiert und so erzeugt wird, dass Elemente mit ähnlicher Bedeutung nahe beieinanderliegende Vektoren erhalten.
Embedding-Dimension
Die Embedding-Dimension ist die Anzahl der Werte in jedem Vektor, den ein Embedding-Modell ausgibt. Mehr Dimensionen können mehr Details fassen, aber jeder zusätzliche Wert erhöht Speicher-, Arbeitsspeicher- und Suchkosten pro Element.
GraphRAG
GraphRAG ist ein Retrieval-Ansatz, bei dem ein LLM zuerst aus einer Dokumentensammlung einen Wissensgraphen aufbaut und Zusammenfassungen zu Gruppen verwandter Entitäten schreibt und dann Fragen mithilfe dieser Zusammenfassungen und der Verknüpfungen im Graphen beantwortet.
HNSW
HNSW (Hierarchical Navigable Small World) ist ein graphbasierter Index für die approximative Nächste-Nachbarn-Suche. Er verknüpft Vektoren über mehrere Ebenen mit ihren Nachbarn, sodass eine Suche schnell zu den nächstgelegenen Treffern springen kann.
Hybride Suche
Hybride Suche (Hybrid Search) führt zu derselben Anfrage eine Stichwortsuche und eine Vektorsuche aus und führt die beiden Ergebnislisten zusammen, sodass Treffer sowohl über exakte Wörter als auch über Bedeutung passen können.
Kosinus-Ähnlichkeit
Die Kosinus-Ähnlichkeit (Cosine Similarity) misst anhand des Winkels zwischen zwei Vektoren, wie ähnlich sie sind. Sie reicht von -1 bis 1, ignoriert die Vektorlänge und ist der gängigste Weg, Embeddings in der Suche zu vergleichen.
Late Interaction (ColBERT)
Late Interaction (späte Interaktion) ist eine Retrieval-Methode, eingeführt mit ColBERT, die Anfrage und jedes Dokument getrennt in einen Vektor pro Token kodiert und einen Treffer dann bewertet, indem sie diese Token-Vektoren in einem günstigen letzten Schritt vergleicht.
Matryoshka-Embeddings
Matryoshka-Embeddings sind Vektoren, die so trainiert sind, dass ihre ersten Werte die meiste Information tragen. Du kannst sie auf eine kürzere Länge kürzen und bekommst trotzdem brauchbare Suchergebnisse, was Speicher spart und die Suche beschleunigt.
Metadatenfilterung
Metadatenfilterung beschränkt eine Suche auf Einträge, deren gespeicherte Attribute wie Datum, Autor, Sprache oder Zugriffsgruppe bestimmte Bedingungen erfüllen, zusätzlich zur oder vor der Rangfolge nach Vektorähnlichkeit.
Query Rewriting
Query Rewriting (Umschreiben der Suchanfrage) verändert die Frage eines Nutzers vor der Suche, etwa indem es sie präzisiert, aufteilt oder um verwandte Begriffe ergänzt, damit der Retriever eher die Passagen findet, die sie beantworten.
Reranking
Reranking (Neusortierung) ist ein zweiter Suchschritt, der eine kurze Liste von Kandidatendokumenten nimmt und sie nach Relevanz für die Abfrage neu ordnet, mit einem genaueren, aber langsameren Modell als bei der ersten Suche.
Retrieval-Augmented Generation
Retrieval-Augmented Generation (RAG, abrufgestützte Generierung) ist ein Muster, bei dem ein System zuerst eine Dokumentensammlung nach Passagen durchsucht, die für eine Frage relevant sind, und diese Passagen dann einem Sprachmodell gibt, damit seine Antwort darauf aufbaut.
Retrieval-Metriken (Recall@k, nDCG, MRR)
Retrieval-Metriken bewerten, wie gut ein Suchsystem relevante Dokumente liefert. Recall@k prüft, wie viele relevante Einträge unter den ersten k erscheinen, nDCG belohnt es, sie weit oben einzuordnen, und MRR misst, wie früh der erste richtige auftaucht.
Sparse Retrieval
Sparse Retrieval (dünnbesetzte Suche) stellt Abfragen und Dokumente als Vektoren über ein Vokabular dar, in denen die meisten Einträge null sind und jeder Eintrag ungleich null ein Wortgewicht ist. So kann die Suche schnelle invertierte Indizes nutzen, wie bei der Stichwortsuche.
Vektordatenbank
Eine Vektordatenbank speichert Embeddings zusammen mit ihren Quelldatensätzen und findet die gespeicherten Vektoren, die einem Abfragevektor am nächsten liegen, meist mit einem approximativen Index, damit die Suche über Millionen von Einträgen schnell bleibt.
Vektorsuche
Vektorsuche (Vector Search) findet Einträge, indem sie ihre Embeddings mit dem Embedding einer Abfrage vergleicht und die nächstgelegenen zurückgibt. Ergebnisse passen so nach Bedeutung statt nach gemeinsamen Stichwörtern.
Wissensdatenbank (KI)
In KI-Apps ist eine Wissensdatenbank (Knowledge Base) die Sammlung von Dokumenten und Daten, die ein Assistent oder Agent durchsucht, um Fragen zu beantworten, etwa Hilfeartikel, Richtlinien oder Produktdokumentation, getrennt vom Modell selbst.
Wissensgraph
Ein Wissensgraph (Knowledge Graph) speichert Informationen als Entitäten (Personen, Produkte, Orte, Konzepte), die durch benannte Beziehungen verbunden sind, sodass Software Verknüpfungen zwischen Fakten folgen kann, statt losen Text zu durchsuchen.