Was ist hs-rerank-1?
hs-rerank-1 ist ein kleiner mehrsprachiger Reranker von Vectorize, dem Unternehmen hinter dem Agent-Memory-Server Hindsight, veröffentlicht am 3. November 2026. Es ist ein Cross-Encoder: Er liest Anfrage und Dokument zusammen und gibt einen einzelnen Relevanzwert zwischen 0 und 1 zurück. Er ist aus mmBERT-small feinabgestimmt und deckt Englisch, Spanisch, Französisch, Deutsch, Portugiesisch, Japanisch, Koreanisch und Chinesisch ab.
Von seinen 114 Millionen Parametern entfallen 98 Millionen auf die Token-Embedding-Tabelle, jeder Durchlauf rechnet also einen Transformer mit etwa 15 Millionen. Eingaben reichen bis 8.192 Tokens pro Paar aus Anfrage und Dokument. Er wird als FP16-Safetensors und als int8-ONNX-Export für CPUs ausgeliefert und läuft auf Hugging Faces Text Embeddings Inference.
Seit Hindsight 1.2.0 ist er der lokale Standard-Reranker anstelle von ms-marco-MiniLM-L-6-v2, weshalb er in den ersten Wochen rund 2 Millionen Downloads erreichte. Die Gewichte stehen unter MIT; Vectorize hostet ihn außerdem hinter einem Cohere-kompatiblen Endpoint für $0.015 pro Million Eingabe-Tokens.
Was kostet hs-rerank-1?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Weights | Free | MIT-Lizenz |
| Hindsight Inference | $0.015 per million input tokens | Cohere-Rerank-kompatibler Endpoint; Ausgabe kostenlos |
Kostenlose MIT-Gewichte. Gehostet bei Hindsight Inference für $0.015 pro Million Eingabe-Tokens (Ausgabe kostenlos), oder $0.02 mit Aussortieren durch hs-decide-1-flash; neue Konten erhalten $5 Guthaben.
Lohnt sich hs-rerank-1?
Die eigentliche Konkurrenz des Modells sind die ms-marco-MiniLM-Cross-Encoder, die viele Pipelines noch als Standard nutzen, Hindsight selbst bis Version 1.2.0 eingeschlossen, und ihnen gegenüber ist es ein klarer Fortschritt. Sie lesen 512 Tokens und wurden mit englischen MS-MARCO-Daten trainiert; hs-rerank-1 liest 8.192 Tokens in acht Sprachen und bleibt klein genug, um in einem API-Prozess zu laufen. Auf Vectorizes Rangliste erreicht es im Schnitt 56.0 über sieben Benchmarks, gegenüber 44.1 für ms-marco-MiniLM-L6-v2, 50.4 für bge-reranker-base und 51.3 für Alibabas gte-reranker-modernbert-base.
Am größten sind die Zugewinne außerhalb des Englischen. Auf MIRACL, einem mehrsprachigen Datensatz, kommt es auf 57.7 gegenüber 20.9 für MiniLM-L6 und 39.1 für das gte-Modell. Auf BRIGHT, einem Benchmark mit viel Schlussfolgern, tun sich alle kleinen Modelle schwer: 15.1 ist der Bestwert der Gruppe und absolut gesehen trotzdem niedrig. Vectorize hat alle Vergleiche selbst mit identischen Einstellungen für jedes Modell gerechnet und die Methode veröffentlicht, wiederholt hat sie aber noch kein externes Labor.
Die Geschwindigkeit ist der Grund, es größeren offenen Modellen vorzuziehen. Auf zwei CPU-Threads sortiert es 50 Erinnerungen in etwa 1.5 Sekunden neu, rund ein Sechstel der Zeit von gte-reranker-modernbert-base, während MiniLM-L6 mit 0.9 Sekunden noch schneller ist. Bei 50 längeren Chunks steigt der Wert auf etwa 21 Sekunden; lange Dokumente bleiben auf einer CPU also langsam, dafür braucht es eine GPU oder die gehostete API.
Mit Cohere Rerank 5, Voyage rerank-3 oder den Qwen3-Rerankern mit 4B und 8B kann es bei schwierigen Anfragen nicht mithalten, und das soll es auch nicht. Die gehostete Version kostet $0.015 pro Million Tokens, weniger als Coheres Fast-Stufe mit $0.02, und laut Dokumentation kürzt der gehostete Dienst Dokumente auf 4.096 Tokens, die Hälfte des eigenen Limits des Modells.
Wo es sich lohnt
Ein Entwickler, der Hindsight als Gedächtnis für einen Coding-Agenten betreibt
Abgerufene Erinnerungen gut sortieren, ohne GPU oder weitere bezahlte API
Aktualisiere auf Hindsight 1.2.0 oder neuer, wo hs-rerank-1 bereits der lokale Standard-Reranker ist und beim ersten Start heruntergeladen wird. Er läuft im API-Prozess auf der CPU, die einzigen Kosten sind also CPU-Zeit auf der Maschine, auf der Hindsight ohnehin läuft.
Ein Engineer bei einem europäischen SaaS-Unternehmen mit einem MiniLM-Cross-Encoder in der Support-Suche
Deutsche, französische und spanische Tickets ebenso gut sortieren wie englische
Tausche in Sentence Transformers' CrossEncoder oder in Text Embeddings Inference die Modell-ID gegen hindsight-ai/hs-rerank-1. Nach Vectorizes MIRACL-Ergebnissen steigt der Wert damit von 20.9 auf 57.7, bei einer CPU-Latenz von etwa dem 1.6-Fachen von MiniLM-L6.
Ein kleines Team, das Cohere Rerank bereits aus LangChain aufruft
Die Reranking-Rechnung für kurze, häufige Memory-Abfragen senken
Richte den Cohere-Client auf inference.hindsight.vectorize.io und wähle hs-rerank-1 für $0.015 pro Million Eingabe-Tokens; eine Milliarde Tokens im Monat kostet $15. Bei schwierigen Anfragen ist mit Qualitätsverlust zu rechnen.
Bevor du dich festlegst
- Einrichtung
- pip install sentence-transformers und CrossEncoder("hindsight-ai/hs-rerank-1") laden, oder das CPU- oder GPU-Image von Text Embeddings Inference mit der Modell-ID starten. Die Werte liegen zwischen 0 und 1.
- Integrationen
- Sentence Transformers, Text Embeddings Inference, ONNX Runtime sowie Hindsights lokale, ONNX-, TEI- und gehostete Reranker-Provider; der gehostete Endpoint funktioniert mit dem Cohere-SDK.
- Daten und Datenschutz
- Selbst gehostet verlassen Dokumente nie deine Rechner. Die Dokumentation von Hindsight Inference nennt keine Aufbewahrungsfrist; Vectorize veröffentlicht ein Trust Center und einen Auftragsverarbeitungsvertrag.
- Kosten im großen Maßstab
- Selbst gehostet kostet es CPU-Zeit. Gehostet: $0.015 pro Million Eingabe-Tokens, Ausgabe kostenlos, also etwa $180 für 20 Passagen à 300 Tokens pro Aufruf bei 2 Millionen Aufrufen im Monat.
- Grenzen
- Selbst gehostet 8.192 Tokens pro Paar; in der gehosteten API 4.096 pro Dokument und 1.000 Dokumente pro Anfrage. Rate Limits der gehosteten Version sind nicht veröffentlicht. Nur acht Sprachen.
Was gut ist
- 114M Parameter; läuft mit int8-ONNX-Export auf einer CPU
- 8.192 Tokens pro Paar in acht Sprachen
- MIT-Lizenz ohne Nutzungsbeschränkungen
- Cohere-kompatibler gehosteter Endpoint für $0.015 pro Million Tokens
Was nicht
- Alle Benchmarks stammen von Vectorize
- Schwach bei Anfragen mit viel Schlussfolgern (15.1 auf BRIGHT)
- Langsam bei langen Chunks ohne GPU
- Gehostete API kürzt Dokumente auf 4.096 Tokens
Am besten für
Entwickler, die einen kleinen, freizügig lizenzierten mehrsprachigen Reranker für Agent-Memory oder reines CPU-RAG anstelle eines alten MiniLM-Cross-Encoders suchen.
Alternativen zu hs-rerank-1
hs-rerank-1: häufige Fragen
- Lohnt sich hs-rerank-1?
- Ein vernünftiger Ersatz für die alten MiniLM-Cross-Encoder, die noch in vielen Pipelines stecken, klein genug für eine CPU, auch wenn sein Benchmark-Vorsprung nur von Vectorize belegt ist. Wir bewerten es mit 3.8 von 5.
- Was kostet hs-rerank-1?
- Kostenlose MIT-Gewichte. Gehostet bei Hindsight Inference für $0.015 pro Million Eingabe-Tokens (Ausgabe kostenlos), oder $0.02 mit Aussortieren durch hs-decide-1-flash; neue Konten erhalten $5 Guthaben.
- Welche Nachteile hat hs-rerank-1?
- Alle Benchmarks stammen von Vectorize; Schwach bei Anfragen mit viel Schlussfolgern (15.1 auf BRIGHT); Langsam bei langen Chunks ohne GPU; Gehostete API kürzt Dokumente auf 4.096 Tokens.
- Für wen eignet sich hs-rerank-1?
- Entwickler, die einen kleinen, freizügig lizenzierten mehrsprachigen Reranker für Agent-Memory oder reines CPU-RAG anstelle eines alten MiniLM-Cross-Encoders suchen.
- Was kostet hs-rerank-1 für ein Team oder im Produktivbetrieb?
- Selbst gehostet kostet es CPU-Zeit. Gehostet: $0.015 pro Million Eingabe-Tokens, Ausgabe kostenlos, also etwa $180 für 20 Passagen à 300 Tokens pro Aufruf bei 2 Millionen Aufrufen im Monat.
- Ist hs-rerank-1 sicher für Firmendaten?
- Selbst gehostet verlassen Dokumente nie deine Rechner. Die Dokumentation von Hindsight Inference nennt keine Aufbewahrungsfrist; Vectorize veröffentlicht ein Trust Center und einen Auftragsverarbeitungsvertrag.
- Was sind die besten Alternativen zu hs-rerank-1?
- Die nächsten Alternativen, die wir getestet haben, sind mxbai-rerank v2, Qwen3-Embedding and Qwen3-Reranker, Jina Reranker v3.5 und Cohere Rerank 5.
Antworten geprüft am 20. Nov. 2026.