Was ist Jina Reranker v3.5?
jina-reranker-v3.5 ist ein Reranker von Jina AI, das Elastic im Oktober 2025 übernommen hat; er erschien am 27. Juli 2026. Ein Reranker bewertet die Vorauswahl eines Suchsystems neu, indem er Anfrage und Dokumente gemeinsam liest. Anders als die meisten Reranker, die ein Dokument nach dem anderen bewerten, arbeitet dieser listenweise: Er liest die Anfrage und viele Kandidaten in einem Durchgang, sodass Dokumente gegeneinander abgewogen werden können.
Er hat 597 Millionen Parameter, basiert auf Qwen3-0.6B, wurde in 52 Sprachen trainiert und nimmt bis zu 131.072 Tokens an, in die Anfrage und alle Kandidaten passen müssen. Er ersetzt jina-reranker-v3 direkt: Nur der Modellname ändert sich.
Die Gewichte liegen auf Hugging Face unter der nicht kommerziellen Lizenz CC BY-NC 4.0, mit GGUF- und MLX-Builds. Kommerzielle Nutzung läuft über die Jina API zu 0,05 $ pro Million Tokens, den Elastic Inference Service, Abrechnung über die Marktplätze von AWS oder Azure oder eine kostenpflichtige Lizenz für Jina On-Prem von Elastic.
Lohnt sich Jina Reranker v3.5?
Jina Reranker v3.5 erreicht beinahe die Ranking-Qualität großer Modelle mit einem Modell, das klein genug für einen günstigen Betrieb ist. Laut Jinas Model Card erzielt er 63,20 nDCG@10 bei BEIR, vor Qwen3-Reranker-4B mit 62,28, obwohl er etwa siebenmal kleiner ist. Qwens 4B-Modell gewinnt weiterhin beim mehrsprachigen MIRACL (76,56 gegenüber 74,11), bei der Enterprise-Suite RTEB (77,68 gegenüber 70,95) und bei strukturierten Daten (55,6 gegenüber 48,3). Das sind Jinas eigene Messungen, mit jina-embeddings-v5-text-small als erster Stufe.
Die Fortschritte gegenüber v3 liegen dort, wo die Suche in Unternehmen schmerzt. Elastics Ankündigung nennt beim Retrieval von Rechtsprechung in AILA einen Anstieg von 20,82 auf 32,55 und bei Gesetzestexten von 32,15 auf 46,16, während sich LegalQuAD und LegalSum kaum bewegen. Ergebnisse zu Medizin und Finanzen gibt es nur als Diagramm. Elastic sagt offen, dass ein Reranker ein schlechtes Retrieval in der ersten Stufe nicht retten kann.
Die Latenz hängt stark von der Dokumentlänge ab. Elastic hat bei BEIR Natural Questions, deren Dokumente im Schnitt 146 Tokens lang sind, 305 ms pro Anfrage gemessen, bei juristischen Akten mit durchschnittlich 1.904 Tokens dagegen 10,3 Sekunden, und das nach einer Beschleunigung um 56 % gegenüber v3. Reranking langer Dokumente gehört in Offline- oder asynchrone Abläufe, sofern die Kandidaten nicht vorher gekürzt werden.
Die Lizenz entscheidet die meisten Kaufentscheidungen. CC BY-NC 4.0 beschränkt die offenen Gewichte auf Tests und Forschung, produktives Self-Hosting braucht also Elastics Lizenz für Jina On-Prem zu einem Jahrespreis auf Angebot. Die gehostete API ist mit 0,05 $ pro Million Tokens günstig, trifft dort aber direkt auf Voyages rerank-3 und Cohere Rerank 4, und Jinas Argumente stützen sich auf die eigene Benchmark-Tabelle.
Wo es sich lohnt
Ein Elasticsearch-Team mit hybrider Suche über ein Hilfecenter
Die Antwortqualität verbessern, ohne einen zweiten Anbieter hinzuzunehmen
Ruf den Reranker nach BM25- und Vektor-Retrieval über den Elastic Inference Service auf. Enthält jede Anfrage die 50 besten Abschnitte mit je etwa 300 Tokens, sind das rund 15.000 Tokens oder 0,00075 $ pro Anfrage bei 0,05 $ pro Million auf der Jina API.
Ein Legal-Tech-Startup, das Rechtsprechung für Anwälte sortiert
Den passenden Präzedenzfall unter die ersten fünf Treffer bringen
Die größten veröffentlichten Fortschritte von v3.5 liegen beim Retrieval von Urteilen und Gesetzen in AILA. Lange Urteile machen Anfragen langsam, in Elastics Test etwa 10 Sekunden bei Dokumenten mit 1.904 Tokens, sortiere also Passagen statt ganzer Akten.
Ein RAG-Plattformingenieur mit 1 Mio. Anfragen im Monat
Reranking mit planbaren Kosten und planbarem Durchsatz ergänzen
Bei etwa 15.000 Tokens pro Anfrage kosten 1 Mio. Anfragen rund 750 $ im Monat. Die 2 Mio. Tokens pro Minute der bezahlten Stufe begrenzen das auf etwa 130 Anfragen pro Minute, Spitzenlast braucht also einen Premium-Schlüssel mit 50 Mio.
Bevor du dich festlegst
- Einrichtung
- Ändere in einem bestehenden v3-Aufruf den Modellnamen auf jina-reranker-v3.5 oder lade die Gewichte in Transformers mit trust_remote_code und ruf model.rerank auf.
- Integrationen
- Jina API, Elastic Inference API und Service, Abrechnung über AWS SageMaker und Azure sowie ein Container für Jina On-Prem; GGUF- und MLX-Builds für lokale Evaluierung. Nur Text; für Bilder verweist Jina auf jina-reranker-m0.
- Daten und Datenschutz
- Jina sagt, es trainiere nicht mit Kunden-Inputs und speichere sie nur so weit, wie es zum Beantworten nötig ist, unter Elastics DPA; weder Aufbewahrungsfrist noch Zertifizierung werden genannt. Die Lizenz CC BY-NC 4.0 der Gewichte verbietet kommerzielles Self-Hosting ohne Jina On-Prem.
- Kosten im großen Maßstab
- 0,05 $ pro Million Tokens, 1 Mio. Anfragen mit je etwa 15.000 Tokens kosten also rund 750 $ im Monat. Jinas Seite sagt nicht, ob die Anfrage einmal oder pro Dokument gezählt wird.
- Grenzen
- 131.072 Tokens pro Anfrage für Anfrage und Kandidaten zusammen, auf der API automatisch gekürzt. Ratenlimits: 100 Anfragen und 100K Tokens pro Minute kostenlos, 500 und 2 Mio. bezahlt, 5.000 und 50 Mio. bei Premium.
Was gut ist
- Schlägt Qwen3-Reranker-4B bei BEIR mit 0,6B Parametern
- Listenweiser Kontext von 131K Tokens ohne feste Dokumentenzahl
- Retrieval von Rechtsprechung in AILA gegenüber v3 von 20,82 auf 32,55 gestiegen
- Direkter Ersatz für v3; GGUF- und MLX-Builds für lokale Tests
Was nicht
- Nicht kommerzielle Lizenz für die Gewichte
- Hinter Qwen3-Reranker-4B bei MIRACL, RTEB und strukturierten Daten
- Etwa 10 Sekunden pro Anfrage bei juristischen Dokumenten mit 1.900 Tokens
Am besten für
Elastic-Nutzer und Teams, die einen kleinen Reranker mit langem Kontext auf eigener Hardware wollen.
Alternativen zu Jina Reranker v3.5
Jina Reranker v3.5: häufige Fragen
- Lohnt sich Jina Reranker v3.5?
- Ein Reranker mit 0,6B Parametern, der bei BEIR einen mit 4B schlägt, gebremst durch eine Lizenz, die Self-Hosting zum Vertriebsgespräch macht. Wir bewerten es mit 4.3 von 5.
- Was kostet Jina Reranker v3.5?
- Jina API 0,05 $ pro 1 Mio. Tokens. Gewichte kostenlos für nicht kommerzielle Nutzung; kommerzielles Self-Hosting braucht eine kostenpflichtige Lizenz von Elastic.
- Welche Nachteile hat Jina Reranker v3.5?
- Nicht kommerzielle Lizenz für die Gewichte; Hinter Qwen3-Reranker-4B bei MIRACL, RTEB und strukturierten Daten; Etwa 10 Sekunden pro Anfrage bei juristischen Dokumenten mit 1.900 Tokens.
- Für wen eignet sich Jina Reranker v3.5?
- Elastic-Nutzer und Teams, die einen kleinen Reranker mit langem Kontext auf eigener Hardware wollen.
- Was kostet Jina Reranker v3.5 für ein Team oder im Produktivbetrieb?
- 0,05 $ pro Million Tokens, 1 Mio. Anfragen mit je etwa 15.000 Tokens kosten also rund 750 $ im Monat. Jinas Seite sagt nicht, ob die Anfrage einmal oder pro Dokument gezählt wird.
- Ist Jina Reranker v3.5 sicher für Firmendaten?
- Jina sagt, es trainiere nicht mit Kunden-Inputs und speichere sie nur so weit, wie es zum Beantworten nötig ist, unter Elastics DPA; weder Aufbewahrungsfrist noch Zertifizierung werden genannt. Die Lizenz CC BY-NC 4.0 der Gewichte verbietet kommerzielles Self-Hosting ohne Jina On-Prem.
- Was sind die besten Alternativen zu Jina Reranker v3.5?
- Die nächsten Alternativen, die wir getestet haben, sind Voyage rerank-3, Cohere Rerank 4 und Qwen3-Embedding and Qwen3-Reranker.
Antworten geprüft am 22. Okt. 2026.