Was ist mxbai-rerank v2?
mxbai-rerank v2 ist ein Paar offener Reranker von Mixedbread, angekündigt am 13. März 2025 (die Gewichte kamen am 3. März auf Hugging Face): mxbai-rerank-base-v2 (500 Millionen Parameter) und mxbai-rerank-large-v2 (1,5 Milliarden). Ein Reranker bewertet die Vorauswahl, die ein Suchsystem bereits abgerufen hat, neu, indem er Anfrage und jedes Dokument gemeinsam liest, was langsamer ist als der Vergleich von Vektoren, aber genauer. Beide bewerten jeweils ein Dokument (pointwise), bauen auf Qwen2.5 auf und wurden mit Reinforcement, Contrastive und Preference Learning trainiert.
Laut Mixedbread decken sie mehr als 100 Sprachen und Code ab, mit standardmäßig 8.000 Tokens Kontext und Kompatibilität bis 32.000, gegenüber 512 bei v1. Die Gewichte liegen auf Hugging Face unter Apache 2.0, dazu gibt es ein kleines Python-Paket mxbai-rerank.
Mixedbreads neuerer Reranker, mxbai-rerank-v3.1-listwise, ist proprietär und nur im gehosteten Mixedbread Search verfügbar, wo er inzwischen Standard ist und large-v2 als Pointwise-Option bleibt. Die Dokumentation beschreibt keinen eigenständigen Rerank-Endpunkt; Reranking kostet zusätzlich 3,50 $ pro 1.000 semantische Suchen.
Was kostet mxbai-rerank v2?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Weights | Free | Apache 2.0 |
| Semantic search | $4 per 1,000 queries | Mixedbread Search |
| Search with reranking | $7.50 per 1,000 queries | Mixedbread Search |
| Scale plan | $20/month in credits |
Kostenlos unter Apache 2.0. Gehostet nur in Mixedbread Search: semantische Suche 4 $ pro 1.000 Anfragen, 7,50 $ mit Reranking; Scale-Plan 20 $/Monat an Guthaben.
Lohnt sich mxbai-rerank v2?
mxbai-rerank v2 verdient seinen Platz durch Lizenz und Größe, nicht durch aktuelle Genauigkeit. Beide Modelle stehen unter Apache 2.0 ohne kommerzielle Auflagen, was zählt, seit Jinas neuerer Reranker für kommerzielles Selbsthosten eine kostenpflichtige Elastic-Lizenz braucht, und das Base-Modell mit 0,5B ist klein genug, um neben einer Anwendung auf einer bescheidenen GPU zu laufen. Mixedbreads eigene Zeitmessung auf einer A100 sieht large-v2 bei 0,89 Sekunden und base-v2 bei 0,67 Sekunden pro Anfrage auf NFCorpus, gegenüber 3,05 Sekunden für bge-reranker-v2-m3 und 7,20 für bge-reranker-v2-gemma.
Zum Start führte es das offene Feld auf Englisch an. Mixedbread meldet einen BEIR-Durchschnitt von 57,49 NDCG@10 für large-v2 und 55,57 für base-v2, gegenüber 55,39 für Cohere rerank-3.5 und 54,54 für Voyage rerank-2, dazu 39,2 beim Tool-Retrieval in ToolRet, ein knapper Sieg über den bisherigen Bestwert von 39,09. Beide BGE-Reranker schlagen es beim mehrsprachigen Mr.TyDi (30,99 und 30,40 gegenüber 29,79), die Angabe von 100 Sprachen solltest du also an eigenen Daten testen. All das sind Messungen von Mixedbread.
Die Zeit ist weitergegangen. Jeder kommerzielle Konkurrent in dieser Tabelle wurde ersetzt, und Jina meldet 63,20 bei BEIR für seinen Jina Reranker v3.5 mit 0,6B, allerdings mit anderem Setup, die Zahlen sind also nicht direkt vergleichbar. Mixedbreads Aufwand ist in das proprietäre Listwise-Modell v3.1 geflossen, das laut Mixedbread bei ViDoRe v3 mit 0,65 Sekunden pro Anfrage einem LLM-Reranker der Spitzenklasse ebenbürtig ist, aber nur in Mixedbread Search läuft. Das offene GitHub-Repository wurde zuletzt im September 2025 aktualisiert, und das Python-Paket steht weiterhin bei Version 0.1.6.
Gehostet ändert sich die Rechnung. Mixedbread verlangt 7,50 $ pro 1.000 semantische Suchen mit Reranking, davon 3,50 $ für den Rerank-Schritt, eine Million gererankte Anfragen im Monat kosten also 7.500 $ vor Indexierung und Speicher. Bei Mixedbreads eigenen 0,89 Sekunden pro Anfrage auf einer A100 entspricht dieselbe Million Anfragen etwa 250 GPU-Stunden mit large-v2, bequem innerhalb des Monats einer einzigen Karte.
Wo es sich lohnt
Ein Search Engineer in einem SaaS-Unternehmen mit 20 Leuten, das BM25 in Elasticsearch nutzt
Die Relevanz der Hilfesuche in der App verbessern, ohne einen weiteren Anbieter hinzuzunehmen
base-v2 hinter die bestehende BM25-Vorauswahl auf eine kleine GPU setzen; in Mixedbreads Tests kam BM25 plus base-v2 bei BEIR auf durchschnittlich 55,57. Apache 2.0 erspart eine Lizenzprüfung, und die einzigen laufenden Kosten sind die GPU.
Ein Entwickler, der einen Agent mit Hunderten Tools baut
Für jede Anfrage auswählen, welche Tool-Beschreibungen das Modell sieht
Tool-Beschreibungen mit large-v2 gegen die Anfrage reranken, das bei ToolRet mit BM25 als erster Stufe 39,2 erreichte, gegenüber 31,97 für BM25 allein. Pointwise-Bewertung hält die Punktzahl jedes Tools unabhängig von den anderen.
Eine Leiterin Wissensmanagement in einer Anwaltskanzlei
Zwischen einem gehosteten Suchdienst und einem selbst gehosteten Reranker entscheiden
Mixedbread Search mit Reranking kostet 7,50 $ pro 1.000 Anfragen und nutzt standardmäßig das geschlossene Modell v3.1; v2 selbst zu hosten hält Dokumente auf der Hardware der Kanzlei, heißt aber, sich selbst um GPU, Monitoring und Updates zu kümmern.
Bevor du dich festlegst
- Einrichtung
- pip install mxbai-rerank, mixedbread-ai/mxbai-rerank-base-v2 oder large-v2 von Hugging Face laden und eine Anfrage mit ihren Kandidatendokumenten übergeben.
- Integrationen
- Das Python-Paket mxbai-rerank und Transformers; in Mixedbread Search lässt sich large-v2 in search_options.rerank auswählen, mit Einstellungen für top_k und Metadaten.
- Daten und Datenschutz
- Selbst gehostet unter Apache 2.0, Dokumente verlassen deine Infrastruktur also nie. Mixedbread Search bietet bei Enterprise Bring-your-own-Bucket; laut Mixedbreads Datenschutzerklärung hat das Unternehmen einen SOC-2-Type-II-Bericht, der nur das Kriterium Security abdeckt.
- Kosten im großen Maßstab
- Selbst gehostet ergibt eine Million Anfragen bei Mixedbreads 0,89 Sekunden pro Anfrage etwa 250 A100-Stunden. Gehostet verlangt Mixedbread Search 7,50 $ pro 1.000 gererankte semantische Suchen, also 7.500 $ pro Million, plus 1,50 $ bis 3 $ pro 1 Mio. indexierte Tokens.
- Grenzen
- Standardmäßig 8.000 Tokens pro Paar aus Anfrage und Dokument, kompatibel bis 32.000; pointwise, die Kosten wachsen also linear mit der Zahl der Kandidaten; Mixedbread Search Starter erlaubt 100 Anfragen pro Minute, Scale 2.400.
Was gut ist
- Apache 2.0, keine kommerziellen Einschränkungen
- 0,67 bis 0,89 Sekunden pro Anfrage auf einer A100 in Mixedbreads Tests
- Kontext von 8.000 Tokens, kompatibel bis 32.000
- Schlägt BGE in Mixedbreads Tests zu Code- und Tool-Retrieval
Was nicht
- Erschienen im März 2025; offenes Repository seit September 2025 ruhend
- Liegt beim mehrsprachigen Mr.TyDi hinter BGE
- Das neuere Listwise-Modell v3.1 ist geschlossen und an Mixedbread Search gebunden
- Die Benchmarks stammen von Mixedbread selbst
- Keine eigenständige gehostete Rerank-API
Am besten für
Teams, die einen kleinen, freizügig lizenzierten Reranker auf eigener Hardware betreiben wollen.
Alternativen zu mxbai-rerank v2
mxbai-rerank v2: häufige Fragen
- Lohnt sich mxbai-rerank v2?
- Allein wegen der Lizenz weiterhin der sicherste kleine Reranker zum Selbsthosten, auch wenn sein Benchmark-Vorsprung vom März 2025 stammt. Wir bewerten es mit 3.8 von 5.
- Was kostet mxbai-rerank v2?
- Kostenlos unter Apache 2.0. Gehostet nur in Mixedbread Search: semantische Suche 4 $ pro 1.000 Anfragen, 7,50 $ mit Reranking; Scale-Plan 20 $/Monat an Guthaben.
- Welche Nachteile hat mxbai-rerank v2?
- Erschienen im März 2025; offenes Repository seit September 2025 ruhend; Liegt beim mehrsprachigen Mr.TyDi hinter BGE; Das neuere Listwise-Modell v3.1 ist geschlossen und an Mixedbread Search gebunden; Die Benchmarks stammen von Mixedbread selbst; Keine eigenständige gehostete Rerank-API.
- Für wen eignet sich mxbai-rerank v2?
- Teams, die einen kleinen, freizügig lizenzierten Reranker auf eigener Hardware betreiben wollen.
- Was kostet mxbai-rerank v2 für ein Team oder im Produktivbetrieb?
- Selbst gehostet ergibt eine Million Anfragen bei Mixedbreads 0,89 Sekunden pro Anfrage etwa 250 A100-Stunden. Gehostet verlangt Mixedbread Search 7,50 $ pro 1.000 gererankte semantische Suchen, also 7.500 $ pro Million, plus 1,50 $ bis 3 $ pro 1 Mio. indexierte Tokens.
- Ist mxbai-rerank v2 sicher für Firmendaten?
- Selbst gehostet unter Apache 2.0, Dokumente verlassen deine Infrastruktur also nie. Mixedbread Search bietet bei Enterprise Bring-your-own-Bucket; laut Mixedbreads Datenschutzerklärung hat das Unternehmen einen SOC-2-Type-II-Bericht, der nur das Kriterium Security abdeckt.
- Was sind die besten Alternativen zu mxbai-rerank v2?
- Die nächsten Alternativen, die wir getestet haben, sind Qwen3-Embedding and Qwen3-Reranker, zerank-2, Jina Reranker v3.5 und Voyage rerank-3.
Antworten geprüft am 26. Okt. 2026.