Was ist zerank-2?
zerank-2 ist ein Reranker von ZeroEntropy, angekündigt am 18. November 2025. Notion übernahm ZeroEntropy am 24. Juli 2026; am selben Tag veröffentlichte die Firma alle ihre Modelle unter Apache 2.0 und erklärte, ihre gehosteten Produkte würden bis zum 4. September 2026 unterstützt. Dieses Datum ist verstrichen, und ZeroEntropys API beantwortet Rerank-Requests jetzt mit "ZeroEntropy inference is unavailable", das Modell lässt sich also praktisch nur noch selbst hosten.
Ein Reranker bewertet die Vorauswahl neu, die ein Suchsystem bereits abgerufen hat, indem er Anfrage und jedes Dokument gemeinsam liest; das ist langsamer als der Vergleich von Vektoren, aber präziser. zerank-2 befolgt Anweisungen in natürlicher Sprache dazu, was als relevant gilt, und ist so trainiert, dass seine Scores kalibriert sind: Laut ZeroEntropy bedeutet ein Score von 0,8 etwa 80% Relevanz. Das Training nutzt die firmeneigene Methode zELO, die paarweise Präferenzen in Bewertungen nach Elo-Art umwandelt.
Es hat 4 Milliarden Parameter, etwa 8 GB BF16-Gewichte, ist von Qwen3-4B aus feinabgestimmt und liest bis zu 32.768 Tokens; ZeroEntropy beansprucht mehr als 100 Sprachen. Es lädt als CrossEncoder in sentence-transformers. Eine Änderung im Mai 2026 sorgt dafür, dass predict() rohe Logits statt Scores von 0 bis 1 zurückgibt; die Model Card nennt die Umrechnung, (scores / 5).sigmoid().
Lohnt sich zerank-2?
zerank-2 verdient seinen Platz durch Kalibrierung. Die meisten Reranker liefern Scores, die nur als Reihenfolge Sinn ergeben; dieser ist so trainiert, dass die Zahl selbst etwas bedeutet. Damit kann eine Pipeline schwache Passagen an einem festen Schwellenwert verwerfen oder das Modell als Ja-oder-Nein-Prüfung der Relevanz nutzen, bevor Kontext ein Sprachmodell erreicht.
In seiner Model Card, beim Reranking der besten 100 Ergebnisse von OpenAIs text-embedding-3-small, erreicht es über sieben Bereiche im Schnitt 0,6714 NDCG@10, gegenüber 0,5847 für Cohere rerank-3.5 und 0,5999 für Gemini 2.5 Flash. Es verliert nur bei Finanzen, wo Gemini 0,7694 gegenüber seinen 0,7600 erreicht. Die Zahlen stammen von ZeroEntropy, und die Konkurrenten sind eine Generation alt: Cohere Rerank 4 und Voyage rerank-3 fehlen in der Tabelle. Notions Beitrag zur Übernahme ergänzt, der Reranker habe die Reranking-Latenz bei gleicher Antwortqualität um 85% gesenkt, die Aussage eines Kunden, kein Benchmark.
Die Umstände haben sich stärker bewegt als das Modell. ZeroEntropys Team leitet jetzt die Modellforschung bei Notion, die gehostete API liefert nichts mehr, und der neueste Beitrag auf der News-Seite ist die Übernahmemeldung vom Juli, ohne Anzeichen für ein zerank-3. Apache 2.0 beseitigt das Lizenzrisiko, und die Model Card nennt weiterhin AWS Marketplace, aber Fehlerbehebungen und neue Versionen hängen jetzt davon ab, wer das Modell forkt.
Zwei Details bei der Migration erwischen viele. Der Wechsel auf rohe Logits im Mai 2026 bricht ohne Meldung jeden Schwellenwert, der auf die alten Scores von 0 bis 1 abgestimmt wurde, sofern die Sigmoid-Umrechnung nicht angewendet wird, und die Beispiele der Model Card laden "zeroentropy/zerank-2", während das Repository zerank-2-reranker heißt. Beides ist nicht schwer zu beheben, aber beides scheitert ohne Fehlermeldung, und genau so verschlechtert sich eine Retrieval-Pipeline unbemerkt.
Wo es sich lohnt
Ein RAG-Engineer bei einem Start-up für juristische Recherche
Irrelevante Passagen aussortieren, bevor sie das Sprachmodell erreichen
Rerank die besten 100 Treffer und behalte nach der Sigmoid-Umrechnung nur die über einem kalibrierten Schwellenwert, sodass jede Antwort weniger Eingabe-Tokens mitbringt. Recht ist einer der Bereiche mit dem größten Vorsprung in der Model Card: 0,6644 gegenüber 0,5257 für Cohere rerank-3.5.
Ein ehemaliger Kunde der ZeroEntropy-API
Die Suche am Laufen halten, nachdem die gehostete API abgeschaltet wurde
Folge ZeroEntropys Migrationsanleitung vom Juli, stell die Gewichte unter Apache 2.0 auf einer GPU hinter deinem eigenen Endpunkt bereit und stimm die Schwellenwerte neu auf die rohen Logits ab. Die Kosten wandern von 0,025 $ pro Million Tokens zu dem, was eine dauerhaft laufende GPU-Instanz kostet.
Ein Search Lead bei einem SaaS-Unternehmen mit 40 Mitarbeitern
Zwischen einem selbst gehosteten Reranker und einer verwalteten API wählen
zerank-2 ist kostenlos im Betrieb, überlässt Upgrades, Fehlerbehebungen und Verfügbarkeit aber dem Team; Cohere Rerank 4 oder Voyage rerank-3 rechnen pro Anfrage ab, bringen aber einen Anbieter mit. Den Ausschlag gibt meist, ob schon jemand GPU-Inferenz im Produktivbetrieb verantwortet.
Bevor du dich festlegst
- Einrichtung
- pip install sentence-transformers, das Modell als CrossEncoder laden und predict() oder rank() aufrufen; trust_remote_code ist nicht mehr nötig. Mit (scores / 5).sigmoid() bekommst du die kalibrierten Scores von 0 bis 1 zurück.
- Integrationen
- Gewichte auf Hugging Face mit 15 Quantisierungen aus der Community, laut Model Card AWS Marketplace, und jeder Server, der sentence-transformers oder Modelle auf Qwen3-Basis ausführt. Der gehostete Endpunkt /models/rerank von ZeroEntropy beantwortet keine Requests mehr.
- Daten und Datenschutz
- Apache 2.0 erlaubt kommerzielle Nutzung, Änderung und Weitergabe ohne Umsatzgrenzen. Beim Self-Hosting bleiben Anfragen und Dokumente in deiner eigenen Infrastruktur; eine Anbieter-API, an die Daten gehen könnten, gibt es nicht mehr.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos; die Kosten sind eine GPU, die etwa 8 GB BF16-Gewichte plus Batch-Speicher hält, was eine einzelne Rechenzentrumskarte mit 24 GB abdeckt. Werte zu Latenz und Durchsatz sind nicht veröffentlicht, die Kapazität musst du also mit deinem eigenen Anfragemix messen.
- Grenzen
- Kontext von 32.768 Tokens pro Paar aus Anfrage und Dokument; nur Text. Keine veröffentlichten Latenzwerte und keine Roadmap eines Maintainers seit der Übernahme durch Notion.
Was gut ist
- Kalibrierte Scores, nutzbar als fester Schwellenwert
- Gewichte seit Juli 2026 unter Apache 2.0
- Kontext von 32K Tokens und Relevanzanweisungen in natürlicher Sprache
- Schlägt laut Model Card Cohere rerank-3.5 in sechs von sieben Bereichen
Was nicht
- Gehostete API liefert nicht mehr; nur Self-Hosting
- Keine Roadmap des Herstellers nach der Übernahme durch Notion
- Benchmarks stammen von ZeroEntropy selbst, gegen ältere Konkurrenten
- Wechsel auf rohe Logits im Mai 2026 bricht alte Schwellenwerte
Am besten für
Teams, die bereits GPU-Inferenz betreiben und einen kostenlosen Reranker mit Relevanz-Scores wollen, die sie als Schwellenwert nutzen können.
Alternativen zu zerank-2
zerank-2: häufige Fragen
- Lohnt sich zerank-2?
- Ein präziser offener Reranker, dessen kalibrierte Scores sich lohnen, hinter dem jetzt aber niemand mehr steht außer deiner eigenen GPU. Wir bewerten es mit 3.9 von 5.
- Was kostet zerank-2?
- Kostenlos unter Apache 2.0. Die gehostete API von ZeroEntropy (0,025 $ pro 1 Mio. Tokens zum Start) wurde nur bis zum 4. September 2026 unterstützt und gibt jetzt einen Fehler zur Nichtverfügbarkeit zurück.
- Welche Nachteile hat zerank-2?
- Gehostete API liefert nicht mehr; nur Self-Hosting; Keine Roadmap des Herstellers nach der Übernahme durch Notion; Benchmarks stammen von ZeroEntropy selbst, gegen ältere Konkurrenten; Wechsel auf rohe Logits im Mai 2026 bricht alte Schwellenwerte.
- Für wen eignet sich zerank-2?
- Teams, die bereits GPU-Inferenz betreiben und einen kostenlosen Reranker mit Relevanz-Scores wollen, die sie als Schwellenwert nutzen können.
- Was kostet zerank-2 für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos; die Kosten sind eine GPU, die etwa 8 GB BF16-Gewichte plus Batch-Speicher hält, was eine einzelne Rechenzentrumskarte mit 24 GB abdeckt. Werte zu Latenz und Durchsatz sind nicht veröffentlicht, die Kapazität musst du also mit deinem eigenen Anfragemix messen.
- Ist zerank-2 sicher für Firmendaten?
- Apache 2.0 erlaubt kommerzielle Nutzung, Änderung und Weitergabe ohne Umsatzgrenzen. Beim Self-Hosting bleiben Anfragen und Dokumente in deiner eigenen Infrastruktur; eine Anbieter-API, an die Daten gehen könnten, gibt es nicht mehr.
- Was sind die besten Alternativen zu zerank-2?
- Die nächsten Alternativen, die wir getestet haben, sind Cohere Rerank 4, Voyage rerank-3, Jina Reranker v3.5 und mxbai-rerank v2.
Antworten geprüft am 22. Okt. 2026.