Was ist GLiNER2.5-Decide?
GLiNER2.5-Decide ist ein Klassifikationsmodell von Fastino, beworben mit 340 Millionen Parametern (die Gewichtsdatei enthält laut Hugging-Face-Eintrag etwa 486 Millionen), im September 2026 unter Apache 2.0 auf Hugging Face veröffentlicht. Es basiert auf einem DeBERTa-v3-large-Encoder und der schemagesteuerten Bibliothek GLiNER2. Du übergibst beim Aufruf Text und einen oder mehrere Label-Sätze, etwa für Absicht, Routing, Stimmung, Priorität, Moderation oder Multi-Label-Tags, und es bewertet alle in einem einzigen Forward Pass.
Es gibt drei Versionen: das englische Modell, ein mehrsprachiges 287M-Modell und ein 1B-Modell. Alle laufen über das Python-Paket gliner2 auf CPU oder GPU, und Fastino veröffentlicht ein Rezept fürs Fine-Tuning, das jede Entscheidung in eine Trainingszeile im JSONL-Format verwandelt.
Ein vollständiges System-One-Modell im Sinne von Jev ist es nicht: Fragen sind Label-Sätze statt typisierter Objekte für Auswahl, Bewertung und Ja/Nein, und ordinale Bewertungen werden als einfache Klassen trainiert. Die Engine colibri und andere Gateways verpacken es hinter dem Anfrageformat von Jev.
Lohnt sich GLiNER2.5-Decide?
GLiNER2.5-Decide ist der praktische Weg, flexible Labels in eine Pipeline einzubauen, die sich keine GPU leisten kann, sofern die Labels operativer Natur sind. Übergib die Label-Liste für diese Anfrage, und die Antwort kommt auf einer CPU in wenigen hundert Millisekunden zurück; colibri maß auf einem Desktop-Prozessor 294 ms für eine Frage und 897 ms für drei, bei etwa 1,9 GB Speicher. Labels können Beschreibungen tragen, mehrere Heads werden in einem Durchlauf bewertet, und fürs Fine-Tuning reicht eine JSONL-Datei.
Fastinos eigener Benchmark sieht es vorn: 60,2 % Exact-Match-Genauigkeit über 17 englische Domänen seines Datensatzes für schnelle Entscheidungen, vor einem JevK5-Modell mit 57,6 % und dem Router von Laya mit 46,6 %. Das größere 1B-Geschwistermodell schneidet mit 59,6 % etwas schlechter ab, für diese Aufgaben gibt es also kaum einen Grund, für das größere Modell zu zahlen.
Der Jev Decision Index 0.4.1 der Community, veröffentlicht am 21. Oktober 2026, erzählt eine andere Geschichte. Er gibt GLiNER2.5-Decide einen Skill-Wert von 10,1, Platz 215 von 229 Einträgen, gegenüber 60,2 für Jev 1.14 und 68,0 für den 27B Decider von Perplexity. Laya, der andere kleine Encoder in dieser Klasse, liegt mit 9,2 knapp darunter. Die Testreihe umfasst Wissen, Reasoning, Werkzeugauswahl und Retrieval, wofür ein kleiner Encoder nie gebaut wurde, doch der Abstand ist zu groß, um es ein allgemeines Entscheidungsmodell zu nennen.
Ordinale Skalen sind seine versteckte Falle. Laut Modellkarte werden Bewertungen wie 0 bis 10 als einfache Klassen trainiert, die Verlustfunktion weiß also nicht, dass 6 näher an 7 liegt als an 0. Fastino selbst rät, solche Heads neben der Genauigkeit auch mit dem mittleren absoluten Fehler zu messen.
Wo es sich lohnt
Ein Support-Team mit 40 Agenten auf einem selbst gebauten Helpdesk
Jedes eingehende Ticket an Erstattungen, Login, Versand oder einen Menschen weiterleiten, bevor ein Agent es sieht
Lass den Klassifikator auf einer CPU im bestehenden Ticket-Dienst laufen und übergib die Liste der Warteschlangen als Labels; keine GPU, keine API-Rechnung. Stimm ihn auf ein paar tausend historischen Tickets ab, bevor du ihm bei Grenzfällen vertraust.
Ein Trust-and-Safety-Ingenieur bei einem Forum mit einer Million Kommentaren am Tag
Eine günstige Moderationsschranke vor einen langsameren LLM-Prüfer setzen
Bewerte jeden Beitrag auf Standardservern mit den Labels erlaubt, Spam, Belästigung und personenbezogene Daten und eskaliere nur die unsicheren. Die Ersparnis sind die vermiedenen LLM-Aufrufe; das Risiko sind übersehene Fälle bei subtilen Richtlinienfragen.
Ein Betriebsleiter bei einer mittelgroßen Klinikgruppe
Patienten-E-Mails in die Warteschlangen Termin, Folgerezept, Befunde und Überweisung sortieren
Labels mit kurzen Beschreibungen halten eine eigene Taxonomie präzise. Das Modell kann nur Englisch, für Patienten mit anderen Sprachen solltest du also die mehrsprachige 287M-Variante prüfen.
Bevor du dich festlegst
- Einrichtung
- pip install gliner2, fastino/GLiNER2.5-Decide laden und classify_text mit einem Label-Dictionary aufrufen; bis zur ersten Antwort vergehen auf einem Laptop Minuten.
- Integrationen
- Python-Paket gliner2 auf CPU oder GPU; die C-Engine colibri und andere Gateways verpacken es hinter dem Anfrageformat von Jev; Fastino Agent bietet gehostetes Fine-Tuning als separates Produkt.
- Daten und Datenschutz
- Die Gewichte unter Apache 2.0 laufen vollständig auf deiner Hardware, Text geht also nie an Fastino, es sei denn, du nutzt dessen Fine-Tuning-Agenten.
- Kosten im großen Maßstab
- Nur selbst gehostet: etwa 1,9 GB Speicher pro Prozess und rund 0,3 Sekunden pro Frage auf einer Desktop-CPU, ein paar Standardserver bewältigen also Millionen Entscheidungen am Tag ohne Gebühr pro Aufruf.
- Grenzen
- Dieser Checkpoint kann nur Englisch; Label-Sätze statt typisierter Objekte für Auswahl, Bewertung oder Ja/Nein; schwach bei Wissen, Reasoning und Werkzeugauswahl im Decision Index.
Was gut ist
- Unter 0,5 Mrd. Parameter; läuft auf einer CPU in unter 300 ms pro Frage
- Beliebiger Label-Satz beim Aufruf, mit optionalen Beschreibungen
- Mehrere Entscheidungen in einem Forward Pass bewertet
- Apache 2.0, mit einer mehrsprachigen 287M-Variante
Was nicht
- Skill-Wert von 10,1 im Decision Index 0.4.1, Platz 215 von 229
- Der Spitzenwert von 60,2 % stammt aus Fastinos eigener, rein englischer Testreihe
- Ordinale Labels als einfache Klassen trainiert
- Laut Modellkarte selbst kein Reasoning und keine Erklärungen
Am besten für
Ingenieure, die günstiges Intent-Routing, Moderation oder Spam-Entscheidungen nur auf der CPU brauchen und auf eigenen Labels feinabstimmen können.
Alternativen zu GLiNER2.5-Decide
GLiNER2.5-Decide: häufige Fragen
- Lohnt sich GLiNER2.5-Decide?
- GLiNER2.5-Decide ist ein schneller, ehrlicher Label-Klassifikator, der bei Fastinos Aufgaben gut abschneidet und bei denen aller anderen weit zurückliegt. Wir bewerten es mit 3.6 von 5.
- Was kostet GLiNER2.5-Decide?
- Kostenlose Gewichte und Bibliothek unter Apache 2.0. Fastinos gehosteter Fine-Tuning-Agent ist ein separates Produkt.
- Welche Nachteile hat GLiNER2.5-Decide?
- Skill-Wert von 10,1 im Decision Index 0.4.1, Platz 215 von 229; Der Spitzenwert von 60,2 % stammt aus Fastinos eigener, rein englischer Testreihe; Ordinale Labels als einfache Klassen trainiert; Laut Modellkarte selbst kein Reasoning und keine Erklärungen.
- Für wen eignet sich GLiNER2.5-Decide?
- Ingenieure, die günstiges Intent-Routing, Moderation oder Spam-Entscheidungen nur auf der CPU brauchen und auf eigenen Labels feinabstimmen können.
- Was kostet GLiNER2.5-Decide für ein Team oder im Produktivbetrieb?
- Nur selbst gehostet: etwa 1,9 GB Speicher pro Prozess und rund 0,3 Sekunden pro Frage auf einer Desktop-CPU, ein paar Standardserver bewältigen also Millionen Entscheidungen am Tag ohne Gebühr pro Aufruf.
- Ist GLiNER2.5-Decide sicher für Firmendaten?
- Die Gewichte unter Apache 2.0 laufen vollständig auf deiner Hardware, Text geht also nie an Fastino, es sei denn, du nutzt dessen Fine-Tuning-Agenten.
- Was sind die besten Alternativen zu GLiNER2.5-Decide?
- Die nächsten Alternativen, die wir getestet haben, sind Laya, Jev, Perplexity Decider (pplx-decider), Clef und d3 (vLLM Semantic Router).
Antworten geprüft am 23. Okt. 2026.