Qu’est-ce que GLiNER2.5-Decide ?
GLiNER2.5-Decide est un modèle de classification de Fastino, présenté comme comptant 340 millions de paramètres (son fichier de poids en contient environ 486 millions, selon la fiche Hugging Face), publié sur Hugging Face en septembre 2026 sous Apache 2.0. Il repose sur un encodeur DeBERTa-v3-large et la bibliothèque GLiNER2 pilotée par schéma. Vous passez à l'appel un texte et un ou plusieurs ensembles d'étiquettes, pour l'intention, le routage, le sentiment, la priorité, la modération ou des étiquettes multiples, et il les note tous en une seule passe avant.
Il existe trois versions : le modèle anglais, un modèle multilingue de 287M et un modèle de 1B. Tous tournent sur CPU ou GPU via le paquet Python gliner2, et Fastino publie une recette d'affinage qui transforme chaque décision en une ligne d'entraînement JSONL.
Ce n'est pas un modèle System One complet au sens de Jev : les questions sont des ensembles d'étiquettes plutôt que des objets typés choice, score et oui/non, et les scores ordinaux sont entraînés comme de simples classes. Le moteur colibri et d'autres passerelles l'enveloppent derrière le format de requête Jev.
GLiNER2.5-Decide vaut-il le coup ?
GLiNER2.5-Decide est le moyen pratique d'ajouter des étiquettes flexibles à une chaîne qui ne peut pas s'offrir de GPU, à condition que les étiquettes soient opérationnelles. Passez la liste d'étiquettes de la requête et la réponse revient en quelques centaines de millisecondes sur un CPU ; colibri a mesuré 294 ms pour une question et 897 ms pour trois sur un processeur de bureau, avec environ 1,9GB de mémoire. Les étiquettes peuvent porter des descriptions, plusieurs têtes sont notées en une seule passe, et l'affinage ne demande qu'un fichier JSONL.
Le propre benchmark de Fastino le place en tête : 60,2 % de précision en correspondance exacte sur 17 domaines anglais de son jeu de données fast-decisions, devant un modèle JevK5 à 57,6 % et le routeur de Laya à 46,6 %. Son grand frère de 1B obtient un peu moins, 59,6 %, si bien qu'il y a peu de raisons de payer le modèle plus grand sur ces tâches.
Le Jev Decision Index 0.4.1 communautaire, publié le 21 octobre 2026, raconte une autre histoire. Il donne à GLiNER2.5-Decide un score de compétence de 10,1, 215e sur 229 entrées, contre 60,2 pour Jev 1.14 et 68,0 pour le Decider de 27B de Perplexity. Laya, l'autre petit encodeur de cette catégorie, se place juste en dessous à 9,2. La suite couvre connaissances, raisonnement, choix d'outils et récupération, pour lesquels un petit encodeur n'a jamais été conçu, mais l'écart est trop grand pour en faire un modèle de décision généraliste.
Les échelles ordinales sont son piège subtil. La fiche du modèle indique que des scores comme 0 à 10 sont entraînés comme de simples classes, si bien que la fonction de perte ignore que 6 est plus proche de 7 que de 0, et Fastino conseille lui-même de mesurer ces têtes avec l'erreur absolue moyenne en plus de la précision.
Là où il fait la différence
Une équipe support de 40 agents sur un helpdesk maison
Orienter chaque ticket entrant vers remboursements, connexion, livraison ou un humain avant qu'un agent ne le voie
Faire tourner le classificateur sur un CPU dans le service de tickets existant et passer la liste des files comme étiquettes ; ni GPU ni facture d'API. Affinez-le sur quelques milliers de tickets historiques avant de vous y fier sur les cas limites.
Une ingénieure trust and safety sur un forum qui reçoit un million de commentaires par jour
Placer un filtre de modération bon marché devant un relecteur LLM plus lent
Noter les étiquettes autorisé, spam, harcèlement et données personnelles sur chaque message avec des serveurs ordinaires, et n'escalader que les cas incertains. L'économie, ce sont les appels LLM évités ; le risque, ce sont les ratés sur les cas de politique subtils.
Un responsable des opérations dans un groupe de cliniques de taille moyenne
Trier les e-mails des patients entre files rendez-vous, renouvellement d'ordonnance, résultats et orientation
Des étiquettes avec de courtes descriptions gardent une taxonomie privée précise. Le modèle est uniquement anglais : c'est donc la variante multilingue de 287M qu'il faut évaluer pour les patients non anglophones.
Avant de vous engager
- Mise en route
- pip install gliner2, chargez fastino/GLiNER2.5-Decide et appelez classify_text avec un dictionnaire d'étiquettes ; la première réponse s'obtient en quelques minutes sur un portable.
- Intégrations
- Paquet Python gliner2 sur CPU ou GPU ; le moteur C colibri et d'autres passerelles l'enveloppent derrière le format de requête Jev ; Fastino Agent propose l'affinage hébergé comme produit distinct.
- Données et confidentialité
- Les poids sous Apache 2.0 tournent entièrement sur votre matériel, si bien que le texte n'est jamais envoyé à Fastino, sauf si vous utilisez son agent d'affinage.
- Coût à grande échelle
- Uniquement auto-hébergé : environ 1,9GB de mémoire par processus et à peu près 0,3 seconde par question sur un CPU de bureau, si bien que quelques serveurs ordinaires couvrent des millions de décisions par jour sans frais par appel.
- Limites
- Anglais uniquement pour ce checkpoint ; ensembles d'étiquettes plutôt qu'objets typés choice, score ou oui/non ; faible sur les tâches de connaissances, de raisonnement et de choix d'outils du Decision Index.
Les points forts
- Moins de 0.5B paramètres ; tourne sur un CPU en moins de 300 ms par question
- N'importe quel ensemble d'étiquettes à l'appel, avec descriptions optionnelles
- Plusieurs décisions notées en une seule passe avant
- Apache 2.0, avec une variante multilingue de 287M
Les points faibles
- Score de compétence de 10,1 sur le Decision Index 0.4.1, 215e sur 229
- Le chiffre phare de 60,2 % vient de la propre suite de Fastino, uniquement en anglais
- Étiquettes ordinales entraînées comme de simples classes
- Ni raisonnement ni explications, de l'aveu même de la fiche du modèle
Idéal pour
Les ingénieurs qui ont besoin de décisions bon marché de routage d'intention, de modération ou d'anti-spam sur CPU uniquement et peuvent affiner sur leurs propres étiquettes.
Alternatives à GLiNER2.5-Decide
GLiNER2.5-Decide : questions fréquentes
- GLiNER2.5-Decide vaut-il le coup ?
- GLiNER2.5-Decide est un classificateur d'étiquettes rapide et honnête qui réussit bien sur les tâches de Fastino et reste loin derrière sur celles de tous les autres. Nous lui donnons 3.6 sur 5.
- Combien coûte GLiNER2.5-Decide ?
- Poids et bibliothèque gratuits sous Apache 2.0. L'agent d'affinage hébergé de Fastino est un produit distinct.
- Quels sont les inconvénients de GLiNER2.5-Decide ?
- Score de compétence de 10,1 sur le Decision Index 0.4.1, 215e sur 229; le chiffre phare de 60,2 % vient de la propre suite de Fastino, uniquement en anglais; étiquettes ordinales entraînées comme de simples classes; ni raisonnement ni explications, de l'aveu même de la fiche du modèle.
- À qui s’adresse GLiNER2.5-Decide ?
- Les ingénieurs qui ont besoin de décisions bon marché de routage d'intention, de modération ou d'anti-spam sur CPU uniquement et peuvent affiner sur leurs propres étiquettes.
- Combien coûte GLiNER2.5-Decide pour une équipe ou en production ?
- Uniquement auto-hébergé : environ 1,9GB de mémoire par processus et à peu près 0,3 seconde par question sur un CPU de bureau, si bien que quelques serveurs ordinaires couvrent des millions de décisions par jour sans frais par appel.
- GLiNER2.5-Decide est-il sûr pour les données de l’entreprise ?
- Les poids sous Apache 2.0 tournent entièrement sur votre matériel, si bien que le texte n'est jamais envoyé à Fastino, sauf si vous utilisez son agent d'affinage.
- Quelles sont les meilleures alternatives à GLiNER2.5-Decide ?
- Les alternatives les plus proches que nous avons testées sont Laya, Jev, Perplexity Decider (pplx-decider), Clef et d3 (vLLM Semantic Router).
Réponses vérifiées le 23 oct. 2026.