O que é GLiNER2.5-Decide?
GLiNER2.5-Decide é um modelo de classificação da Fastino, anunciado com 340 milhões de parâmetros (seu arquivo de pesos tem cerca de 486 milhões, segundo a página no Hugging Face), publicado no Hugging Face em setembro de 2026 sob Apache 2.0. Ele é construído sobre um encoder DeBERTa-v3-large e a biblioteca GLiNER2, orientada por schema. Você passa o texto e um ou mais conjuntos de rótulos na chamada, para intenção, roteamento, sentimento, prioridade, moderação ou tags com vários rótulos, e ele pontua todos em uma única passada.
Há três versões: o modelo em inglês, um modelo multilíngue de 287M e um modelo de 1B. Todos rodam em CPU ou GPU pelo pacote Python gliner2, e a Fastino publica uma receita de fine-tuning que transforma cada decisão em uma linha de treinamento JSONL.
Ele não é um modelo System One completo no sentido do Jev: as perguntas são conjuntos de rótulos, e não objetos tipados de escolha, pontuação e sim/não, e as pontuações ordinais são treinadas como classes simples. O motor colibri e outros gateways o encapsulam atrás do formato de requisição do Jev.
GLiNER2.5-Decide vale a pena?
O GLiNER2.5-Decide é a forma prática de adicionar rótulos flexíveis a um pipeline que não pode pagar por uma GPU, desde que os rótulos sejam operacionais. Passe a lista de rótulos dessa requisição e a resposta volta em algumas centenas de milissegundos em uma CPU; o colibri mediu 294 ms para uma pergunta e 897 ms para três em um processador de desktop, usando cerca de 1,9GB de memória. Os rótulos podem ter descrições, várias cabeças são pontuadas em uma passada, e o fine-tuning só precisa de um arquivo JSONL.
O benchmark da própria Fastino o coloca em primeiro: 60,2% de acerto exato em 17 domínios em inglês do seu conjunto de dados de decisões rápidas, à frente de um modelo JevK5 com 57,6% e do roteador da Laya com 46,6%. O irmão maior, de 1B, marca um pouco menos, 59,6%, então há pouco motivo para pagar pelo modelo maior nessas tarefas.
O Jev Decision Index 0.4.1, da comunidade, publicado em 21 de outubro de 2026, conta outra história. Ele dá ao GLiNER2.5-Decide uma pontuação de habilidade de 10,1, 215º de 229 entradas, contra 60,2 do Jev 1.14 e 68,0 do Decider de 27B da Perplexity. O Laya, o outro encoder pequeno dessa classe, fica logo abaixo, com 9,2. O conjunto cobre conhecimento, raciocínio, seleção de ferramentas e recuperação, coisas para as quais um encoder pequeno nunca foi feito, mas a diferença é grande demais para chamá-lo de modelo de decisão geral.
As escalas ordinais são sua armadilha sutil. O model card diz que pontuações como de 0 a 10 são treinadas como classes simples, então a função de perda não sabe que 6 está mais perto de 7 do que de 0, e a própria Fastino recomenda medir essas cabeças com erro absoluto médio, além do acerto.
Onde ele se destaca
Uma equipe de suporte de 40 atendentes com um helpdesk próprio
Encaminhar cada ticket recebido para reembolsos, login, entrega ou uma pessoa antes que um atendente o veja
Rode o classificador em uma CPU no serviço de tickets existente e passe a lista de filas como rótulos; sem GPU nem conta de API. Faça fine-tuning com alguns milhares de tickets antigos antes de confiar nele em casos-limite.
Um engenheiro de trust and safety em um fórum com um milhão de comentários por dia
Colocar um filtro de moderação barato antes de um revisor LLM mais lento
Pontue os rótulos permitir, spam, assédio e dados pessoais em cada post em servidores comuns, e só escale os incertos. A economia está nas chamadas de LLM evitadas; o risco está nos erros em casos sutis de política.
Um gerente de operações em um grupo de clínicas de médio porte
Separar e-mails de pacientes nas filas de consulta, renovação de receita, resultados e encaminhamento
Rótulos com descrições curtas mantêm precisa uma taxonomia própria. O modelo é só em inglês, então a variante multilíngue de 287M é a que deve ser avaliada para pacientes que não falam inglês.
Antes de decidir
- Configuração
- pip install gliner2, carregue fastino/GLiNER2.5-Decide e chame classify_text com um dicionário de rótulos; a primeira resposta leva minutos para chegar em um notebook.
- Integrações
- Pacote Python gliner2 em CPU ou GPU; o motor em C do colibri e outros gateways o encapsulam atrás do formato de requisição do Jev; o Fastino Agent oferece fine-tuning hospedado como produto separado.
- Dados e privacidade
- Os pesos Apache 2.0 rodam inteiramente no seu hardware, então o texto nunca é enviado à Fastino, a menos que você use o agente de fine-tuning dela.
- Custo em escala
- Só auto-hospedado: cerca de 1,9GB de memória por processo e cerca de 0,3 segundo por pergunta em uma CPU de desktop, então alguns servidores comuns dão conta de milhões de decisões por dia sem tarifa por chamada.
- Limites
- Só inglês neste checkpoint; conjuntos de rótulos, e não objetos tipados de escolha, pontuação ou sim/não; fraco em conhecimento, raciocínio e seleção de ferramentas no Decision Index.
O que é bom
- Menos de 0,5B de parâmetros; roda em CPU em menos de 300 ms por pergunta
- Qualquer conjunto de rótulos na chamada, com descrições opcionais
- Várias decisões pontuadas em uma única passada
- Apache 2.0, com uma variante multilíngue de 287M
O que não é
- Pontuação de habilidade de 10,1 no Decision Index 0.4.1, 215º de 229
- O número de destaque de 60,2% vem do conjunto da própria Fastino, só em inglês
- Rótulos ordinais treinados como classes simples
- Sem raciocínio nem explicações, segundo o próprio model card
Ideal para
Engenheiros que precisam de roteamento de intenção, moderação ou decisões de spam baratos, só em CPU, e podem fazer fine-tuning com seus próprios rótulos.
Alternativas ao GLiNER2.5-Decide
GLiNER2.5-Decide: perguntas frequentes
- GLiNER2.5-Decide vale a pena?
- O GLiNER2.5-Decide é um classificador de rótulos rápido e honesto, que vai bem nas tarefas da Fastino e muito atrás nas de todos os outros. Damos nota 3.6 de 5.
- Quanto custa GLiNER2.5-Decide?
- Pesos e biblioteca gratuitos sob Apache 2.0. O agente de fine-tuning hospedado da Fastino é um produto separado.
- Quais são as desvantagens de GLiNER2.5-Decide?
- Pontuação de habilidade de 10,1 no Decision Index 0.4.1, 215º de 229; o número de destaque de 60,2% vem do conjunto da própria Fastino, só em inglês; rótulos ordinais treinados como classes simples; sem raciocínio nem explicações, segundo o próprio model card.
- Para quem GLiNER2.5-Decide é indicado?
- Engenheiros que precisam de roteamento de intenção, moderação ou decisões de spam baratos, só em CPU, e podem fazer fine-tuning com seus próprios rótulos.
- Quanto custa GLiNER2.5-Decide para uma equipe ou em produção?
- Só auto-hospedado: cerca de 1,9GB de memória por processo e cerca de 0,3 segundo por pergunta em uma CPU de desktop, então alguns servidores comuns dão conta de milhões de decisões por dia sem tarifa por chamada.
- GLiNER2.5-Decide é seguro para dados da empresa?
- Os pesos Apache 2.0 rodam inteiramente no seu hardware, então o texto nunca é enviado à Fastino, a menos que você use o agente de fine-tuning dela.
- Quais são as melhores alternativas ao GLiNER2.5-Decide?
- As alternativas mais próximas que analisamos são Laya, Jev, Perplexity Decider (pplx-decider), Clef e d3 (vLLM Semantic Router).
Respostas verificadas em 23 de out. de 2026.