GLiNER2.5-Decide의 개요
GLiNER2.5-Decide는 Fastino의 분류 모델로, 3억 4,000만(340 million) 파라미터로 소개됩니다. Hugging Face 목록에 따르면 가중치 파일에는 약 4억 8,600만(486 million) 개가 들어 있습니다. 2026년 9월 Apache 2.0으로 Hugging Face에 공개됐습니다. DeBERTa-v3-large 인코더와 GLiNER2 스키마 기반 라이브러리 위에 만들어졌습니다. 호출할 때 텍스트와 하나 이상의 레이블 세트를 넘기면 의도, 라우팅, 감성, 우선순위, 모더레이션, 다중 레이블 태그를 한 번의 forward pass로 모두 채점합니다.
버전은 세 가지입니다. 영어 모델, 287M 다국어 모델, 1B 모델입니다. 모두 gliner2 Python 패키지를 통해 CPU나 GPU에서 실행되며, Fastino는 각 결정을 JSONL 학습 행 하나로 바꾸는 파인튜닝 레시피를 공개합니다.
Jev 기준으로 완전한 System One 모델은 아닙니다. 질문이 타입이 있는 choice, score, yes/no 객체가 아니라 레이블 세트이고, 순서형 점수는 일반 클래스로 학습됩니다. colibri 엔진과 다른 게이트웨이들이 이 모델을 Jev 요청 형식 뒤에 감싸서 제공합니다.
GLiNER2.5-Decide, 쓸 만한 가치가 있습니까?
GLiNER2.5-Decide는 GPU를 쓸 여유가 없는 파이프라인에 유연한 레이블을 붙이는 실용적인 방법입니다. 단, 레이블이 운영용일 때에 한합니다. 요청마다 레이블 목록을 넘기면 CPU에서 수백 밀리초 안에 답이 옵니다. colibri는 데스크톱 프로세서에서 질문 하나에 294 ms, 세 개에 897 ms를 측정했고 메모리는 약 1.9GB를 썼습니다. 레이블에 설명 을 붙일 수 있고, 여러 헤드를 한 번에 채점하며, 파인튜닝에는 JSONL 파일 하나면 됩니다.
Fastino 자체 벤치마크에서는 1위입니다. fast-decisions 데이터셋의 영어 도메인 17개에서 완전 일치 정확도 60.2%로, JevK5 모델의 57.6%와 Laya 라우터의 46.6%를 앞섭니다. 더 큰 1B 형제 모델은 59.6%로 약간 낮으므로, 이 과제들에서는 큰 모델에 돈을 들일 이유가 거의 없습니다.
2026년 10월 21일에 공개된 커뮤니티 Jev Decision Index 0.4.1은 다른 결과를 보여 줍니다. GLiNER2.5-Decide의 skill 점수는 10.1로 229개 중 215위입니다. Jev 1.14는 60.2, Perplexity의 27B Decider는 68.0입니다. 같은 부류의 다른 소형 인코더인 Laya는 바로 아래인 9.2입니다. 이 평가에는 소형 인코더가 애초에 겨냥하지 않은 지식, 추론, 도구 선택, 검색이 포함됩니다. 그래도 격차가 너무 커서 범용 결정 모델이라고 부르기는 어렵습니다.
순서형 척도는 알아차리기 어려운 함정입니다. 모델 카드에 따르면 0부터 10 같은 점수는 일반 클래스로 학습되므로, 손실 함수는 6이 0보다 7에 가깝다는 사실을 모릅니다. Fastino 스스로도 이런 헤드는 정확도와 함께 평균 절대 오차로 측정하라고 권합니다.
제 역할을 하는 곳
자체 구축 헬프데스크를 쓰는 상담원 40명 규모의 지원팀
상담원이 보기 전에 들어오는 모든 티켓을 환불, 로그인, 배송, 사람 담당으로 분류
기존 티켓 서비스 안에서 CPU로 분류기를 돌리고 큐 목록을 레이블로 넘깁니다. GPU도 API 비용도 없습니다. 예외적인 경우까지 믿고 맡기기 전에 과거 티켓 수천 건으로 파인튜닝합니다.
하루 댓글 100만 건이 달리는 포럼의 trust-and-safety 엔지니어
느린 LLM 검토자 앞에 저렴한 모더레이션 관문을 두기
범용 서버에서 모든 게시물에 허용, 스팸, 괴롭힘, 개인정보 레이블을 채점하고 불확실한 것만 넘깁니다. 절감 효과는 피한 LLM 호출만큼이고, 위험은 미묘한 정책 사례를 놓치는 것입니다.
중간 규모 병원 그룹의 운영 관리자
환자 이메일을 예약, 처방 재발급, 검사 결과, 의뢰 큐로 분류
짧은 설명을 붙인 레이블로 내부 분류 체계를 정확하게 유지합니다. 이 모델은 영어 전용이므로 영어를 쓰지 않는 환자에게는 287M 다국어 변형을 평가해야 합니다.
도입 전 확인할 점
- 설정
- pip install gliner2로 설치하고 fastino/GLiNER2.5-Decide를 불러와 레이블 딕셔너리와 함께 classify_text를 호출합니다. 노트북에서 첫 답을 얻기까지 몇 분이면 됩니다.
- 연동
- CPU나 GPU용 gliner2 Python 패키지, colibri의 C 엔진과 다른 게이트웨이가 Jev 요청 형식 뒤에 감싸서 제공, Fastino Agent는 별도 제품으로 호스팅 파인튜닝을 제공합니다.
- 데이터와 개인정보
- Apache 2.0 가중치가 전부 사용자 하드웨어에서 실행되므로, 파인튜닝 에이전트를 쓰지 않는 한 텍스트가 Fastino로 전송되지 않습니다.
- 대규모 사용 시 비용
- 자체 호스팅만 가능합니다. 프로세스당 메모리 약 1.9GB, 데스크톱 CPU에서 질문당 약 0.3초이므로 범용 서버 몇 대로 호출당 요금 없이 하루 수백만 건의 결정을 처리할 수 있습니다.
- 제한
- 이 체크포인트는 영어 전용입니다. 타입이 있는 choice, score, yes/no 객체가 아니라 레이블 세트를 씁니다. Decision Index의 지식, 추론, 도구 선택 과제에 약합니다.
좋은 점
- 0.5B 미만 파라미터, CPU에서 질문당 300 ms 미만
- 호출 시점에 아무 레이블 세트나 사용 가능, 설명은 선택
- 한 번의 forward pass로 여러 결정을 채점
- Apache 2.0, 287M 다국어 변형 제공
아쉬운 점
- Decision Index 0.4.1에서 skill 점수 10.1, 229개 중 215위
- 대표 수치 60.2%는 Fastino 자체의 영어 전용 평가에서 나옴
- 순서형 레이블을 일반 클래스로 학습
- 모델 카드 스스로 밝히듯 추론이나 설명 기능 없음
추천 대상
CPU만으로 저렴하게 의도 라우팅, 모더레이션, 스팸 판정을 해야 하고 자체 레이블로 파인튜닝할 수 있는 엔지니어.
GLiNER2.5-Decide 대안
GLiNER2.5-Decide: 자주 묻는 질문
- GLiNER2.5-Decide, 쓸 만한 가치가 있습니까?
- GLiNER2.5-Decide는 빠르고 정직한 레이블 분류기로, Fastino의 과제에서는 잘하지만 다른 이들의 과제에서는 크게 뒤처집니다. 평점은 5점 만점에 3.6점입니다.
- GLiNER2.5-Decide의 가격은 얼마입니까?
- 가중치와 라이브러리는 Apache 2.0으로 무료입니다. Fastino의 호스팅 파인튜닝 에이전트는 별도 제품입니다.
- GLiNER2.5-Decide의 단점은 무엇입니까?
- Decision Index 0.4.1에서 skill 점수 10.1, 229개 중 215위; 대표 수치 60.2%는 Fastino 자체의 영어 전용 평가에서 나옴; 순서형 레이블을 일반 클래스로 학습; 모델 카드 스스로 밝히듯 추론이나 설명 기능 없음.
- GLiNER2.5-Decide에 적합한 사람은 누구입니까?
- CPU만으로 저렴하게 의도 라우팅, 모더레이션, 스팸 판정을 해야 하고 자체 레이블로 파인튜닝할 수 있는 엔지니어.
- 팀이나 프로덕션 환경에서 GLiNER2.5-Decide의 비용은 얼마입니까?
- 자체 호스팅만 가능합니다. 프로세스당 메모리 약 1.9GB, 데스크톱 CPU에서 질문당 약 0.3초이므로 범용 서버 몇 대로 호출당 요금 없이 하루 수백만 건의 결정을 처리할 수 있습니다.
- GLiNER2.5-Decide에 회사 데이터를 맡겨도 안전합니까?
- Apache 2.0 가중치가 전부 사용자 하드웨어에서 실행되므로, 파인튜닝 에이전트를 쓰지 않는 한 텍스트가 Fastino로 전송되지 않습니다.
- GLiNER2.5-Decide의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Laya, Jev, Perplexity Decider (pplx-decider), Clef 및 d3 (vLLM Semantic Router)입니다.
답변 확인일: 2026년 10월 23일.