Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

GLiNER2.5-Decide

Fastinoの10億パラメータ未満のゼロショット分類器です。呼び出し時に任意のラベルを渡せば、プロンプトも生成もなしにCPU上で1つを返します。

レビュー: Andrew Miller · 更新

GLiNER2.5-Decideを見る オープンソース

当サイトの評価

3.6/5

GLiNER2.5-Decideは高速で素直なラベル分類器です。Fastinoのタスクでは良い成績ですが、それ以外のタスクでは大きく後れを取ります。

GLiNER2.5-Decideとは?

GLiNER2.5-DecideはFastinoの分類モデルで、パラメータ数は3億4,000万(340 million)とされています(Hugging Faceの掲載によれば重みファイルには約4億8,600万(486 million)あります)。2026年9月にApache 2.0でHugging Faceに公開されました。DeBERTa-v3-largeエンコーダーと、スキーマ駆動のGLiNER2ライブラリをもとにしています。呼び出し時にテキストと1つ以上のラベルセットを渡すと、意図、ルーティング、感情、優先度、モデレーション、マルチラベルのタグなどを、1回の順伝播ですべてスコアリングします。

英語モデル、287Mの多言語モデル、1Bモデルの3つの版があります。いずれもgliner2 PythonパッケージでCPUまたはGPU上で動き、Fastinoは各判断をJSONLの訓練行に変換するファインチューニングの手順を公開しています。

Jevの意味での完全なSystem Oneモデルではありません。質問は型付きのchoice、score、yes/noのオブジェクトではなくラベルセットで、順序のあるスコアは単なるクラスとして訓練されています。colibriエンジンなどのゲートウェイが、Jevのリクエスト形式の裏でこのモデルを包んでいます。

GLiNER2.5-Decideは使う価値があるか?

GLiNER2.5-Decideは、GPUを使う余裕のないパイプラインに柔軟なラベルを加える実用的な手段です。ただしラベルが業務上のものである場合に限ります。そのリクエスト用のラベルリストを渡せば、CPU上で数百ミリ秒で答えが返ります。colibriの測定では、デスクトップのプロセッサーで質問1つに294 ms、3つに897 msで、メモリは約1.9GBでした。ラベルには説明を付けられ、複数のヘッドを1回でスコアリングでき、ファインチューニングにはJSONLファイルがあれば足ります。

Fastino自身のベンチマークでは首位です。同社のfast-decisionsデータセットの英語17分野で完全一致の正解率60.2%を記録し、JevK5モデルの57.6%、Layaのルーターの46.6%を上回ります。より大きな1Bの兄弟モデルは59.6%とわずかに低く、これらのタスクで大きなモデルに費用をかける理由はほとんどありません。

2026年10月21日に公開されたコミュニティのJev Decision Index 0.4.1は別の姿を示しています。GLiNER2.5-Decideのスキルスコアは10.1で229件中215位、Jev 1.14は60.2、PerplexityのDecider 27Bは68.0です。このクラスのもう1つの小型エンコーダーであるLayaは、9.2でそのすぐ下です。このスイートは、小型エンコーダーがもともと想定していない知識、推論、ツール選択、検索を扱っていますが、汎用の判断モデルと呼ぶには差が大きすぎます。

順序尺度は見落としやすい落とし穴です。モデルカードによれば0から10のようなスコアは単なるクラスとして訓練されているため、損失関数は6が0より7に近いことを知りません。Fastino自身も、そうしたヘッドは正解率に加えて平均絶対誤差で測るよう勧めています。

真価を発揮する場面

  • 自作のヘルプデスクを使う40人のサポートチーム

    担当者が見る前に、届いたチケットをすべて返金、ログイン、配送、または人間に振り分けたい

    既存のチケットサービス内のCPUで分類器を動かし、キューの一覧をラベルとして渡します。GPUもAPIの請求も不要です。エッジケースで信頼する前に、過去のチケット数千件でファインチューニングしてください。

  • 1日100万件のコメントがあるフォーラムのトラスト&セーフティのエンジニア

    遅いLLMのレビュアーの前に安価なモデレーションの関門を置きたい

    汎用サーバーで全投稿に許可、スパム、嫌がらせ、個人データのラベルをスコアリングし、判断の微妙なものだけを上に回します。節約になるのは避けられたLLMの呼び出しで、リスクはポリシーの微妙なケースの見逃しです。

  • 中規模のクリニックグループの業務マネージャー

    患者からのメールを予約、処方の補充、検査結果、紹介のキューに振り分けたい

    短い説明付きのラベルで、独自の分類体系を正確に保てます。このモデルは英語のみなので、英語以外を話す患者向けには287Mの多言語版を評価してください。

導入前に確認すること

導入
pip install gliner2を実行し、fastino/GLiNER2.5-Decideを読み込んで、ラベルの辞書を渡してclassify_textを呼び出します。ノートPCでも数分で最初の回答が得られるところまで進めます。
連携
CPUまたはGPU上のgliner2 Pythonパッケージで動きます。colibriのCエンジンなどのゲートウェイがJevのリクエスト形式の裏でこれを包んでおり、Fastino Agentはホスト型のファインチューニングを別製品として提供しています。
データとプライバシー
Apache 2.0の重みは完全に自社のハードウェア上で動くため、ファインチューニングエージェントを使わない限り、テキストがFastinoに送られることはありません。
大規模利用時のコスト
セルフホストのみです。プロセスあたり約1.9GBのメモリを使い、デスクトップのCPUで質問1つあたり約0.3秒なので、汎用サーバー数台で1日数百万件の判断を呼び出しごとの料金なしでこなせます。
制限
このチェックポイントは英語のみです。型付きのchoice、score、yes/noのオブジェクトではなくラベルセットを使い、Decision Indexの知識、推論、ツール選択のタスクは苦手です。

良い点

  • 0.5Bパラメータ未満で、CPU上で質問1つあたり300 ms未満
  • 呼び出し時に任意のラベルセットを指定でき、説明も付けられる
  • 1回の順伝播で複数の判断をスコアリング
  • Apache 2.0で、287Mの多言語版もある

気になる点

  • Decision Index 0.4.1のスキルスコアは10.1で、229件中215位
  • 目玉の60.2%はFastino自身の英語のみのスイートによる数値
  • 順序のあるラベルが単なるクラスとして訓練されている
  • モデルカード自身が述べるとおり、推論や説明はできない

おすすめの人

安価なCPUだけで意図のルーティング、モデレーション、スパム判定を行う必要があり、自前のラベルでファインチューニングできるエンジニアに向いています。

GLiNER2.5-Decideの代替

GLiNER2.5-Decide:よくある質問

GLiNER2.5-Decideは使う価値があるか?
GLiNER2.5-Decideは高速で素直なラベル分類器です。Fastinoのタスクでは良い成績ですが、それ以外のタスクでは大きく後れを取ります。 評価は5点満点中3.6点です。
GLiNER2.5-Decideの料金は?
重みとライブラリはApache 2.0で無料です。Fastinoのホスト型ファインチューニングエージェントは別の製品です。
GLiNER2.5-Decideの欠点は?
Decision Index 0.4.1のスキルスコアは10.1で、229件中215位; 目玉の60.2%はFastino自身の英語のみのスイートによる数値; 順序のあるラベルが単なるクラスとして訓練されている; モデルカード自身が述べるとおり、推論や説明はできない.
GLiNER2.5-Decideは誰に向いているか?
安価なCPUだけで意図のルーティング、モデレーション、スパム判定を行う必要があり、自前のラベルでファインチューニングできるエンジニアに向いています。
チームや本番環境でGLiNER2.5-Decideを使うと費用はいくらか?
セルフホストのみです。プロセスあたり約1.9GBのメモリを使い、デスクトップのCPUで質問1つあたり約0.3秒なので、汎用サーバー数台で1日数百万件の判断を呼び出しごとの料金なしでこなせます。
GLiNER2.5-Decideは企業データを扱っても安全か?
Apache 2.0の重みは完全に自社のハードウェア上で動くため、ファインチューニングエージェントを使わない限り、テキストがFastinoに送られることはありません。
GLiNER2.5-Decideの代わりになるものは?
当サイトでレビューした中で最も近い代替はLaya, Jev, Perplexity Decider (pplx-decider), Clef 、 d3 (vLLM Semantic Router)です。

回答確認日:2026年10月23日