Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

Laya

ModernBERTを基にしたApache 2.0の判定モデルです。型付きの質問に数十ミリ秒で答えますが、正確さを得るにはファインチューニングが必要です。

レビュー: Andrew Miller · 更新

Layaを見る オープンソース

当サイトの評価

3.4/5

非常に速く、本当にオープンです。ただし、そのままでは難しい判定で当て推量に近く、Jevの代替ではなくファインチューニングの土台です。

Layaとは?

Layaは、Convai Innovationsのオープンウェイトの判定モデルで、2026年9月18日にApache 2.0で初めて公開されました。Jevと同じく、状態と型付きの質問(choice、score、そしてyes/noの「noul」)を受け取り、テキストを生成する代わりに1回のフォワードパスで確率を返します。Jevと違い、ノートPCのCPUや控えめなGPUで動く小さなエンコーダーモデルです。

チェックポイントは3つあります。英語版はModernBERT-large(パラメータ4億2,100万、コンテキスト512トークン)が基盤です。laya-multilingualはmmBERT-base(パラメータ3億2,200万、既定で1,024トークン、最大8,192)を使い、100以上の言語に対応します。laya-typed-decisionsは、英語版を4つのワークフローからなるベンチマークでファインチューニングしたものです。Pythonパッケージに含まれるRouterが文字体系と言語を検出し、リクエストごとに適切なチェックポイントを選びます。

パッケージ(2026年10月26日時点でPyPIのバージョン0.4.15)にはlaya-serveも含まれます。これはJevと同じPOST /v1/systemoneリクエストを受け付けるサーバーで、既存のJevクライアントはベースURLを変えるだけで切り替えられます。既定では、LAYA_API_KEYを設定しない限り、認証なしですべてのネットワークインターフェースで待ち受けます。

Layaは使う価値があるか?

Layaのモデルカードは、主な問題について異例なほど率直です。ベースのチェックポイントは、自身の型付き判定ベンチマークでほぼ偶然の水準で、ランダムなベースラインの0.318、常に最頻の答えを選んだ場合の0.461に対して0.362です。READMEがJev 1.13の値として挙げる0.727を上回る看板の0.766は、そのベンチマーク自身の訓練用分割でファインチューニングしたチェックポイントの数値です。

独立したテストも同じ結論です。コミュニティのJev Decision Index 0.4.1で、Layaはスコア9.21で228件中216位でした。0がランダムな推測にあたり、Jev 1.14は60.24です。この指標の較正用サンプルでは正答率は37.7%でした。モデルカードには、英語のチェックポイントがクメール語で0点だったにもかかわらず0.952の確信度を示したことも書かれており、言語ルーターが一見した以上に重要な理由はここにあります。

強みは速度と軽さです。Convaiの報告では、T4 GPUで質問1件に32.8 ms、50件のバッチでは質問1件あたり約6.8 ms、CPUではリクエスト1件あたり193から464 msです。Decision Indexの計測では、Layaの融合カーネルによる高速経路で中央値5.8 ms、それなしで19.8 msでした。現在はこれより速い参加モデルが2つあります。無料のKaggleノートブックで、ファインチューニングから温度の調整まで一通りできます。

既知の失敗の仕方は具体的です。選択肢が約20を超えるchoiceの質問は固定のトークン予算を分け合うため、Banking77ではREADMEがLayaの77ラベル全体での0.425を、Jevの72ラベルでの0.870と並べて示していますが、同条件の比較ではありません。yes/noの質問は入力ではなく選択肢のラベルに引きずられることがあり、act_probabilityフィールドには使える信号がありません(AUROC 0.30)。そのためモデルカードは、代わりに確信度で判定を絞るよう勧めています。自社の弱点をここまで書くベンダーは少なく、そのおかげでモデルカードの他の部分は、Jevとの比較よりも信頼しやすくなっています。Jevの数値はすべて第三者のもので、Convaiは再計測していません。

真価を発揮する場面

  • ラベル付きのサポートチケットを数千件持つフィンテック企業のMLエンジニア

    第三者のAPIに送らずに、50 ms未満でチケットを振り分け、タグ付けする

    Kaggleのノートブックでラベル付きチケットを使ってファインチューニングし、温度を再調整してから、T4クラスのGPU 1基でlaya-serveで提供します。ベースのチェックポイントの精度は低いため、ファインチューニングは必須です。

  • LLMエージェントのパイプラインを運用するプラットフォームチーム

    ツール呼び出しの前に安価なガードレールとエスカレーションの確認を加える

    複数のyes/noとchoiceの質問を1回のフォワードパスで処理でき、Convaiの数値ではT4で50件のバッチなら1件あたり約7 msです。セルフホストのコストはGPUだけで、JevのAPIは入力100万トークンあたり$0.042です。act_probabilityではなく確信度で判定を絞ります。

  • ヒンディー語、スペイン語、英語のサポート窓口を抱える顧客対応の責任者

    リクエスト単位の料金を払わずに多言語のメールを仕分ける

    Routerは英語以外の文章を自動でlaya-multilingualに送り、Convaiのテストでは51言語のうち45言語がランダムの3倍を超えるスコアでした。ファインチューニングに使える社内のラベルがなければ、ホスト型の判定APIから乗り換えるほどの精度は得られません。

導入前に確認すること

導入
pip install laya(Python 3.10以降)。Routerは初回利用時にチェックポイントをダウンロードし、英語版は約808 MB、多言語版は647 MBです。モデルカードは、読み込みが止まる場合はUSE_TF=0を設定するよう勧めています。
連携
オプションの追加機能で、HTTPサーバー、MCPサーバー、LangChainとLangGraphのサポート、ONNX Runtimeが加わります。laya-serveはJevのPOST /v1/systemoneリクエストを受け付けます。
データとプライバシー
Apache 2.0の重みを自社のハードウェアで動かすため、データは外に出ません。laya-serveはLAYA_API_KEYを設定しない限り認証なしで0.0.0.0にバインドするため、キーを設定するか、ポートをファイアウォールで塞いでください。
大規模利用時のコスト
ライセンス料もリクエスト単位の料金もありません。Convaiの報告では、T4 1基でバッチ処理すると毎秒103から332件の質問を処理でき、ファインチューニング用のノートブックはKaggleの無料のT4 2基のティアで動きます。
制限
英語のチェックポイントは512トークン(状態に使えるのは約320)、多言語版は1,024トークンで8,192まで上げられますが、約4,000トークンを超えると精度にむらが出ます。順序付きのscoreの質問が最も弱く(SST-5で0.372)、max_loaded=1でチェックポイントを切り替えると7から10秒の再読み込みが発生します。

良い点

  • Apache 2.0の重みで、CPUや小さなGPUで動きます
  • ベンダーの計測で、T4で質問1件あたり約33 msです
  • Routerが3つのチェックポイントで100以上の言語をカバーします
  • Jev互換のサーバーと無料のファインチューニング用ノートブックがあります

気になる点

  • 自身のモデルカードによれば、ベースのチェックポイントは難しい判定でほぼ偶然の水準です
  • Decision Index 0.4.1で228件中216位です
  • 確信度が過大な状態で出荷され、温度の再調整が必要です
  • キーを設定しない限り、サーバーに認証がありません

おすすめの人

独自のラベル付き判定データを持ち、高速な振り分けやガードレール向けにファインチューニングできる小さなセルフホストのモデルを求めるチーム。

Layaの代替

Laya:よくある質問

Layaは使う価値があるか?
非常に速く、本当にオープンです。ただし、そのままでは難しい判定で当て推量に近く、Jevの代替ではなくファインチューニングの土台です。 評価は5点満点中3.4点です。
Layaの料金は?
重みとPythonパッケージはApache 2.0で無料。有料のホスト型APIはなく、自分で動かします。
Layaの欠点は?
自身のモデルカードによれば、ベースのチェックポイントは難しい判定でほぼ偶然の水準です; Decision Index 0.4.1で228件中216位です; 確信度が過大な状態で出荷され、温度の再調整が必要です; キーを設定しない限り、サーバーに認証がありません.
Layaは誰に向いているか?
独自のラベル付き判定データを持ち、高速な振り分けやガードレール向けにファインチューニングできる小さなセルフホストのモデルを求めるチーム。
チームや本番環境でLayaを使うと費用はいくらか?
ライセンス料もリクエスト単位の料金もありません。Convaiの報告では、T4 1基でバッチ処理すると毎秒103から332件の質問を処理でき、ファインチューニング用のノートブックはKaggleの無料のT4 2基のティアで動きます。
Layaは企業データを扱っても安全か?
Apache 2.0の重みを自社のハードウェアで動かすため、データは外に出ません。laya-serveはLAYA_API_KEYを設定しない限り認証なしで0.0.0.0にバインドするため、キーを設定するか、ポートをファイアウォールで塞いでください。
Layaの代わりになるものは?
当サイトでレビューした中で最も近い代替はGLiNER2.5-Decide, Jev, Perplexity Decider (pplx-decider), d3 (vLLM Semantic Router), Clef 、 ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)です。

回答確認日:2026年10月26日