Layaとは?
これは Convai Innovations による小型でオープンな判断モデル Laya のコード側です。pip パッケージ(初公開は 2026年9月18日)は 3 つのチェックポイントを読み込みます。ModernBERT-large(421M パラメータ)をベースにした英語用と型付き判断用、mmBERT-base(322M)をベースにした多言語用で、選択、スコア、はい/いいえの質問に 1 回のフォワードパスで答えます。Router は各リクエストの文字体系と言語を 1 ミリ秒未満で判定し、それを読めるチェックポイントに送ります。
その周りに任意の追加機能があります。TypeSafe Jev の POST /v1/systemone リクエストを受け付ける HTTP サーバー laya-serve(Jev のクライアントはベース URL を変えるだけで切り替えられます)、MCP サーバー、LangChain、LangGraph、LlamaIndex、CrewAI との連携、ONNX と GPU の高速パス、TypeScript、Rust、.NET の SDK です。リポジトリには Kaggle の無料の T4 GPU と Apple Silicon 向けのファインチューニング用ノートブックもあります。すべて Apache 2.0 です。
Layaは使う価値があるか?
リポジトリは、それが提供するモデルよりも出来が良いです。Router は作者らが見つけて記録した失敗を解決しています。英語のチェックポイントはクメール語で正解率 0.000 なのに確信度 0.952 を報告しており、確信度のしきい値では捕まえられませんでした。そこで現在は、モデルを動かす前に Router が文字体系を確認します。速度は本物で、README によると T4 で 1 問 33 ms、バッチでは 1 問あたり 7.2 ms です。
サーバーには注意が必要です。`laya-serve` はデフォルトで 0.0.0.0:8000 にバインドし、Bearer キーを要求するのは LAYA_API_KEY が設定されているときだけです。そのため初期状態では、ネットワーク上の誰でも呼び出せます。共有の環境で起動する前に、キーを設定するか LAYA_HOST=127.0.0.1 にしてください。Jev のワイヤー形式に対応し、バッチは 64 状態までに制限され、不正な形式 の質問には 422 エラーを返します。
弱いのはモデルです。プロジェクト自身の 2,000 件の判断からなる型付き判断のベンチマークで、英語のベースのチェックポイントは正解率 0.362、ファインチューニングした型付き判断のチェックポイントは 0.766 です。README は、同梱の 2 つのチェックポイントがいずれも過信気味で、多言語用には調整済みの温度がないとも述べています。そのため、確信度のスコアで何かを判定する前に、自分のデータで校正する必要があります。Kaggle のノートブックは、ファインチューニングの一連の流れを無料の T4 2 枚で実行します。
ペースは目を見張るほどです。リポジトリは 2026年9月18日に作成され、スターは約 34,000、10月21日に v0.4.13 に達し、4 日間で 3 回リリースしました。より役に立つ比較は Jev とではなく、従来のファインチューニングした分類器とです。Laya は質問を入力として受け取るため、新しい判断に必要なのは学習の実行ではなくスキーマです。いずれ正確さのために結局は学習が必要になるまでは、ですが。
真価を発揮する場面
30 人のエージェントがいるヘルプデスクのサポート運用エンジニア
各チケットを部署、緊急度、解約リスクで振り分ける
すべてのチケットで Router.predict を呼び出し、1 回のパスで 3 つの型付きの答えを得ます。まず Kaggle のノートブックで過去のチケットを使ってファインチューニングします。無料の T4 なら費用はかかりません。ベースのチェックポイントのベンチマーク正解率 0.362 では、振り分けに使うには低すぎます。
すでに TypeSafe Jev のホスト型 API を呼び出しているチーム
判断をセルフホストして、チケットの本文を社内にとどめる
laya-serve を動かし、クライアントのベース URL を付け替えます。LAYA_API_KEY を設定し、127.0.0.1 かプライベートなアドレスにバインドしてください。ファインチューニングしない限り、ホスト型のモデルより正確さが落ちるのが代償です。
数十の言語で問い合わせが来るプロダクトチーム
言語ごとに別のモデルを用意せずにメッセージを振り分ける
Router は英語以外のテキストを自動で laya-multilingual に送ります。長い文書には max_len=8192 が必要です。README によると、約 4,000 トークンまでは 20 問中 16〜18 問が正解で、それを超えると結果のばらつきが大きくなります。
導入前に確認すること
- 導入
- Python 3.10 以上で `python -m pip install laya` を実行します。Router は初回の使用時に Hugging Face か らチェックポイントをダウンロードします。`laya[serve]` で HTTP サーバーが加わります。
- 連携
- serve、mcp、langchain、llamaindex、crewai、onnx の追加機能と TileLang による GPU の高速パス、npm の laya-ts、Rust と .NET の SDK、コミュニティによる Haskell と PHP のクライアントがあります。
- データとプライバシー
- 重みは Hugging Face から取得し、推論はローカルで動きます。laya-serve は 0.0.0.0:8000 にバインドし、LAYA_API_KEY を設定しない限り認証はありません。コードと重みは Apache 2.0 で、セキュリティアドバイザリは公開されていません。
- 大規模利用時のコスト
- 有料版はありません。README のバッチ時 1 問 7.2 ms で計算すると、T4 1 枚で毎秒およそ 140 問を処理できます。CPU での推論も可能で、LAYA_THREADS でスレッド数を制限できます。
- 制限
- 同梱のチェックポイントはそのままでは過信気味です。長い文書の正確さは約 4,000 トークンを超えるとばらつきます。リリースが数日ごとに出るため、バージョンを固定してください。未解決の issue は 93 件です。
良い点
- 読めない文字体系で自信満々に誤答するのを防ぐ言語ルーター
- Jev 互換のサーバー、MCP サーバー、フレームワークとの連携
- Kaggle の無料 GPU と Apple Silicon 向けのファインチューニング用ノートブック
- README によると T4 で 1 問 33 ms
気になる点
- 英語のベースのチェックポイントは自身のベンチマークで 0.362
- キーを設定しない限り、サーバーは認証なしで 0.0.0.0 にバインドする
- 同梱のチェックポイントは校正するまで過信気味
- API の変化が速いため、バージョンの固定が必要
おすすめの人
自分のデータで小型の判断モデルをファインチューニングするつもりで、すぐ使えるルーター、サーバー、学習ループがほしい開発者。
Layaの代替
Laya:よくある質問
- Layaは使う価値があるか?
- 小型の判断モデルのまわりをよく考えて整えた仕組みですが、モデルが正確になるのは自分のラベルでファインチューニングしてからです。 評価は5点満点中3.6点です。
- Layaの料金は?
- モデルの重みを含め、無料のオープンソース(Apache 2.0)です。
- Layaの欠点は?
- 英語のベースのチェックポイントは自身のベンチマークで 0.362; キー を設定しない限り、サーバーは認証なしで 0.0.0.0 にバインドする; 同梱のチェックポイントは校正するまで過信気味; API の変化が速いため、バージョンの固定が必要.
- Layaは誰に向いているか?
- 自分のデータで小型の判断モデルをファインチューニングするつもりで、すぐ使えるルーター、サーバー、学習ループがほしい開発者。
- チームや本番環境でLayaを使うと費用はいくらか?
- 有料版はありません。README のバッチ時 1 問 7.2 ms で計算すると、T4 1 枚で毎秒およそ 140 問を処理できます。CPU での推論も可能で、LAYA_THREADS でスレッド数を制限できます。
- Layaは企業データを扱っても安全か?
- 重みは Hugging Face から取得し、推論はローカルで動きます。laya-serve は 0.0.0.0:8000 にバインドし、LAYA_API_KEY を設定しない限り認証はありません。コードと重みは Apache 2.0 で、セキュリティアドバイザリは公開されていません。
- Layaの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はcolibri, vLLM 、 SGLangです。
回答確認日:2026年10月26日
