Qu’est-ce que Laya ?
Laya est un modèle de décision à poids ouverts de Convai Innovations, publié pour la première fois le 18 septembre 2026 sous Apache 2.0. Comme Jev, il prend un état et des questions typées (choix, score et oui/non « noul ») et renvoie des probabilités en une seule passe avant au lieu de générer du texte. Contrairement à Jev, c'est un petit modèle encodeur qui tourne sur un CPU de portable ou un GPU modeste.
Il y a trois checkpoints. Celui en anglais est bâti sur ModernBERT-large (421 millions de paramètres, contexte de 512 tokens) ; laya-multilingual utilise mmBERT-base (322 millions de paramètres, 1 024 tokens par défaut et jusqu'à 8 192) et couvre plus de 100 langues ; laya-typed-decisions est le modèle anglais affiné sur un benchmark à quatre workflows. Un Router dans le paquet Python détecte l'écriture et la langue et choisit le bon checkpoint pour chaque requête.
Le paquet (version 0.4.15 sur PyPI le 26 octobre 2026) inclut aussi laya-serve, un serveur qui accepte les mêmes requêtes POST /v1/systemone que Jev, si bien que les clients Jev existants peuvent basculer en changeant leur URL de base. Par défaut, il écoute sur toutes les interfaces réseau sans authentification sauf si LAYA_API_KEY est défini.
Laya vaut-il le coup ?
La propre fiche de Laya est d'une franchise inhabituelle sur le problème principal. Les checkpoints de base sont proches du hasard sur son benchmark de décisions typées, obtenant 0,362 contre une base aléatoire de 0,318 et 0,461 pour toujours choisir la réponse la plus fréquente. Le chiffre mis en avant de 0,766, qui bat les 0,727 que le README cite pour Jev 1.13, appartient au checkpoint affiné sur la propre portion d'entraînement de ce benchmark.
Les tests indépendants confirment. Sur le Jev Decision Index 0.4.1 communautaire, Laya se classe 216e sur 228 entrées avec un score de 9,21, où 0 est le hasard, contre 60,24 pour Jev 1.14. Dans l'échantillon de calibration de l'index, il avait raison 37,7 % du temps. La fiche ajoute que le checkpoint anglais a obtenu zéro sur le khmer tout en rapportant une confiance de 0,952, ce qui explique pourquoi le routeur de langue compte plus qu'il n'y paraît d'abord.
Là où il gagne, c'est la vitesse et l'empreinte. Convai rapporte 32,8 ms pour une question sur un GPU T4 et environ 6,8 ms par question en lots de 50, ou 193 à 464 ms par requête sur un CPU. Le Decision Index a mesuré une médiane de 5,8 ms avec la voie rapide à kernel fusionné de Laya et 19,8 ms sans elle ; deux concurrents sont désormais encore plus rapides. Un notebook Kaggle gratuit couvre l'affinage et l'ajustement de température de bout en bout.
Les modes d'échec connus sont spécifiques. Les questions de choix avec plus d'environ 20 options partagent un budget de tokens fixe, si bien que sur Banking77 le README rapporte Laya à 0,425 sur les 77 étiquettes contre 0,870 pour Jev sur 72, pas un test équivalent. Les questions oui/non peuvent suivre leurs étiquettes d'options plutôt que l'entrée, et le champ act_probability ne porte aucun signal utilisable (AUROC 0,30), si bien que la fiche conseille de filtrer sur la confiance à la place. Peu de fournisseurs écrivent autant sur leurs propres faiblesses, ce qui rend le reste de la fiche plus facile à croire que sa comparaison avec Jev, où chaque chiffre de Jev est tiers et n'a jamais été remesuré par Convai.
Là où il fait la différence
Un ingénieur ML dans une fintech avec quelques milliers de tickets de support étiquetés
Router et étiqueter les tickets en moins de 50 ms sans les envoyer à une API tierce
Affiner sur les tickets étiquetés avec le notebook Kaggle, réajuster les températures, puis servir avec laya-serve sur un GPU de classe T4. La précision du checkpoint de base est faible, si bien que l'affinage n'est pas optionnel.
Une équipe plateforme qui fait tourner un pipeline d'agent LLM
Ajouter des contrôles de garde-fou et d'escalade bon marché avant les appels d'outils
Plusieurs questions oui/non et de choix passent en une seule passe avant, environ 7 ms chacune en lots de 50 sur un T4 selon les chiffres de Convai. L'auto-hébergement ne coûte que le GPU, contre 0,042 $ par 1M de tokens en entrée sur l'API de Jev ; filtrez sur la confiance, pas sur act_probability.
Un responsable des opérations client avec des files de support en hindi, espagnol et anglais
Trier des e-mails multilingues sans payer à la requête
Le Router envoie automatiquement le texte non anglais à laya-multilingual, et 45 des 51 langues ont obtenu plus de trois fois le hasard dans les tests de Convai. Sans étiquettes internes pour affiner, la précision ne justifiera pas de quitter une API de décision hébergée.
Avant de vous engager
- Mise en route
- pip install laya (Python 3.10 ou plus récent) ; le Router télécharge un checkpoint à la première utilisation, environ 808 MB pour l'anglais et 647 MB pour le multilingue. La fiche conseille de régler USE_TF=0 si le chargement se bloque.
- Intégrations
- Des extras optionnels ajoutent un serveur HTTP, un serveur MCP, la prise en charge de LangChain et LangGraph et ONNX Runtime ; laya-serve accepte les requêtes POST /v1/systemone de Jev.
- Données et confidentialité
- Poids Apache 2.0 sur votre propre matériel, donc aucune donnée ne le quitte. laya-serve se lie à 0.0.0.0 sans authentification sauf si LAYA_API_KEY est défini, alors définissez une clé ou protégez le port par pare-feu.
- Coût à grande échelle
- Aucune redevance de licence ou à la requête. Convai rapporte 103 à 332 questions par seconde en lots sur un T4, et le notebook d'affinage tourne sur le niveau gratuit à deux T4 de Kaggle.
- Limites
- 512 tokens sur le checkpoint anglais (environ 320 pour l'état) et 1 024 sur le multilingue, portable à 8 192 avec une précision inégale au-delà d'environ 4 000 tokens. Les questions de score ordinales sont le type le plus faible (0,372 sur SST-5), et changer de checkpoint avec max_loaded=1 coûte un rechargement de 7 à 10 secondes.
Les points forts
- Poids Apache 2.0 ; tourne sur CPU ou un petit GPU
- Environ 33 ms par question sur un T4, selon la mesure du fournisseur
- Le Router couvre plus de 100 langues sur trois checkpoints
- Serveur compatible Jev et notebook d'affinage gratuit
Les points faibles
- Checkpoints de base proches du hasard sur les décisions difficiles, selon sa propre fiche
- Se classe 216e sur 228 sur le Decision Index 0.4.1
- Livré trop confiant ; a besoin d'un réajustement de température
- Le serveur n'a pas d'authentification sauf si vous définissez une clé
Idéal pour
Les équipes avec leurs propres données de décision étiquetées qui veulent un modèle minuscule, auto-hébergé, à affiner pour un routage ou des garde-fous rapides.
Alternatives à Laya
Laya : questions fréquentes
- Laya vaut-il le coup ?
- Très rapide et véritablement ouvert, mais proche du hasard sur les décisions difficiles à la sortie de la boîte : une base à affiner, pas un remplaçant de Jev. Nous lui donnons 3.4 sur 5.
- Combien coûte Laya ?
- Poids et paquet Python gratuits sous Apache 2.0. Pas d'API payante hébergée ; vous le faites tourner vous-même.
- Quels sont les inconvénients de Laya ?
- Checkpoints de base proches du hasard sur les décisions difficiles, selon sa propre fiche; se classe 216e sur 228 sur le Decision Index 0.4.1; livré trop confiant ; a besoin d'un réajustement de température; le serveur n'a pas d'authentification sauf si vous définissez une clé.
- À qui s’adresse Laya ?
- Les équipes avec leurs propres données de décision étiquetées qui veulent un modèle minuscule, auto-hébergé, à affiner pour un routage ou des garde-fous rapides.
- Combien coûte Laya pour une équipe ou en production ?
- Aucune redevance de licence ou à la requête. Convai rapporte 103 à 332 questions par seconde en lots sur un T4, et le notebook d'affinage tourne sur le niveau gratuit à deux T4 de Kaggle.
- Laya est-il sûr pour les données de l’entreprise ?
- Poids Apache 2.0 sur votre propre matériel, donc aucune donnée ne le quitte. laya-serve se lie à 0.0.0.0 sans authentification sauf si LAYA_API_KEY est défini, alors définissez une clé ou protégez le port par pare-feu.
- Quelles sont les meilleures alternatives à Laya ?
- Les alternatives les plus proches que nous avons testées sont GLiNER2.5-Decide, Jev, Perplexity Decider (pplx-decider), d3 (vLLM Semantic Router), Clef et ScaleDown Constrained Decoding Models (Classify, Extract, Summarize).
Réponses vérifiées le 26 oct. 2026.