Skip to content

Laya

Modelo de decisiones Apache 2.0 basado en ModernBERT que responde preguntas tipadas en decenas de milisegundos, pero necesita ajuste fino para acertar.

Reseña de Andrew Miller · Actualizado

Visitar Laya Código abierto

Nuestra nota

3.4/5

Muy rápido y realmente abierto, pero de entrada casi adivina en las decisiones difíciles: una base que ajustar, no un sustituto de Jev.

¿Qué es Laya?

Laya es un modelo de decisiones de pesos abiertos de Convai Innovations, publicado por primera vez el 18 de septiembre de 2026 bajo Apache 2.0. Como Jev, recibe un estado y preguntas tipadas (elección, puntuación y sí/no “noul”) y devuelve probabilidades en una sola pasada hacia delante en lugar de generar texto. A diferencia de Jev, es un pequeño modelo codificador que funciona en la CPU de un portátil o en una GPU modesta.

Hay tres checkpoints. El inglés se basa en ModernBERT-large (421 millones de parámetros, contexto de 512 tokens); laya-multilingual usa mmBERT-base (322 millones de parámetros, 1.024 tokens por defecto y hasta 8.192) y cubre más de 100 idiomas; laya-typed-decisions es el modelo inglés ajustado con un benchmark de cuatro flujos de trabajo. Un Router del paquete de Python detecta la escritura y el idioma y elige el checkpoint adecuado para cada petición.

El paquete (versión 0.4.15 en PyPI el 26 de octubre de 2026) incluye también laya-serve, un servidor que acepta las mismas peticiones POST /v1/systemone que Jev, así que los clientes de Jev existentes pueden cambiar modificando su URL base. Por defecto escucha en todas las interfaces de red sin autenticación, salvo que se defina LAYA_API_KEY.

¿Merece la pena Laya?

La propia ficha del modelo de Laya es inusualmente franca sobre el problema principal. Los checkpoints base están cerca del azar en su benchmark de decisiones tipadas, con 0,362 frente a una referencia aleatoria de 0,318 y 0,461 por elegir siempre la respuesta más común. El 0,766 destacado, que supera el 0,727 que el README cita para Jev 1.13, corresponde al checkpoint ajustado con la propia partición de entrenamiento de ese benchmark.

Las pruebas independientes coinciden. En el Jev Decision Index 0.4.1 comunitario, Laya ocupa el puesto 216 de 228 entradas con una puntuación de 9,21, donde 0 es adivinar al azar, frente a 60,24 de Jev 1.14. En la muestra de calibración del índice acertó el 37,7 % de las veces. La ficha añade que el checkpoint inglés obtuvo cero en jemer mientras declaraba una confianza de 0,952, y por eso el enrutador de idiomas importa más de lo que parece a primera vista.

Donde gana es en velocidad y tamaño. Convai indica 32,8 ms por pregunta en una GPU T4 y unos 6,8 ms por pregunta en lotes de 50, o de 193 a 464 ms por petición en CPU. El Decision Index midió una mediana de 5,8 ms con la vía rápida de kernels fusionados de Laya y 19,8 ms sin ella; ya hay dos participantes aún más rápidos. Un notebook gratuito de Kaggle cubre de principio a fin el ajuste fino y el ajuste de temperatura.

Los modos de fallo conocidos son concretos. Las preguntas de elección con más de unas 20 opciones comparten un presupuesto fijo de tokens, así que en Banking77 el README indica 0,425 para Laya con las 77 etiquetas frente a 0,870 para Jev con 72, que no es una prueba equivalente. Las preguntas de sí/no pueden seguir las etiquetas de sus opciones en lugar de la entrada, y el campo act_probability no aporta una señal útil (AUROC 0,30), así que la ficha recomienda filtrar por la confianza. Pocos proveedores publican tanto sobre sus propias debilidades, lo que hace el resto de la ficha más fiable que su comparación con Jev, en la que todas las cifras de Jev son de terceros y Convai nunca las volvió a medir.

Dónde se gana su sitio

  • Un ingeniero de ML en una fintech con unos miles de tickets de soporte etiquetados

    Enrutar y etiquetar tickets en menos de 50 ms sin enviarlos a una API de terceros

    Ajusta el modelo con los tickets etiquetados usando el notebook de Kaggle, reajusta las temperaturas y sírvelo con laya-serve en una GPU de clase T4. La precisión del checkpoint base es pobre, así que el ajuste fino no es opcional.

  • Un equipo de plataforma con una canalización de agentes LLM

    Añadir comprobaciones baratas de salvaguarda y escalado antes de las llamadas a herramientas

    Varias preguntas de sí/no y de elección van en una sola pasada hacia delante, unos 7 ms cada una en lotes de 50 en una T4 según las cifras de Convai. Autoalojarlo solo cuesta la GPU, frente a $0,042 por 1M de tokens de entrada en la API de Jev; filtra por la confianza, no por act_probability.

  • Una responsable de operaciones de clientes con colas de soporte en hindi, español e inglés

    Clasificar correo multilingüe sin pagar por petición

    El Router envía automáticamente el texto que no está en inglés a laya-multilingual, y 45 de 51 idiomas puntuaron por encima de tres veces el azar en las pruebas de Convai. Sin etiquetas propias para el ajuste fino, la precisión no justifica dejar una API de decisiones alojada.

Antes de decidirte

Puesta en marcha
pip install laya (Python 3.10 o posterior); el Router descarga un checkpoint en el primer uso, unos 808 MB para inglés y 647 MB para el multilingüe. La ficha recomienda fijar USE_TF=0 si la carga se bloquea.
Integraciones
Los extras opcionales añaden un servidor HTTP, un servidor MCP, compatibilidad con LangChain y LangGraph y ONNX Runtime; laya-serve acepta las peticiones POST /v1/systemone de Jev.
Datos y privacidad
Pesos Apache 2.0 en tu propio hardware, así que ningún dato sale de él. laya-serve escucha en 0.0.0.0 sin autenticación salvo que se defina LAYA_API_KEY, así que define una clave o protege el puerto con un cortafuegos.
Coste a escala
Sin licencias ni tarifas por petición. Convai indica de 103 a 332 preguntas por segundo en lotes en una T4, y el notebook de ajuste fino funciona en el nivel gratuito de dos T4 de Kaggle.
Límites
512 tokens en el checkpoint inglés (unos 320 para el estado) y 1.024 en el multilingüe, ampliables a 8.192 con una precisión irregular por encima de unos 4.000 tokens. Las preguntas de puntuación ordinal son el tipo más flojo (0,372 en SST-5), y cambiar de checkpoint con max_loaded=1 supone una recarga de 7 a 10 segundos.

Lo bueno

  • Pesos Apache 2.0; funciona en CPU o en una GPU pequeña
  • Unos 33 ms por pregunta en una T4, según la medición del fabricante
  • El Router cubre más de 100 idiomas con tres checkpoints
  • Servidor compatible con Jev y notebook gratuito de ajuste fino

Lo malo

  • Los checkpoints base están cerca del azar en decisiones difíciles, según su propia ficha
  • Puesto 216 de 228 en el Decision Index 0.4.1
  • Sale con exceso de confianza; hay que reajustar la temperatura
  • El servidor no tiene autenticación salvo que definas una clave

Ideal para

Equipos con sus propios datos de decisiones etiquetados que quieren un modelo diminuto y autoalojado que ajustar para enrutado rápido o salvaguardas.

Alternativas a Laya

Laya: preguntas frecuentes

¿Merece la pena Laya?
Muy rápido y realmente abierto, pero de entrada casi adivina en las decisiones difíciles: una base que ajustar, no un sustituto de Jev. Le damos un 3.4 sobre 5.
¿Cuánto cuesta Laya?
Pesos y paquete de Python gratuitos bajo Apache 2.0. Sin API alojada de pago; lo ejecutas tú.
¿Qué inconvenientes tiene Laya?
Los checkpoints base están cerca del azar en decisiones difíciles, según su propia ficha; puesto 216 de 228 en el Decision Index 0.4.1; sale con exceso de confianza; hay que reajustar la temperatura; el servidor no tiene autenticación salvo que definas una clave.
¿Para quién es Laya?
Equipos con sus propios datos de decisiones etiquetados que quieren un modelo diminuto y autoalojado que ajustar para enrutado rápido o salvaguardas.
¿Cuánto cuesta Laya para un equipo o en producción?
Sin licencias ni tarifas por petición. Convai indica de 103 a 332 preguntas por segundo en lotes en una T4, y el notebook de ajuste fino funciona en el nivel gratuito de dos T4 de Kaggle.
¿Es Laya seguro para los datos de la empresa?
Pesos Apache 2.0 en tu propio hardware, así que ningún dato sale de él. laya-serve escucha en 0.0.0.0 sin autenticación salvo que se defina LAYA_API_KEY, así que define una clave o protege el puerto con un cortafuegos.
¿Cuáles son las mejores alternativas a Laya?
Las alternativas más cercanas que hemos analizado son GLiNER2.5-Decide, Jev, Perplexity Decider (pplx-decider), d3 (vLLM Semantic Router), Clef y ScaleDown Constrained Decoding Models (Classify, Extract, Summarize).

Respuestas comprobadas el 26 oct 2026.