¿Qué es Laya?
Esta es la parte de código de Laya, los pequeños modelos abiertos de decisión de Convai Innovations. El paquete de pip (publicado por primera vez el 18 de septiembre de 2026) carga tres checkpoints, uno en inglés y otro de decisiones tipadas sobre ModernBERT-large (421M parámetros) y uno multilingüe sobre mmBERT-base (322M), y responde preguntas de elección, puntuación y sí/no en una sola pasada. Su Router detecta la escritura y el idioma de cada petición en menos de un milisegundo y la envía al checkpoint capaz de leerla.
Alrededor hay extras opcionales: laya-serve, un servidor HTTP que acepta las peticiones POST /v1/systemone de TypeSafe Jev para que los clientes de Jev puedan cambiar solo con modificar la URL base; un servidor MCP; integraciones con LangChain, LangGraph, LlamaIndex y CrewAI; rutas rápidas con ONNX y GPU; y SDK para TypeScript, Rust y .NET. El repositorio incluye también notebooks de fine-tuning para las GPU T4 gratuitas de Kaggle y para Apple Silicon. Todo es Apache 2.0.
¿Merece la pena Laya?
El repositorio es mejor que los modelos que sirve. El Router resuelve un fallo que los autores detectaron y documentaron: el checkpoint en inglés obtenía 0,000 de precisión en jemer mientras declaraba 0,952 de confianza, así que los umbrales de confianza no podían detectarlo, y ahora el router comprueba la escritura antes de que se ejecute el modelo. La velocidad es real: 33 ms por pregunta suelta y 7,2 ms por pregunta en lotes en una T4, según el README.
El servidor requiere cuidado. `laya-serve` escucha por defecto en 0.0.0.0:8000 y solo exige una clave bearer si LAYA_API_KEY está definida, así que tal como viene cualquiera en la red puede llamarlo. Define la clave, o LAYA_HOST=127.0.0.1, antes de arrancarlo en cualquier entorno compartido. Habla el formato de Jev, limita los lotes a 64 estados y devuelve errores 422 ante preguntas mal formadas.
Los modelos son la parte débil. En el benchmark de decisiones tipadas del propio proyecto, con 2.000 decisiones, el checkpoint base en inglés obtiene 0,362 de precisión y el checkpoint ajustado de decisiones tipadas, 0,766. El README dice además que los dos checkpoints publicados pecan de exceso de confianza y que el multilingüe no tiene temperaturas ajustadas, así que sus puntuaciones de confianza deben calibrarse con tus datos antes de condicionar nada a ellas. El notebook de Kaggle ejecuta el ciclo completo de fine-tuning en dos T4 gratuitas.
El ritmo llama la atención: el repositorio se creó el 18 de septiembre de 2026, tiene unas 34.000 estrellas y llegó a la v0.4.13 el 21 de octubre, tres versiones en cuatro días. La comparación más útil no es con Jev sino con un clasificador ajustado convencional. Laya recibe las preguntas como entrada, así que una nueva decisión necesita un esquema y no un entrenamiento, hasta que la precisión lo exige de todos modos.
Dónde se gana su sitio
Un ingeniero de operaciones de soporte en un servicio de ayuda con 30 agentes
Asignar cada ticket por departamento, urgencia y riesgo de baja
Llamar a Router.predict en cada ticket para obtener tres respuestas tipadas en una pasada. Antes, ajustar el modelo con tickets antiguos usando el notebook de Kaggle, que no cuesta nada en T4 gratuitas; la precisión de 0,362 del checkpoint base en el benchmark es demasiado baja para asignar tickets.
Un equipo que ya llama a la API alojada de TypeSafe Jev
Autoalojar las decisiones para que el texto de los tickets no salga de la empresa
Ejecutar laya-serve y apuntar la URL base del cliente al nuevo servidor. Define LAYA_API_KEY y escucha en 127.0.0.1 o en una dirección privada; a cambio, la precisión es menor que la de un modelo alojado salvo que lo ajustes.
Un equipo de producto con clientes que escriben en decenas de idiomas
Clasificar mensajes sin un modelo distinto por idioma
El Router envía automáticamente el texto que no está en inglés a laya-multilingual. Los documentos largos necesitan max_len=8192; el README indica entre 16 y 18 aciertos de 20 hasta unos 4.000 tokens y resultados más variables por encima.
Antes de decidirte
- Puesta en marcha
- `python -m pip install laya` en Python 3.10 o posterior; el Router descarga un checkpoint de Hugging Face la primera vez que se usa. `laya[serve]` añade el servidor HTTP.
- Integraciones
- Extras para serve, mcp, langchain, llamaindex, crewai, onnx y una ruta rápida en GPU con TileLang; laya-ts en npm; SDK para Rust y .NET; clientes de la comunidad para Haskell y PHP.
- Datos y privacidad
- Los pesos vienen de Hugging Face; la inferencia es local. laya-serve escucha en 0.0.0.0:8000 y no tiene autenticación salvo que se defina LAYA_API_KEY. Código y pesos son Apache 2.0; no hay avisos de seguridad publicados.
- Coste a escala
- No hay edición de pago. A los 7,2 ms por pregunta en lotes que da el README, una T4 atiende unas 140 preguntas por segundo; la inferencia en CPU funciona con LAYA_THREADS para limitar los hilos.
- Límites
- Los checkpoints pecan de exceso de confianza tal como se publican; la precisión con documentos largos varía por encima de unos 4.000 tokens; salen versiones cada pocos días, así que fija una; 93 incidencias abiertas.
Lo bueno
- Router por idioma que evita respuestas erróneas con alta confianza en escrituras que el modelo no lee
- Servidor compatible con Jev, servidor MCP e integraciones con frameworks
- Notebooks de fine-tuning para GPU gratuitas de Kaggle y Apple Silicon
- 33 ms por pregunta en una T4, según el README
Lo malo
- El checkpoint base en inglés obtiene 0,362 en su propio benchmark
- El servidor escucha en 0.0.0.0 sin autenticación salvo que se defina una clave
- Los checkpoints publicados pecan de exceso de confianza hasta que se calibran
- API que cambia deprisa; fija las versiones
Ideal para
Desarrolladores que van a ajustar un modelo de decisión pequeño con sus propios datos y quieren un router, un servidor y un ciclo de entrenamiento listos.
Alternativas a Laya
Laya: preguntas frecuentes
- ¿Merece la pena Laya?
- Una infraestructura bien pensada alrededor de modelos de decisión pequeños que solo aciertan de verdad cuando los ajustas con tus propias etiquetas. Le damos un 3.6 sobre 5.
- ¿Cuánto cuesta Laya?
- Gratuito y de código abierto (Apache 2.0), pesos de los modelos incluidos.
- ¿Qué inconvenientes tiene Laya?
- El checkpoint base en inglés obtiene 0,362 en su propio benchmark; el servidor escucha en 0.0.0.0 sin autenticación salvo que se defina una clave; los checkpoints publicados pecan de exceso de confianza hasta que se calibran; aPI que cambia deprisa; fija las versiones.
- ¿Para quién es Laya?
- Desarrolladores que van a ajustar un modelo de decisión pequeño con sus propios datos y quieren un router, un servidor y un ciclo de entrenamiento listos.
- ¿Cuánto cuesta Laya para un equipo o en producción?
- No hay edición de pago. A los 7,2 ms por pregunta en lotes que da el README, una T4 atiende unas 140 preguntas por segundo; la inferencia en CPU funciona con LAYA_THREADS para limitar los hilos.
- ¿Es Laya seguro para los datos de la empresa?
- Los pesos vienen de Hugging Face; la inferencia es local. laya-serve escucha en 0.0.0.0:8000 y no tiene autenticación salvo que se defina LAYA_API_KEY. Código y pesos son Apache 2.0; no hay avisos de seguridad publicados.
- ¿Cuáles son las mejores alternativas a Laya?
- Las alternativas más cercanas que hemos analizado son colibri, vLLM y SGLang.
Respuestas comprobadas el 26 oct 2026.