¿Qué es Janas?
Janas, de Maurizio Cammalleri, es un conjunto de herramientas de IA escritas en C sin más dependencias que la biblioteca de C. Su parte principal, Janas-LLM, ejecuta modelos de lenguaje de mezcla de expertos cuyos archivos son más grandes que la memoria del equipo. Los pesos se quedan en el disco; los expertos que necesita cada token se leen de un SSD NVMe, y los que vuelven una y otra vez se guardan en una caché de expertos que ocupa la RAM libre.
Lee un formato propio, .jns, convertido a partir de archivos GGUF (Q4_K_M y varios otros tipos de 3 a 5 bits) o descargado ya convertido desde la cuenta del proyecto en Hugging Face. Admite las familias Qwen3, Qwen3.5, Qwen3.6, Qwen3-Next, Gemma 4 y Llama 3. Alrededor del motor hay un chat de terminal, janas-server (una API HTTP al estilo de OpenAI), janas-mcp (el modelo como herramientas para clientes MCP) y una biblioteca en C.
El repositorio se creó el 20 de septiembre de 2026, tiene unas 548 estrellas en GitHub y 44 forks, y su licencia es GPL-3.0 o posterior. Publica versiones con fecha para Linux y Windows en x86-64, la última v2026.10.30.1 el 30 de octubre. El README lo define como un experimento, no un producto.
¿Merece la pena Janas?
Janas es un intento serio y muy bien documentado de ejecutar modelos de mezcla de expertos que no caben en memoria, y aun así sus cifras principales deben leerse como datos del propio autor. Su tabla, medida en un único portátil (Intel Core Ultra 9 185H, 32 GB de RAM, un disco NVMe que lee a unos 5,7 GB/s), muestra Qwen3-Next-80B, un archivo de 48,4 GB, escribiendo a 26,4 tok/s frente a 3,0 de llama.cpp y leyendo un prompt a 68,4 frente a 17,7. La descripción de una línea del repositorio todavía cita cifras anteriores, 37 tok/s y 2,8 para llama.cpp en 13 modelos; el README ya recoge 17 filas. Los 37 vienen de los borradores, el propio bloque de predicción del modelo que adivina tokens por adelantado y que el modelo luego comprueba; en el chat el README da 31-35 tok/s con la caché caliente.
El truco solo sirve para mezclas de expertos. Qwen3-Next activa unos 3B de sus 80B parámetros por token, así que Janas guarda los expertos más usados en una caché (21 GiB en el 80B) y lee el resto del SSD con O_DIRECT, adelantando la lectura de los expertos probables de la capa siguiente mientras calcula la actual. Cuando la caché guarda menos de una quinta parte de los expertos, los expertos ligeros que no están en memoria se omiten del todo, lo que cambia algo de precisión por velocidad: la coincidencia con el token más probable de llama.cpp bajó de 393 a 384 de 400 en una de las pruebas del autor. La referencia de llama.cpp también necesitó apaños para funcionar siquiera, porque su compilación habitual se quedaba sin memoria en ese portátil, de modo que parte de la diferencia mide el apetito de memoria de llama.cpp y no la velocidad pura.
Hay pruebas independientes, pero parciales. Varios testers han ejecutado el 80B en equipos con unos 31 GiB de RAM a 9,5 a 16,2 tok/s sin borradores, lo que confirma que funciona. Nadie ha reproducido la comparación de 26,4 frente a 3,0. El mejor cara a cara externo, en un i9-14900HX con 62,5 GiB, encontró llama.cpp más rápido con Qwen3-30B (38,9 frente a 28,3 tok/s), un empate con el 80B, que allí cabía en la RAM, y Janas por delante con el Qwen3-235B de 142 GB (3,0 frente a 1,59). En un Ryzen 5 5500 sin AVX-VNNI, llama.cpp leía los prompts más del doble de rápido.
Los costes aparecen en latencia y estabilidad. La primera respuesta de una sesión va a 16-20 tok/s mientras los expertos aún llegan del disco, un prompt de 32.000 tokens tardó 15 minutos en leerse, y el README advierte de que el motor puede empujar el escritorio al swap y una vez provocó un reinicio del controlador de la GPU. La GPU solo funciona con Vulkan, y hay issues abiertas que informan de salida basura en una Intel Arc B580 y de 3.320 de 3.980 pruebas de productos en GPU fallidas en una AMD Radeon. El streaming en sí son lecturas: según el README el motor solo escribe en ~/.cache/janas, así que el desgaste del SSD no es el problema; lo son el ancho de banda y el calor del disco, y el proyecto no publica ninguna cifra de durabilidad.
El mayor riesgo es la gobernanza. Los 90 commits son del autor, y CONTRIBUTING.md dice que no se fusionará código ajeno hasta que exista una fundación sin ánimo de lucro que tenga los derechos de autor, así que los pull requests para ARM64, macOS y AVX-512 siguen abiertos. Frente a llama.cpp, con sus más de 132.000 estrellas y todos los backends de hardware, Janas es una herramienta estrecha que gana en una situación: un modelo de mezcla de expertos demasiado grande para tu RAM, en x86-64.
Dónde se gana su sitio
Una desarrolladora con un portátil Linux o Windows de 32 GB y una unidad NVMe
Ejecutar Qwen3-Next-80B o Qwen3-Coder-Next en local en lugar de un modelo de 30B
Descarga la versión, usa janas-get para traer el archivo ya convertido de 48,4 GB y luego janas-chat. Testers con equipos de unos 31 GiB informan de 9,5 a 16,2 tok/s sin borradores; cuenta con primeras respuestas más lentas mientras se llena la caché de expertos y cierra el navegador, porque otros programas ocupan memoria que la caché necesita.
Un investigador con una estación de trabajo de 64 GB
Probar un modelo Qwen3-235B de 142 GB sin comprar más RAM
Convierte el GGUF Q4_K_M con gguf2jns y deja que la caché de expertos ocupe la memoria libre. Un tester midió 3,0 tok/s al escribir, cerca del doble del resultado de llama.cpp con mmap en el mismo equipo: útil para preguntas por lotes, demasiado lento para un chat interactivo.
Una responsable de ingeniería en una empresa pequeña que lo valora para un asistente interno
Decidir si se puede depender de un endpoint local compatible con OpenAI sobre Janas
janas-server atiende una petición cada vez en 127.0.0.1:8080 con una API key opcional, así que sirve para un usuario, no para un equipo. GPL-3.0 permite el uso interno por HTTP sin problema, pero enlazar libjanas_llm en software que distribuyes convierte ese software en GPL; con un solo mantenedor y cambios de interfaz cada semana, reserva tiempo para volver a probar en cada actualización.
Antes de decidirte
- Puesta en marcha
- Tarball compilado para Linux x86-64 (Ubuntu 22.04, Debian 12 y posteriores) o un zip para Windows 10 y 11; janas-get lista los modelos, los descarga y los verifica. Compilar desde el código fuente solo requiere GCC, más las cabeceras de Vulkan y glslang 15.2 o posterior para la GPU. El tiempo hasta la primera respuesta es sobre todo la descarga del modelo.
- Integraciones
- janas-server sigue la API de OpenAI (chat, completions, Responses, embeddings, batches) con una página de prueba; janas-mcp ofrece el modelo a Claude Code y otros clientes MCP; además, una biblioteca en C con bindings para FreeBASIC y Node.js. GPU solo mediante Vulkan 1.3; la NPU de Intel solo en Linux con Meteor Lake.
- Datos y privacidad
- Funciona en local y solo escribe en ~/.cache/janas y donde pongas los modelos convertidos; no se describe telemetría. El servidor escucha por defecto en 127.0.0.1 sin API key. GPL-3.0 o posterior para el código; los modelos convertidos conservan sus propias licencias (Apache 2.0 en Qwen, la Qwen Community License en Qwen3.8-Flash-Next, la no comercial CC BY-NC-SA en DeepNSM).
- Coste a escala
- No hay edición de pago, así que el coste es el hardware: el equipo de referencia es un portátil de 32 GB con un SSD NVMe que lee a unos 5,7 GB/s, y discos más lentos o un equipo ocupado reducen la velocidad. Como el servidor solo mantiene una secuencia, escalar a muchos usuarios supone un equipo por cada usuario simultáneo.
- Límites
- Desarrollado y medido en un único portátil; unas 21 issues y pull requests abiertos, entre ellos salida errónea de la GPU en Intel Arc B580 y AMD Radeon Vega y prompts lentos en Windows con NVIDIA. Sin backend para CUDA, Metal o ROCm, sin versión para macOS o ARM, sin soporte para los tipos GGUF IQ2 e IQ1, y un prompt de 32.000 tokens tardó 15 minutos en el portátil de referencia.
Lo bueno
- Ejecuta modelos de mezcla de expertos de 48 GB en equipos de 32 GB, confirmado por testers externos
- C puro sin dependencias; versiones compiladas para Linux y Windows
- Mide por sí mismo el reparto de hilos, GPU y NPU en cada equipo
- Incluye servidor al estilo OpenAI, servidor MCP y biblioteca en C
Lo malo
- Las grandes ventajas sobre llama.cpp son datos propios en un solo portátil
- Un único mantenedor; todavía no puede fusionar código ajeno
- Solo Vulkan, con errores de salida en varias GPU
- Sin macOS ni ARM; experimental, con comandos que cambian cada semana
Ideal para
Usuarios de x86-64 que quieren un modelo de mezcla de expertos más grande que su RAM, como Qwen3-Next-80B en un portátil de 32 GB, y aceptan software experimental.
Alternativas a Janas
Janas: preguntas frecuentes
- ¿Merece la pena Janas?
- De verdad ejecuta un modelo de 80B en un portátil de 32 GB, pero las grandes ventajas sobre llama.cpp las mide el propio autor y todo es el experimento de una sola persona. Le damos un 3.6 sobre 5.
- ¿Cuánto cuesta Janas?
- Gratuito y de código abierto bajo GPL-3.0 o posterior. Sin edición de pago.
- ¿Qué inconvenientes tiene Janas?
- Las grandes ventajas sobre llama.cpp son datos propios en un solo portátil; un único mantenedor; todavía no puede fusionar código ajeno; solo Vulkan, con errores de salida en varias GPU; sin macOS ni ARM; experimental, con comandos que cambian cada semana.
- ¿Para quién es Janas?
- Usuarios de x86-64 que quieren un modelo de mezcla de expertos más grande que su RAM, como Qwen3-Next-80B en un portátil de 32 GB, y aceptan software experimental.
- ¿Cuánto cuesta Janas para un equipo o en producción?
- No hay edición de pago, así que el coste es el hardware: el equipo de referencia es un portátil de 32 GB con un SSD NVMe que lee a unos 5,7 GB/s, y discos más lentos o un equipo ocupado reducen la velocidad. Como el servidor solo mantiene una secuencia, escalar a muchos usuarios supone un equipo por cada usuario simultáneo.
- ¿Es Janas seguro para los datos de la empresa?
- Funciona en local y solo escribe en ~/.cache/janas y donde pongas los modelos convertidos; no se describe telemetría. El servidor escucha por defecto en 127.0.0.1 sin API key. GPL-3.0 o posterior para el código; los modelos convertidos conservan sus propias licencias (Apache 2.0 en Qwen, la Qwen Community License en Qwen3.8-Flash-Next, la no comercial CC BY-NC-SA en DeepNSM).
- ¿Cuáles son las mejores alternativas a Janas?
- Las alternativas más cercanas que hemos analizado son llama.cpp, Ollama y llamafile.
Respuestas comprobadas el 31 oct 2026.