¿Qué es llamafile?
llamafile convierte un modelo abierto en un único archivo que puedes descargar y ejecutar. Combina llama.cpp con Cosmopolitan Libc, de modo que el mismo archivo funciona en macOS, Windows, Linux, FreeBSD, OpenBSD y NetBSD, tanto en CPU x86-64 como ARM64.
Nació como proyecto de Mozilla Builders y lo mantiene Mozilla.ai. Tras un parón entre la 0.9.3, de mayo de 2025, y la 0.10.0, de marzo de 2026, la serie 0.10 pasó a un nuevo sistema de compilación que sigue de cerca a llama.cpp; la documentación dice que trae soporte para modelos más recientes, pero que puede carecer de algunas funciones de la 0.9 y no se ha probado en todas las GPU y plataformas.
Incluye también whisperfile, una herramienta de voz a texto en un solo archivo basada en whisper.cpp. El proyecto es Apache 2.0; sus cambios en llama.cpp y whisper.cpp son MIT.
¿Merece la pena llamafile?
llamafile resuelve la distribución, no la inferencia. Un ejecutable contiene el motor y, si quieres, los pesos; en macOS y Linux lo marcas como ejecutable y lo lanzas, en Windows le cambias el nombre a .exe. Tiene unas 26.500 estrellas en GitHub y ha publicado siete versiones 0.10 desde marzo de 2026, la última el 15 de septiembre.
La portabilidad tiene sus límites. Windows no ejecuta archivos de más de 4 GB, así que cualquier cosa por encima de un modelo pequeño cuantizado necesita el binario solo más un archivo GGUF aparte, o WSL. Las CPU x86-64 deben tener AVX. El soporte de GPU cubre Metal, CUDA, ROCm y Vulkan, pero la documentación califica las rutas de AMD y Windows como de mejor esfuerzo, y si un backend no carga, llamafile vuelve sin avisar a la CPU salvo que fuerces uno con --gpu.
El diseño de seguridad es más cuidadoso que el de la mayoría de los ejecutores locales. En modo --server aplica un sandbox pledge en Linux y OpenBSD que bloquea las conexiones salientes y la escritura de archivos, y --confine-reads oculta todo lo que está fuera del directorio del modelo. La documentación es franca sobre los huecos: no hay ningún sandbox con una GPU activada, tampoco en macOS ni en Windows, ni en el modo combinado por defecto. El servidor escucha en 127.0.0.1:8080 por defecto, y --host 0.0.0.0 lo abre a la red sin clave de API salvo que definas --api-key.
Para el trabajo diario, llama.cpp recibe antes los modelos y las opciones nuevas, y Ollama gestiona mejor los modelos. El nicho de llamafile es la entrega: un USB para un taller, un portátil sin conexión en el trabajo de campo, una demo para un compañero que nunca instalará Python. En ese nicho, el techo de 4 GB en Windows es la limitación que más pesa.
Dónde se gana su sitio
Un ingeniero de relaciones con desarrolladores que imparte un taller de 40 plazas
Que todos los asistentes chateen con un modelo local en cinco minutos, traigan el portátil que traigan
Repartir un llamafile pequeño ya compilado, como Qwen3.5 0.8B, por debajo de 4 GB para que funcione también en Windows. Sin Python ni gestor de paquetes; el coste es elegir un modelo lo bastante pequeño para el portátil más débil.
Una investigadora de campo que trabaja sin internet
Transcribir entrevistas y resumir notas en un portátil sin conexión
Llevar un whisperfile y un llamafile en el disco y ejecutar ambos en CPU. Nada sale de la máquina; cabe esperar una salida lenta en CPU antiguas, y en x86-64 se requiere AVX.
Un responsable de TI en una empresa de 50 personas que prueba IA local bajo una política sin nube
Dar a la plantilla un endpoint de chat interno sin enviar datos a un proveedor
Ejecutar --server en una máquina Linux con --confine-reads, guardar los pesos en su propio directorio y poner un proxy inverso delante del puerto 8080. El sandbox solo se aplica en modo CPU, así que un servidor con GPU necesita su propio aislamiento.
Antes de decidirte
- Puesta en marcha
- Descarga un .llamafile, chmod +x y ejecútalo (cámbiale el nombre a .exe en Windows); o descarga el binario solo y apunta -m a cualquier GGUF. El modelo de ejemplo de 0.8B responde en minutos en la CPU de un portátil.
- Integraciones
- Servidor e interfaz web de llama.cpp con un endpoint compatible con OpenAI en el puerto 8080; modos de terminal --cli y --chat; herramientas integradas opcionales y un proxy MCP; whisperfile para transcripción.
- Datos y privacidad
- Funciona en local; la documentación no menciona telemetría y una búsqueda en el código en GitHub no encuentra código de telemetría. El modo servidor en Linux bloquea las conexiones salientes y las escrituras, pero el modo GPU, macOS, Windows y el modo combinado por defecto funcionan sin sandbox, y un llamafile de origen no fiable puede quitar el sandbox.
- Coste a escala
- Gratuito, sin edición de pago de Mozilla.ai. El hardware es cualquiera que mueva el modelo: una CPU x86-64 con AVX o ARMv8 con RAM suficiente para los pesos y, opcionalmente, una GPU con Metal, CUDA, ROCm o Vulkan.
- Límites
- 216 incidencias y pull requests abiertas; límite de 4 GB por ejecutable en Windows; el CUDA incluido carece de kernels para cuantizaciones IQ; el uso de varias GPU puede fallar en AMD; los ejemplos de la 0.9 no están probados en la 0.10.
Lo bueno
- Un solo archivo, sin instalación
- Funciona en seis sistemas operativos, x86-64 y ARM64
- El sandbox del servidor bloquea la red saliente en Linux
- Incluye voz a texto mediante whisperfile
Lo malo
- Límite de 4 GB por ejecutable en Windows
- Sin sandbox con la GPU activada, ni en macOS y Windows
- Vuelve a la CPU sin avisar si falla un backend de GPU
- La reconstrucción de la 0.10 eliminó algunas funciones de la 0.9
Ideal para
Quienes necesitan compartir o ejecutar un modelo local sin ninguna configuración, también sin conexión.
Alternativas a llamafile
llamafile: preguntas frecuentes
- ¿Merece la pena llamafile?
- La forma más sencilla de entregar a alguien un modelo local que funcione, aunque menos capaz que el llama.cpp que envuelve. Le damos un 3.9 sobre 5.
- ¿Cuánto cuesta llamafile?
- Gratuito y de código abierto bajo licencia Apache 2.0, con cambios en llama.cpp bajo licencia MIT.
- ¿Qué inconvenientes tiene llamafile?
- Límite de 4 GB por ejecutable en Windows; sin sandbox con la GPU activada, ni en macOS y Windows; vuelve a la CPU sin avisar si falla un backend de GPU; la reconstrucción de la 0.10 eliminó algunas funciones de la 0.9.
- ¿Para quién es llamafile?
- Quienes necesitan compartir o ejecutar un modelo local sin ninguna configuración, también sin conexión.
- ¿Cuánto cuesta llamafile para un equipo o en producción?
- Gratuito, sin edición de pago de Mozilla.ai. El hardware es cualquiera que mueva el modelo: una CPU x86-64 con AVX o ARMv8 con RAM suficiente para los pesos y, opcionalmente, una GPU con Metal, CUDA, ROCm o Vulkan.
- ¿Es llamafile seguro para los datos de la empresa?
- Funciona en local; la documentación no menciona telemetría y una búsqueda en el código en GitHub no encuentra código de telemetría. El modo servidor en Linux bloquea las conexiones salientes y las escrituras, pero el modo GPU, macOS, Windows y el modo combinado por defecto funcionan sin sandbox, y un llamafile de origen no fiable puede quitar el sandbox.
- ¿Cuáles son las mejores alternativas a llamafile?
- Las alternativas más cercanas que hemos analizado son llama.cpp y Ollama.
Respuestas comprobadas el 26 oct 2026.