Qu’est-ce que llamafile ?
llamafile transforme un modèle ouvert en un seul fichier que vous pouvez télécharger et exécuter. Il combine llama.cpp avec Cosmopolitan Libc, si bien que le même fichier tourne sur macOS, Windows, Linux, FreeBSD, OpenBSD et NetBSD sur les CPU x86-64 et ARM64.
Il a commencé comme projet Mozilla Builders et est maintenu par Mozilla.ai. Après un écart entre 0.9.3 en mai 2025 et 0.10.0 en mars 2026, la série 0.10 est passée à un nouveau système de build qui suit llama.cpp en amont de près ; la documentation dit qu'il apporte la prise en charge de modèles plus récents mais peut manquer de certaines fonctions de 0.9 et n'a pas été testé sur chaque GPU et plateforme.
Il inclut aussi whisperfile, un outil de reconnaissance vocale en un seul fichier basé sur whisper.cpp. Le projet est Apache 2.0 ; ses changements à llama.cpp et whisper.cpp sont MIT.
llamafile vaut-il le coup ?
llamafile résout la distribution, pas l'inférence. Un seul exécutable contient le moteur et, optionnellement, les poids ; sur macOS et Linux vous le marquez exécutable et le lancez, sur Windows vous le renommez en .exe. Il a environ 26 500 étoiles GitHub et a livré sept versions 0.10 depuis mars 2026, la dernière le 15 septembre.
La portabilité a des aspérités. Windows ne lancera pas un exécutable de plus de 4 Go, si bien que tout ce qui dépasse un petit modèle quantisé a besoin du binaire nu plus un fichier GGUF séparé, ou de WSL. Les CPU x86-64 doivent avoir AVX. La prise en charge GPU couvre Metal, CUDA, ROCm et Vulkan, mais la documentation qualifie les chemins AMD et Windows de meilleur effort, et si un backend échoue à se charger, llamafile retombe silencieusement sur le CPU sauf si vous en forcez un avec --gpu.
La conception de sécurité est plus soignée que la plupart des runners locaux. En mode --server, il applique un bac à sable pledge sur Linux et OpenBSD qui bloque les connexions sortantes et les écritures de fichiers, et --confine-reads cache tout hors du répertoire du modèle. La documentation est franche sur les lacunes : il n'y a aucun bac à sable avec un GPU activé, aucun sur macOS ou Windows, et aucun dans le mode combiné par défaut. Le serveur écoute sur 127.0.0.1:8080 par défaut, et --host 0.0.0.0 l'ouvre au réseau sans clé d'API sauf si vous définissez --api-key.
Pour le travail quotidien, llama.cpp lui-même reçoit les nouveaux modèles et flags en premier, et Ollama gère mieux la gestion des modèles. La niche de llamafile est le transfert : une clé USB d'atelier, un portable de terrain hors ligne, une démo pour un collègue qui n'installera jamais Python. Dans cette niche, le plafond de 4 Go sur Windows est la contrainte qui compte le plus.
Là où il fait la différence
Un ingénieur relations développeurs qui anime un atelier de 40 places
Faire discuter chaque participant avec un modèle local en cinq minutes, quel que soit le portable qu'il apporte
Distribuez un petit llamafile préconstruit comme Qwen3.5 0.8B sous 4 Go pour qu'il tourne aussi sur Windows. Pas de Python, pas de gestionnaire de paquets ; le coût est de choisir un modèle assez petit pour le portable le plus faible.
Un chercheur de terrain qui travaille sans internet
Transcrire des entretiens et résumer des notes sur un portable hors ligne
Emportez un whisperfile et un llamafile sur le disque et lancez les deux sur CPU. Rien ne quitte la machine ; attendez-vous à une sortie lente sur les CPU plus anciens, et AVX est requis sur x86-64.
Un responsable informatique dans une entreprise de 50 personnes qui pilote l'IA locale sous une politique no-cloud
Donner au personnel un endpoint de chat interne sans envoyer de données à un fournisseur
Lancez --server sur une machine Linux avec --confine-reads, gardez les poids dans leur propre répertoire et placez le port 8080 derrière un reverse proxy. Le bac à sable ne s'applique qu'en mode CPU, si bien qu'un serveur GPU a besoin de sa propre isolation.
Avant de vous engager
- Mise en route
- Téléchargez un .llamafile, chmod +x et lancez-le (renommez en .exe sur Windows) ; ou téléchargez le binaire nu et pointez -m vers n'importe quel GGUF. Le modèle d'exemple 0.8B répond en quelques minutes sur un CPU de portable.
- Intégrations
- Serveur et interface web llama.cpp avec un endpoint compatible OpenAI sur le port 8080 ; modes terminal --cli et --chat ; outils intégrés optionnels et un proxy MCP ; whisperfile pour la transcription.
- Données et confidentialité
- Tourne localement ; aucune télémétrie n'est mentionnée dans la documentation, et la recherche de code GitHub ne trouve aucun code de télémétrie. Le mode serveur sur Linux bloque les connexions sortantes et les écritures, mais le mode GPU, macOS, Windows et le mode combiné par défaut tournent sans bac à sable, et un llamafile d'une source non fiable peut retirer le bac à sable.
- Coût à grande échelle
- Gratuit, sans édition payante de Mozilla.ai. Le matériel est ce qui fait tourner le modèle : un CPU AVX x86-64 ou ARMv8 avec assez de RAM pour les poids, optionnellement un GPU Metal, CUDA, ROCm ou Vulkan.
- Limites
- 216 issues et pull requests ouvertes ; plafond d'exécutable de 4 Go sur Windows ; le CUDA fourni manque de kernels IQ-quant ; le multi-GPU peut casser sur AMD ; les exemples 0.9 non testés sur 0.10.
Les points forts
- Un fichier, pas d'installation
- Tourne sur six systèmes d'exploitation, x86-64 et ARM64
- Le bac à sable du serveur bloque le réseau sortant sur Linux
- Inclut la reconnaissance vocale via whisperfile
Les points faibles
- Limite d'exécutable de 4 Go sur Windows
- Pas de bac à sable avec GPU activé, ni sur macOS et Windows
- Repli silencieux sur le CPU si un backend GPU échoue
- La reconstruction 0.10 a abandonné certaines fonctions de 0.9
Idéal pour
Les gens qui ont besoin de partager ou de faire tourner un modèle local sans configuration, y compris hors ligne.
Alternatives à llamafile
llamafile : questions fréquentes
- llamafile vaut-il le coup ?
- La manière la plus simple de remettre à quelqu'un un modèle local fonctionnel, mais moins capable que le llama.cpp qu'il enveloppe. Nous lui donnons 3.9 sur 5.
- Combien coûte llamafile ?
- Gratuit et open source sous la licence Apache 2.0, avec des changements sous licence MIT à llama.cpp.
- Quels sont les inconvénients de llamafile ?
- Limite d'exécutable de 4 Go sur Windows; pas de bac à sable avec GPU activé, ni sur macOS et Windows; repli silencieux sur le CPU si un backend GPU échoue; la reconstruction 0.10 a abandonné certaines fonctions de 0.9.
- À qui s’adresse llamafile ?
- Les gens qui ont besoin de partager ou de faire tourner un modèle local sans configuration, y compris hors ligne.
- Combien coûte llamafile pour une équipe ou en production ?
- Gratuit, sans édition payante de Mozilla.ai. Le matériel est ce qui fait tourner le modèle : un CPU AVX x86-64 ou ARMv8 avec assez de RAM pour les poids, optionnellement un GPU Metal, CUDA, ROCm ou Vulkan.
- llamafile est-il sûr pour les données de l’entreprise ?
- Tourne localement ; aucune télémétrie n'est mentionnée dans la documentation, et la recherche de code GitHub ne trouve aucun code de télémétrie. Le mode serveur sur Linux bloque les connexions sortantes et les écritures, mais le mode GPU, macOS, Windows et le mode combiné par défaut tournent sans bac à sable, et un llamafile d'une source non fiable peut retirer le bac à sable.
- Quelles sont les meilleures alternatives à llamafile ?
- Les alternatives les plus proches que nous avons testées sont llama.cpp et Ollama.
Réponses vérifiées le 26 oct. 2026.