Qu’est-ce que LlamaFactory ?
LlamaFactory est un framework de fine-tuning qui prend en charge plus de 100 modèles de langage et vision-langage. Vous pouvez configurer et lancer l'entraînement depuis une interface web (LlamaBoard, bâtie sur Gradio) ou depuis la ligne de commande avec des fichiers YAML.
Il prend en charge LoRA, QLoRA de 2 à 8 bits, le fine-tuning par gel et complet, et des méthodes de préférence comme DPO, KTO, ORPO et PPO, et tourne sur GPU NVIDIA, NPU Huawei Ascend et, dans les commits récents, accélérateurs Intel XPU et Biren. Il a été publié comme article à ACL 2024.
La dernière version taguée, v0.9.5, est sortie le 30 mai 2026 et est encore la version sur PyPI ; la branche main est active, avec des commits aussi récents que le 21 octobre 2026.
LlamaFactory vaut-il le coup ?
LlamaFactory est la manière la plus accessible de fine-tuner un large éventail de modèles ouverts sans écrire de code d'entraînement. LlamaBoard vous laisse choisir un modèle, un jeu de données et une méthode, regarder la courbe de perte et discuter avec le résultat, et les mêmes exécutions existent comme fichiers YAML pour llamafactory-cli. Avec environ 75 700 étoiles GitHub, il se situe près d'Unsloth en popularité.
Son tableau de VRAM estimée est la page de planification la plus utile du README. LoRA sur un modèle 7B a besoin d'environ 16 Go et QLoRA 4 bits d'environ 6 Go, tandis que QLoRA 4 bits sur un modèle 70B a besoin d'environ 48 Go et le fine-tuning complet 16 bits de 7B démarre à 60 Go. FSDP avec QLoRA fait tenir un modèle 70B sur deux GPU de 24 Go, et le blog du projet décrit le fine-tuning KTransformers de modèles de 1 000 milliards de paramètres sur deux RTX 4090 plus la mémoire CPU. La prise en charge des NPU Ascend, avec des images Docker prêtes, est une vraie raison de le choisir plutôt que des outils CUDA uniquement.
L'histoire des versions est plus faible. La v0.9.5 de mai est encore le dernier tag et la dernière version PyPI, si bien que quiconque veut la prise en charge de modèles récents installe depuis main, et certains modèles ont besoin de transformers depuis sa branche main aussi. Le changelog du README anglais s'arrête en octobre 2025, si bien que la documentation et le code peuvent diverger.
Le côté service a besoin de soin. Quatre avis de sécurité GitHub ont été publiés, trois notés élevés, dont une exécution de code à distance en juin 2025 et un SSRF avec lecture de fichier local dans l'API de chat en octobre 2025. L'interface web et l'API façon OpenAI ont leur place sur une machine de confiance, pas sur l'internet ouvert. Face à ses voisins, Unsloth poursuit la vitesse et la mémoire sur GPU unique et Axolotl est le choix habituel pour les exécutions multi-nœuds reproductibles ; le pari de LlamaFactory est l'ampleur derrière une seule interface, ce qui est aussi pourquoi son panneau d'options submerge les nouveaux utilisateurs.
Là où il fait la différence
Un ingénieur ML avec un seul RTX 4090 de 24 Go
Fine-tuner un modèle de 7B à 14B sur des transcriptions de support internes
Utilisez LoRA (environ 16 Go pour 7B) ou QLoRA 4 bits (environ 12 Go pour 14B) depuis LlamaBoard ou un fichier YAML, puis servez l'adaptateur via l'API façon OpenAI intégrée avec vLLM. Pas de frais de licence ; le coût est votre propre temps GPU.
Un laboratoire universitaire qui tourne sur du matériel Huawei Ascend 910B
Fine-tuner des modèles Qwen ou GLM sans CUDA
Tirez les images Docker Ascend (builds Ubuntu ou openEuler) et suivez le guide d'installation NPU. Peu d'outils de fine-tuning documentent la prise en charge NPU aussi complètement, ce qui épargne au laboratoire le portage du code d'entraînement.
Un chef de produit dans une banque qui teste si le fine-tuning bat le prompting
Comparer plusieurs modèles ouverts rapidement sans qu'une équipe ML écrive du code
LlamaBoard laisse un analyste échanger modèles et méthodes depuis un formulaire, avec DPO et KTO pour le réglage par préférence. Les poids des modèles gardent leurs propres licences, comme les conditions de Llama ou Gemma, que le juridique doit valider avant la production.
Avant de vous engager
- Mise en route
- Clonez et pip install -e . (Python 3.11 ou plus récent, PyTorch 2.x, CUDA 11.6 ou plus récent), ou docker run --gpus=all hiyouga/llamafactory:latest ; llamafactory-cli webui ouvre ensuite LlamaBoard sur le port 7860.
- Intégrations
- Modèles et jeux de données Hugging Face et ModelScope ; DeepSpeed, FSDP et Megatron-core ; kernels FlashAttention-2, Unsloth et Liger ; journalisation TensorBoard, Weights & Biases, MLflow et SwanLab ; inférence vLLM ou SGLang derrière une API façon OpenAI.
- Données et confidentialité
- Tourne localement ; les données ne partent que si vous activez un logger cloud comme Weights & Biases ou SwanLab ou tirez des jeux de données Hugging Face à accès restreint. Le code est Apache-2.0, mais les poids de chaque modèle portent leur propre licence. Quatre avis de sécurité à ce jour, dont un RCE.
- Coût à grande échelle
- Logiciel gratuit, si bien que le matériel est la facture. Selon les estimations du README, QLoRA 4 bits sur un modèle 70B a besoin d'environ 48 Go (un GPU de 80 Go) et LoRA 16 bits d'environ 160 Go (au moins deux), tandis que l'entraînement complet en bf16 pur de 70B a besoin d'environ 600 Go.
- Limites
- Les versions taguées sont en retard de plusieurs mois sur main ; les nouveaux modèles ont souvent besoin de transformers depuis main ; 1 202 issues et pull requests ouvertes ; l'ampleur des options rend la mauvaise configuration facile.
Les points forts
- Interface web Gradio et CLI YAML pour les mêmes exécutions
- Plus de 100 modèles texte et vision-langage
- Estimations de VRAM publiées par méthode et taille de modèle
- Prise en charge NVIDIA, NPU Ascend et Intel XPU
Les points faibles
- Dernière version taguée en mai 2026
- Avis RCE et SSRF passés dans le code de service
- La documentation anglaise est en retard sur le code
- Beaucoup d'options à naviguer
Idéal pour
Les gens qui veulent fine-tuner de nombreux modèles ouverts différents via une interface graphique.
Alternatives à LlamaFactory
LlamaFactory : questions fréquentes
- LlamaFactory vaut-il le coup ?
- LlamaFactory transforme le fine-tuning en un formulaire web sur plus de 100 modèles ouverts, ce qui convient mieux aux expériences qu'à un pipeline de production épinglé. Nous lui donnons 4.3 sur 5.
- Combien coûte LlamaFactory ?
- Gratuit et open source sous la licence Apache 2.0.
- Quels sont les inconvénients de LlamaFactory ?
- Dernière version taguée en mai 2026; avis RCE et SSRF passés dans le code de service; la documentation anglaise est en retard sur le code; beaucoup d'options à naviguer.
- À qui s’adresse LlamaFactory ?
- Les gens qui veulent fine-tuner de nombreux modèles ouverts différents via une interface graphique.
- Combien coûte LlamaFactory pour une équipe ou en production ?
- Logiciel gratuit, si bien que le matériel est la facture. Selon les estimations du README, QLoRA 4 bits sur un modèle 70B a besoin d'environ 48 Go (un GPU de 80 Go) et LoRA 16 bits d'environ 160 Go (au moins deux), tandis que l'entraînement complet en bf16 pur de 70B a besoin d'environ 600 Go.
- LlamaFactory est-il sûr pour les données de l’entreprise ?
- Tourne localement ; les données ne partent que si vous activez un logger cloud comme Weights & Biases ou SwanLab ou tirez des jeux de données Hugging Face à accès restreint. Le code est Apache-2.0, mais les poids de chaque modèle portent leur propre licence. Quatre avis de sécurité à ce jour, dont un RCE.
- Quelles sont les meilleures alternatives à LlamaFactory ?
- Les alternatives les plus proches que nous avons testées sont Unsloth, Axolotl et TRL.
Réponses vérifiées le 23 oct. 2026.