Qu’est-ce que Axolotl ?
Axolotl est un framework de post-entraînement open source pour LLM piloté par un seul fichier YAML : vous définissez le modèle de base, le format du jeu de données et la méthode, puis lancez `axolotl train`. La même configuration couvre le prétraitement, l'entraînement, l'évaluation, la quantisation et l'inférence, et `axolotl export` produit désormais des fichiers GGUF pour llama.cpp et Ollama.
Il couvre le fine-tuning complet, LoRA et QLoRA, l'entraînement conscient de la quantisation jusqu'à NVFP4 et MXFP4, le réglage par préférence (DPO, IPO, KTO, ORPO), l'apprentissage par renforcement (GRPO, GDPO) et les modèles de récompense, pour les modèles texte, vision-langage et audio. Le passage à l'échelle utilise DeepSpeed, FSDP2 et un parallélisme composable de tenseur, de contexte et d'experts sur plusieurs nœuds.
Il a besoin d'un GPU Nvidia (Ampere ou plus récent pour le bf16 et Flash Attention) ou d'un GPU AMD, de Python 3.12 et de PyTorch 2.13 ou ultérieur. La version 0.21.0 est sortie le 16 octobre 2026 sous Apache 2.0.
Axolotl vaut-il le coup ?
L'argument d'Axolotl repose sur la reproductibilité à l'échelle. Une exécution est un seul fichier YAML que quelqu'un d'autre peut relancer, et le même format s'étire d'un LoRA sur une seule carte à un entraînement multi-nœuds qui compose FSDP2 avec le parallélisme de tenseur, de contexte et d'experts. À environ 12 600 étoiles GitHub, il est bien plus petit qu'Unsloth (environ 78 500) ou LlamaFactory (environ 75 700), mais ses configurations apparaissent sur des fiches de modèles publiées parce qu'elles sont faciles à partager.
La rapidité de prise en charge des modèles est son autre argument de vente. Rien qu'en septembre et octobre 2026, le README liste MiniCPM5, Qwen3.6 et Beam de Reflection, le chargement QLoRA FSDP2 avec mise en scène CPU pour les modèles plus grands que la mémoire d'un GPU, l'export GGUF, et un mode à parallélisme d'experts qui entraîne les modèles à mélange d'experts sur NVLink ou PCIe sans DeepEP. Le GRPO asynchrone, ajouté en avril, est documenté comme jusqu'à 58 % plus rapide par étape.
La télémétrie est activée par défaut, ce qui compte sur les clusters partagés. Axolotl envoie à PostHog les détails de son système et de son matériel, des métriques d'exécution, des noms de modèles et des configurations sur liste blanche, et des traces d'erreur assainies, et met en pause le démarrage pendant 10 secondes pour le signaler, sauf si vous définissez AXOLOTL_DO_NOT_TRACK=1. La documentation dit qu'aucune donnée personnelle ni chemin de fichier n'est collecté.
Le coût est l'expertise. Une longue référence de configuration, des épinglages de version sur Python et PyTorch, et le vocabulaire de l'entraînement distribué sont des connaissances supposées, et il n'y a pas d'interface web du genre de celle qu'offre LlamaFactory ; l'image Docker supprime la plupart des soucis d'environnement. Pour un premier LoRA sur une seule carte, Unsloth et LlamaFactory sont des départs plus doux. Passé ce point, l'éventail de parallélisme d'Axolotl est la raison d'accepter la courbe.
Là où il fait la différence
Un ingénieur ML dans une start-up legal-tech qui loue un nœud à 8 GPU
Fine-tuner un grand modèle ouvert sur des données contractuelles avec des exécutions reproductibles
Écrivez un seul YAML avec QLoRA et FSDP2, utilisez le chargement avec mise en scène CPU pour que chaque GPU n'ait pas à tenir une copie quantisée complète, et committez le fichier à côté de la version du jeu de données. Axolotl est gratuit sous Apache 2.0 ; la facture est les heures GPU, et la configuration rend les relances après un rafraîchissement de données routinières.
Un chercheur qui ajoute un comportement de raisonnement à un petit modèle
Lancer GRPO avec une fonction de récompense personnalisée sur un GPU de poste de travail
Partez des exemples fournis (axolotl fetch examples), passez la méthode à GRPO et pointez-la vers la fonction de récompense ; le GRPO asynchrone est documenté comme jusqu'à 58 % plus rapide par étape. Il a besoin d'une carte Nvidia Ampere ou plus récente pour le bf16 et Flash Attention.
Une équipe produit dans une entreprise de 30 personnes qui livre un assistant sur appareil
Transformer un modèle fine-tuné en quelque chose qui tourne dans Ollama
Entraînez un LoRA, fusionnez-le, puis utilisez axolotl export pour écrire un GGUF quantisé pour llama.cpp ou Ollama, remplaçant une chaîne d'outils de conversion séparée. Définissez AXOLOTL_DO_NOT_TRACK=1 si les configurations ou les choix de modèles sont commercialement sensibles.
Avant de vous engager
- Mise en route
- Installation basée sur uv (le build PyTorch correspondant, puis `uv pip install --no-build-isolation axolotl[deepspeed]`) ou l'image Docker axolotlai/axolotl, que le README qualifie de moins sujette aux erreurs. `axolotl fetch examples` et `axolotl train examples/llama-3/lora-1b.yml` donnent une première exécution ; un notebook Colab couvre le cas sans matériel.
- Intégrations
- Modèles et jeux de données Hugging Face ; données S3, Azure, GCP et OCI ; DeepSpeed et FSDP2 ; export GGUF pour llama.cpp et Ollama ; plugins de lancement cloud dont Nebius Serverless Jobs et des templates sur RunPod, Vast.ai et Modal ; documentation d'agent fournie via `axolotl agent-docs`.
- Données et confidentialité
- Tourne sur votre matériel. La télémétrie PostHog avec désactivation envoie le système, le matériel, des métriques d'exécution, des noms de modèles sur liste blanche, des configurations et des erreurs assainies ; AXOLOTL_DO_NOT_TRACK=1 la désactive. Apache 2.0 autorise l'usage commercial, même si les licences des modèles de base s'appliquent toujours. Aucun avis de sécurité n'est publié sur le dépôt.
- Coût à grande échelle
- Le logiciel est gratuit ; le coût est les GPU. Axolotl ne publie aucun tableau de VRAM par modèle, alors dimensionnez les travaux à partir d'une exécution d'essai ; le travail multi-nœuds est facturé au tarif horaire GPU de votre cloud. Un support dédié est disponible par arrangement avec les mainteneurs, à des prix non publiés.
- Limites
- Pas de GUI ; exigences Python 3.12 et PyTorch 2.13+ ; environ 250 issues ouvertes ; l'entraînement multimodal a été lancé en beta.
Les points forts
- Un fichier YAML reproductible par exécution
- FSDP2, DeepSpeed et parallélisme N-D sur plusieurs nœuds
- SFT, DPO, GRPO, QAT et modèles de récompense
- Prise en charge rapide des nouveaux modèles ; export GGUF
Les points faibles
- Pas d'interface graphique
- Télémétrie activée par défaut
- Suppose des connaissances en entraînement distribué
- GPU Nvidia ou AMD uniquement
Idéal pour
Les praticiens qui lancent des fine-tunes répétables, surtout sur plusieurs GPU.
Alternatives à Axolotl
Axolotl : questions fréquentes
- Axolotl vaut-il le coup ?
- Axolotl est là où va le fine-tuning quand un seul GPU ne suffit plus : un fichier YAML, chaque stratégie de parallélisme, et une courbe d'apprentissage à la hauteur. Nous lui donnons 4.3 sur 5.
- Combien coûte Axolotl ?
- Gratuit et open source sous la licence Apache 2.0.
- Quels sont les inconvénients de Axolotl ?
- Pas d'interface graphique; télémétrie activée par défaut; suppose des connaissances en entraînement distribué; gPU Nvidia ou AMD uniquement.
- À qui s’adresse Axolotl ?
- Les praticiens qui lancent des fine-tunes répétables, surtout sur plusieurs GPU.
- Combien coûte Axolotl pour une équipe ou en production ?
- Le logiciel est gratuit ; le coût est les GPU. Axolotl ne publie aucun tableau de VRAM par modèle, alors dimensionnez les travaux à partir d'une exécution d'essai ; le travail multi-nœuds est facturé au tarif horaire GPU de votre cloud. Un support dédié est disponible par arrangement avec les mainteneurs, à des prix non publiés.
- Axolotl est-il sûr pour les données de l’entreprise ?
- Tourne sur votre matériel. La télémétrie PostHog avec désactivation envoie le système, le matériel, des métriques d'exécution, des noms de modèles sur liste blanche, des configurations et des erreurs assainies ; AXOLOTL_DO_NOT_TRACK=1 la désactive. Apache 2.0 autorise l'usage commercial, même si les licences des modèles de base s'appliquent toujours. Aucun avis de sécurité n'est publié sur le dépôt.
- Quelles sont les meilleures alternatives à Axolotl ?
- Les alternatives les plus proches que nous avons testées sont Unsloth, TRL et LlamaFactory.
Réponses vérifiées le 26 oct. 2026.