Étape 15 sur 22
Fine-tuning
Adapter un modèle ouvert à vos données, à votre ton ou à votre tâche. Le fine-tuning corrige le style et des compétences ciblées à peu de frais. C'est un mauvais moyen d'ajouter des faits ; c'est le rôle de la recherche.
Par Andrew Miller · Vérifié le 19 oct. 2026 · Notre méthode d’évaluation
Comment choisir
- Un GPU et un petit budget : des outils LoRA conçus pour l'efficacité.
- Entraînement reproductible sur plusieurs GPU : des frameworks pilotés par configuration.
- Styles d'image et personnages : des entraîneurs LoRA pour modèles de diffusion.
Ce qu’il faut regarder
Les questions qui départagent les options, par ordre d’importance.
01
LoRA ou QLoRA d'abord, le fine-tuning complet seulement avec une raison
LoRA entraîne de petits poids d'adaptateur au-dessus d'un modèle figé ; QLoRA fait de même sur un modèle chargé en 4 bits, ce qui tient dans bien moins de mémoire. Le fine-tuning complet met à jour tous les poids et ne se justifie que lorsque le comportement du modèle doit changer en profondeur. Essayez d'abord LoRA : c'est moins cher, plus rapide à itérer, et l'adaptateur peut être activé ou retiré au moment du service. Les services gérés comme Together AI font de LoRA l'option par défaut pour la même raison.
02
La mémoire GPU, calculée avant de louer
La mémoire décide du GPU, et du nombre de GPU, dont vous avez besoin. Les estimations publiées par LlamaFactory pour un modèle de 7B sont un bon ordre de grandeur : environ 120 GB pour un fine-tuning complet en précision mixte, 60 GB en bf16 pur, 16 GB pour LoRA et 6 GB pour QLoRA en 4 bits. Extrapolez à peu près selon le nombre de paramètres, et prévoyez de la marge pour les longues séquences. Les promesses de vitesse et de VRAM des fournisseurs, comme celle d'Unsloth (2x plus rapide avec 70 % de mémoire en moins), sont à considérer comme des maximums qui varient selon le modèle.
03
Les méthodes d'entraînement dont vous aurez vraiment besoin
Le SFT (fine-tuning supervisé sur des exemples de réponses) couvre l'essentiel du travail de style et de format. Les méthodes de préférence comme DPO, KTO et ORPO apprennent au modèle laquelle de deux réponses est la meilleure. Les méthodes de RL comme GRPO récompensent les bonnes réponses sur des tâches vérifiables comme les mathématiques ou le code. Vérifiez que l'outil prend en charge la méthode dont vous avez besoin maintenant et celle dont vous aurez probablement besoin ensuite : LlamaFactory, par exemple, renvoie les utilisateurs de GRPO vers un projet séparé, tandis que TRL, Axolotl et Unsloth le prennent en charge directement.
04
Un GPU ou plusieurs
L'efficacité sur un seul GPU et la montée en charge sur plusieurs GPU sont des problèmes différents. Unsloth est conçu pour faire tenir une exécution sur une seule carte. Axolotl traite FSDP2, DeepSpeed, le multi-nœud et le parallélisme de séquence comme des fonctions de premier plan, ce qui compte dès qu'un modèle ou un contexte ne tient plus sur un GPU. TRL hérite de DDP, DeepSpeed et FSDP via Accelerate. Si vous prévoyez de dépasser un GPU, choisissez un outil dont la voie distribuée est documentée plutôt qu'ajoutée après coup.
05
Configuration, code ou interface
Les outils pilotés par YAML (Axolotl, LlamaFactory) rendent les exécutions reproductibles et faciles à partager ; beaucoup de fiches de modèles publient la configuration Axolotl exacte. Les bibliothèques (TRL, Transformers) donnent le contrôle total de la boucle d'entraînement pour la recherche ou les pipelines inhabituels, au prix de plus de code. Les interfaces (LlamaBoard de LlamaFactory, Unsloth Studio, AI Toolkit) abaissent la barrière pour les expériences. Choisissez selon qui relancera la tâche dans six mois.
06
Couverture des modèles et vitesse d'arrivée des nouveaux
Un outil n'est utile que s'il prend en charge le modèle de base voulu, y compris son modèle de chat et ses éventuelles parties vision. Transformers reçoit généralement les nouvelles architectures en premier et les outils d'entraînement suivent ; LlamaFactory liste plus de 100 modèles de langage et vision-langage. Regardez dans le changelog à quelle vitesse les derniers grands modèles ouverts ont été pris en charge, pas seulement la liste actuelle.
07
Chemin d'export vers votre stack de service
L'entraînement n'est que la moitié du travail. Vérifiez que le résultat peut être fusionné et exporté dans le format que charge votre moteur d'inférence : Safetensors pour vLLM et SGLang, GGUF pour llama.cpp et Ollama. Unsloth exporte directement en GGUF ; les services gérés comme Together AI permettent de télécharger les poids ou de les servir sur un endpoint dédié. Une exécution que vous ne pouvez pas servir à moindre coût est perdue.
08
Licence de l'outil et du modèle de base
La plupart des frameworks présentés ici sont sous Apache 2.0 ou MIT, mais l'interface optionnelle Studio d'Unsloth est sous AGPL-3.0, ce qui compte si vous l'intégrez à un produit. La contrainte principale est généralement le modèle de base : sa licence s'applique à votre fine-tune, y compris d'éventuelles restrictions d'usage ou règles de nommage.
Ce qui distingue les options
Les options se répartissent en quatre familles. Les bibliothèques d'entraînement (TRL, Transformers) sont du code Python que vous assemblez vous-même ; elles reçoivent les nouvelles méthodes en premier et donnent un contrôle total, mais l'optimisation mémoire et la configuration distribuée vous reviennent. Les frameworks à recettes (Axolotl, LlamaFactory) enveloppent ces bibliothèques dans des configurations YAML ou une interface web : une exécution tient en un fichier et une commande ; Axolotl penche vers le passage à l'échelle multi-GPU, LlamaFactory vers l'étendue des modèles et une interface sans code. Les outils axés sur l'efficacité (Unsloth) réécrivent les noyaux GPU pour faire tenir de plus gros modèles sur une seule carte.
Deux cas à part complètent le tableau. AI Toolkit entraîne des LoRA pour des modèles de diffusion d'images et de vidéos, un travail différent de l'ajustement d'un modèle de langage. Les API de fine-tuning gérées comme celle de Together AI suppriment entièrement les GPU : vous envoyez les données, payez par token d'entraînement et obtenez un endpoint ou des poids téléchargeables, au prix de moins de méthodes (GRPO, par exemple, est hors de son service géré) et de moins de contrôle.
8 outils comparés
Classés selon notre note. Ouvrez un avis pour voir les sources, les prix et le verdict complet.
| Outil | Note | Notre verdict | Idéal pour | Prix |
|---|---|---|---|---|
| Hugging Face Transformersdépôt | 4.8/5 | Presque chaque outil de modèles ouverts lit son code de modèle depuis Transformers, ce qui le rend essentiel à connaître et rarement la chose avec laquelle vous servez. | Les développeurs Python et chercheurs qui travaillent avec des modèles ouverts à n'importe quel niveau. | Gratuit et open source sous la licence Apache 2.0. Hugging Face vend les offres du Hub et l'inférence hébergée séparément. |
| Unslothdépôt | 4.6/5 | Unsloth transforme une seule carte de 24 Go en une machine de fine-tuning crédible, et cesse d'être le choix évident au deuxième serveur. | Les individus et petites équipes qui fine-tunent des modèles ouverts sur du matériel GPU limité. | Gratuit. Bibliothèque du cœur Apache 2.0 ; interface Studio AGPL-3.0. Des paliers Pro et Enterprise payants existent pour l'entraînement multi-GPU et multi-nœuds ; les prix ne sont pas publiés. |
| TRLdépôt | 4.5/5 | TRL est le code de post-entraînement que les outils de fine-tuning plus conviviaux enveloppent ; allez-y directement quand c'est la boucle d'entraînement elle-même que vous avez besoin de changer. | Les ingénieurs ML et chercheurs qui construisent des pipelines de post-entraînement personnalisés. | Gratuit et open source sous la licence Apache 2.0. |
| Together AIoutil | 4.5/5 | Together fait tourner les modèles ouverts à chaque étape sur une seule facture, d'une recharge API de 15 $ à un cluster H100 réservé, et son matériel dédié coûte moins cher que ce que facturent les hébergeurs spécialisés. | Les équipes qui construisent sur des modèles ouverts et veulent passer des appels API à l'affinage et à leurs propres GPU avec un seul fournisseur. | Prépayé, premier achat de 15 $ minimum, pas d'essai gratuit. Par million de tokens, par exemple gpt-oss-120B à 0,15 $ en entrée / 0,60 $ en sortie, Kimi K3 à 3 $ / 15 $ ; jusqu'à 50 % de réduction par lots. Endpoints dédiés : H100 à 5,49 $ de l'heure, B200 à 8,99 $ de l'heure. Clusters GPU : H100 à 3,99 $ de l'heure à la demande, 1,99 $ en préemptible. Affinage à partir de 0,34 $ par million de tokens. |
| Axolotldépôt | 4.3/5 | Axolotl est là où va le fine-tuning quand un seul GPU ne suffit plus : un fichier YAML, chaque stratégie de parallélisme, et une courbe d'apprentissage à la hauteur. | Les praticiens qui lancent des fine-tunes répétables, surtout sur plusieurs GPU. | Gratuit et open source sous la licence Apache 2.0. |
| LlamaFactorydépôt | 4.3/5 | LlamaFactory transforme le fine-tuning en un formulaire web sur plus de 100 modèles ouverts, ce qui convient mieux aux expériences qu'à un pipeline de production épinglé. | Les gens qui veulent fine-tuner de nombreux modèles ouverts différents via une interface graphique. | Gratuit et open source sous la licence Apache 2.0. |
| Roboflowoutil | 4.3/5 | Roboflow mène une équipe d'usine ou d'entrepôt d'un dossier de photos à un modèle de détection fonctionnel plus vite que tout autre outil, à condition que quelqu'un désactive son droit par défaut d'utiliser vos images. | Les équipes des opérations, de production et produit qui ont besoin d'un modèle de détection d'objets ou d'inspection sur mesure sans construire de chaîne ML. | Gratuit (10 crédits par mois) ; Core de 39 $ par mois (20 crédits) jusqu'à 1 399 $ par mois (500 crédits), de 3,90 $ à 2,86 $ le crédit ; Enterprise sur devis. Inférence auto-hébergée gratuite sur toutes les offres. |
| AI Toolkitdépôt | 4.2/5 | AI Toolkit est l'endroit où la prise en charge d'un nouveau modèle ouvert d'image ou de vidéo atterrit généralement en premier, et il attend que vous apportiez le GPU et la patience. | Les créateurs qui entraînent des LoRA pour des modèles ouverts d'image et de vidéo. | Gratuit et open source sous MIT. Ostris Cloud loue des GPU préconfigurés à la seconde, de 0,71 $/heure (A40 48 GB) à 2,99 $/heure (RTX PRO 6000 96 GB). |
Côte à côte
Les caractéristiques qui comptent pour cette étape. Vérifiées le 19 oct. 2026 ; confirmez-les sur le site du fournisseur avant de vous engager.
| Outil | Interface | Méthodes | LoRA / QLoRA / complet | Multi-GPU | Matériel | Licence |
|---|---|---|---|---|---|---|
| Hugging Face Transformers | Bibliothèque Python (Trainer) | Entraînement supervisé | Complet ; LoRA via PEFT | DDP, DeepSpeed, FSDP | Appareils PyTorch | Apache 2.0 |
| Unsloth | Bibliothèque Python, interface Studio, bureau | SFT, DPO, GRPO, GSPO, pré-entraînement | LoRA, QLoRA, complet, FP8 | Pris en charge (configuration dans la documentation) | GPU NVIDIA, AMD, Intel | Cœur Apache 2.0 ; Studio AGPL-3.0 |
| TRL | Bibliothèque Python + CLI | SFT, DPO, KTO, GRPO, reward | LoRA/QLoRA via PEFT, complet | DDP, DeepSpeed, FSDP (Accelerate) | GPU PyTorch, AWS Trainium | Apache 2.0 |
| Together AI | API gérée | SFT, DPO (GRPO via un produit séparé) | LoRA (par défaut), complet | Géré | GPU de Together | Payant, par token d'entraînement |
| Axolotl | Configuration YAML + CLI | SFT, DPO, KTO, ORPO, GRPO, reward | LoRA, QLoRA, complet, QAT | FSDP2, DeepSpeed, multi-nœud | NVIDIA (Ampere+), AMD | Apache 2.0 |
| LlamaFactory | Interface web + CLI YAML | SFT, RM, PPO, DPO, KTO, ORPO, SimPO | LoRA, QLoRA 2–8 bits, gel, complet | DeepSpeed, FSDP, Megatron | NVIDIA, AMD, NPU Ascend | Apache 2.0 |
| AI Toolkit | Configuration YAML + interface web | Entraînement LoRA pour diffusion | LoRA (modèles d'image et de vidéo) | Non publié | GPU haut de gamme en général | MIT |
Où s’insère cette étape
- Pipeline de génération d'images : nous commencerions par AI Toolkit.
- Votre propre modèle fine-tuné : nous commencerions par Unsloth, Axolotl.