Abliteration
L'abliteration (suppression de la direction de refus) est une technique qui empêche un modèle de langage de refuser des requêtes : elle trouve l'unique direction interne qui porte le refus et modifie les poids pour que le modèle ne puisse plus y écrire, sans réentraînement.
Aussi appelé : refusal ablation, refusal direction removal, abliterated model
Par Divya Sharma · Vérifié le 16 nov. 2026 · Notre méthode
Les modèles de chat sont entraînés à suivre les instructions et à refuser celles qui sont nuisibles. En 2024, Arditi et ses collègues ont montré que, sur 13 modèles de chat ouverts jusqu'à 72B paramètres, ce refus passe par une seule direction dans les activations internes du modèle. Effacez cette direction et le modèle cesse de refuser ; ajoutez-la et il refuse même des requêtes anodines. L'abliteration est la recette pratique construite sur cette découverte.
Comment ça marche
Vous faites tourner le modèle sur deux ensembles de prompts, l'un nuisible et l'autre anodin, et vous enregistrez les activations au dernier token. La différence entre les deux moyennes donne une direction de refus candidate pour chaque couche, et vous gardez celle qui fonctionne le mieux. Ensuite, vous orthogonalisez les matrices qui écrivent dans le residual stream par rapport à cette direction, de sorte que les poids du modèle ne puissent plus la produire. Le résultat est un checkpoint ordinaire, que l'on peut partager comme n'importe quel autre modèle à poids ouverts.
Abliteration ou fine-tuning
Le fine-tuning modifie le comportement en entraînant sur des exemples par mises à jour de gradient. L'abliteration n'a besoin que des deux ensembles de prompts et d'aucun entraînement : c'est une modification ponctuelle de poids existants, qui retire un comportement au lieu d'en enseigner un nouveau. C'est une méthode en boîte blanche, qui ne fonctionne donc que sur des modèles dont vous détenez les poids.
Coût en qualité
L'article fait état de peu d'effet sur les autres capacités, mais les résultats varient selon le modèle. Dans le guide de Labonne, l'abliteration du modèle 8B Daredevil-8B a fait baisser ses scores aux benchmarks. Une courte phase d'entraînement par préférences DPO a ensuite récupéré l'essentiel de la baisse, tandis qu'il prévenait qu'un fine-tuning supervisé supplémentaire casserait probablement le modèle.
Risques
L'abliteration supprime les refus pour toutes les requêtes, pas seulement celles qu'un utilisateur juge trop prudentes. Arditi et ses collègues la décrivent comme un jailbreak en boîte blanche et disent qu'elle montre la fragilité du fine-tuning de sécurité. Un modèle abliteré n'a pas de refus intégré : toute limite à ce qu'il produit doit venir de l'extérieur du modèle, par des guardrails et des tests comme le red teaming. Cela signifie aussi que l'entraînement de sécurité d'un modèle publié peut être annulé par quiconque détient les poids.
Termes liés
- Jailbreak (LLM)
- Un jailbreak (débridage) est un prompt ou une technique qui amène un modèle de langage à produire une sortie que son entraînement à la sûreté est censé refuser, comme des instructions dangereuses, au moyen de jeux de rôle, d'obscurcissement, d'encodages inhabituels ou de longs textes adverses.
- Poids du modèle
- Les poids d'un modèle (model weights) sont les nombres appris à l'intérieur d'un réseau de neurones, fixés pendant l'entraînement, qui déterminent comment il transforme une entrée en sortie. Un checkpoint est un fichier ou un ensemble de fichiers sauvegardé qui contient ces poids.
- Modèle open-weight
- Un modèle open-weight (modèle à poids ouverts) est un modèle dont les poids entraînés sont publiés pour que chacun puisse les télécharger et les exécuter, souvent sans le code d'entraînement ni l'ensemble des données d'entraînement ; il n'est donc pas forcément open source.
- Alignement de l'IA
- L'alignement de l'IA (AI alignment) est le travail qui consiste à faire correspondre le comportement d'un système d'IA à ce que ses utilisateurs et développeurs veulent réellement, pour qu'il soit utile, honnête et évite de nuire, au lieu de simplement prédire un texte probable ou d'optimiser un score étroit.
- Red teaming de l'IA
- Le red teaming de l'IA (AI red teaming) consiste à attaquer délibérément un modèle ou une application d'IA avant et après sa publication, avec des testeurs humains ou des outils automatisés, pour trouver les sorties nuisibles, les jailbreaks, les injections et autres défaillances afin de les corriger.
- Garde-fous (IA)
- Les garde-fous (guardrails) sont des contrôles exécutés autour d'un modèle de langage qui inspectent les entrées et les sorties et les bloquent, les réécrivent ou les redirigent, afin qu'une application reste dans son sujet, évite les contenus nuisibles et respecte des règles que le modèle seul ne tiendrait pas de façon fiable.