Réduire un modèle à des poids sur 4 bits est la méthode habituelle pour faire tourner un agent sur un GPU moins cher, et le prix habituel est un agent moins bon sur les tâches longues en plusieurs étapes. SteerDistill, une prépublication de l'Institute for AI Industry Research de l'université Tsinghua, s'attaque directement à cette perte. Cela concerne quiconque sert des agents sur du matériel modeste, car la méthode vise les étapes où les modèles compressés échouent réellement, et non la qualité générale du texte.
L'idée consiste à faire du modèle en pleine précision un entraîneur. Quand l'élève en 4 bits échoue à une étape, le modèle d'origine propose une correction, l'élève l'essaie dans l'environnement, et l'entraîneur ajuste son conseil selon le résultat. Les corrections qui fonctionnent sont ensuite intégrées à l'élève par entraînement : il apprend à reproduire son propre comportement guidé sur ces étapes, et le modèle d'origine partout ailleurs. À l'exécution, l'élève travaille seul. Les poids sont stockés en entiers de 4 bits par groupes de 64 et les activations restent sur 16 bits, un réglage appelé W4A16.
Les auteurs ont testé trois modèles, Qwen3-8B, Qwen3.5-4B et Gemma 4 12B-it, sur cinq benchmarks d'agents : BFCL V4, τ²-Bench, WebShop, ALFWorld et un jeu de questions-réponses avec recherche construit à partir de sept jeux de données. En moyenne, Gemma 4 12B-it obtient 64.31 contre 65.13 en pleine précision, et Qwen3-8B 53.18 contre 53.54. Le concurrent le plus solide était chaque fois QeRL, une méthode d'apprentissage par renforcement, distancé d'environ deux points. Sur τ²-Bench avec Qwen3-8B, SteerDistill atteint 31.68% après 32 heures GPU sur A100, tandis que QeRL a eu besoin de 96 heures pour finir 1.84 point plus bas. Avec des poids sur 2 bits, Qwen3-8B tombe à 42.97, toujours devant les autres méthodes testées.
Pour les lecteurs de notre test de Gemma 4, c'est le type de résultat qui pourrait rendre un modèle de 12B utilisable sur une seule carte grand public pour des appels d'outils. La plupart des travaux sur la quantification mesurent encore la perplexité ou la précision sur des réponses courtes, ce qui renseigne peu sur la capacité d'un agent à mener à bien une tâche en douze étapes. Mesurer la réussite sur des benchmarks d'agents est un critère plus honnête, et les auteurs renvoient vers un dépôt GitHub et une page de projet.
Les limites sont réelles. Il s'agit d'une prépublication non relue par les pairs. Chaque modèle a reçu un post-entraînement propre à la tâche avant quantification : les chiffres décrivent donc des agents ajustés à ces benchmarks, pas des modèles de conversation généraux compressés tels quels. L'étape d'entraînement ne fonctionne que sur les tâches que le modèle en pleine précision réussit, et les échecs qu'il ne sait pas résoudre lui-même restent en l'état. QeRL et une autre méthode de référence ont été conçues pour le format NVFP4 de NVIDIA et ont dû être adaptées à la quantification entière, ce qui a pu les désavantager. Deux points d'avance sont utiles mais modestes, et une réplication indépendante sur d'autres familles de modèles dirait jusqu'où ils tiennent.