Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Précision numérique (FP16, BF16, FP8)

La précision numérique est le format de nombre utilisé pour stocker les poids d'un modèle et effectuer ses calculs, comme FP32, FP16, BF16, FP8 ou INT4. Moins de bits par nombre signifie moins de mémoire et une inférence plus rapide, avec un certain risque pour la précision des résultats.

Aussi appelé : FP8, BF16, FP16, FP4, INT8, INT4, FP32, bfloat16

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

Chaque poids d'un modèle est un nombre, et le format de ce nombre détermine la mémoire qu'occupe le modèle. Un format 16 bits utilise deux octets par poids, un format 8 bits un octet, un format 4 bits un demi-octet. C'est pourquoi la précision est la première chose à vérifier pour savoir si un modèle tient dans votre VRAM ; le calculateur de GPU fait ce calcul pour vous.

Les formats courants

FP32 est la simple précision complète, utilisée surtout pour l'entraînement. FP16 divise la taille par deux mais a une plage étroite, si bien que des valeurs très grandes ou très petites peuvent déborder. BF16 (bfloat16, conçu chez Google) garde les mêmes 8 bits d'exposant que FP32 et sacrifie à la place des bits de mantisse : il a donc la plage de FP32 avec moins de détail. C'est pour cela qu'il est le format par défaut habituel pour entraîner et servir les modèles modernes.

FP8 descend à un octet. Le standard FP8 définit deux variantes : E4M3, plus précise, et E5M2, avec une plage plus large. Les GPU récents de centre de données exécutent FP8 nativement. Les formats FP4 vont plus loin sur le matériel le plus récent.

INT8 et INT4 sont des formats entiers. Les poids sont projetés sur un petit ensemble de nombres entiers, avec un facteur d'échelle. C'est ce que désigne généralement la quantification en pratique, et c'est ce que stockent des fichiers comme GGUF pour l'usage local.

Compromis

Une précision plus faible économise de la mémoire et augmente souvent les tokens par seconde, mais chaque palier vers le bas perd de l'information. L'effet dépend du modèle et de la méthode : le 8 bits reste généralement proche de l'original, tandis que le 4 bits et en dessous peuvent nuire au raisonnement ou aux tâches à long contexte. La prise en charge matérielle compte aussi ; un format que votre GPU ne sait pas calculer nativement peut être converti à la volée et n'apporter qu'un faible gain de vitesse.

Termes liés

Quantification
La quantification (quantization) est une technique qui stocke les poids d'un modèle, et parfois ses activations, avec moins de bits, par exemple 8 ou 4 au lieu de 16, pour que le modèle demande moins de mémoire et tourne souvent plus vite, au prix d'une certaine perte de précision.
VRAM
La VRAM est la mémoire d'une carte graphique. Pour l'IA, elle contient les poids du modèle, le KV cache et les données de travail, et le fait qu'un modèle tienne ou non dans la VRAM détermine généralement le GPU dont vous avez besoin pour le faire tourner.
GGUF
GGUF est un format de fichier binaire qui stocke les poids, le tokenizer et les métadonnées d'un modèle dans un seul fichier, conçu pour un chargement rapide et l'inférence locale avec des outils basés sur GGML comme llama.cpp, souvent sous forme quantifiée.
Poids du modèle
Les poids d'un modèle (model weights) sont les nombres appris à l'intérieur d'un réseau de neurones, fixés pendant l'entraînement, qui déterminent comment il transforme une entrée en sortie. Un checkpoint est un fichier ou un ensemble de fichiers sauvegardé qui contient ces poids.
GPU
Un GPU (graphics processing unit, processeur graphique) est un processeur doté de nombreux petits cœurs conçus pour exécuter beaucoup de calculs en parallèle. Sa rapidité en calcul matriciel en fait le matériel standard pour entraîner et faire tourner les modèles d'IA.

Sources