ONNX
ONNX (Open Neural Network Exchange) est un format de fichier ouvert pour les modèles de machine learning. Il décrit un modèle comme un graphe d'opérateurs standard, afin qu'il puisse être entraîné dans un framework et exécuté dans un autre.
Aussi appelé : Open Neural Network Exchange, .onnx
Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode
Les modèles sont généralement entraînés dans un framework comme PyTorch, mais l'endroit où vous voulez les exécuter peut être un téléphone, un navigateur, un serveur sans Python ou une puce dotée de son propre runtime. ONNX est un format commun entre les deux. Vous exportez le modèle une fois vers un fichier .onnx, et tout runtime compatible ONNX peut le charger.
Comment ça marche
Un fichier ONNX contient un graphe de calcul : des nœuds pour des opérations comme la multiplication de matrices ou softmax, les connexions entre eux, et les poids du modèle. Les opérateurs proviennent d'un ensemble standard versionné appelé opset, si bien qu'un runtime sait exactement ce que signifie chaque nœud. ONNX Runtime est le moteur le plus utilisé, et il peut confier des parties du graphe à des GPU, des NPU et d'autres accélérateurs.
Où il trouve sa place
ONNX est courant pour les modèles plus petits qui doivent tourner vite sur de nombreux appareils : modèles d'embedding, rerankers, modèles de vision et de parole, et modèles dans les navigateurs. Il est moins courant pour servir les plus grands LLM, pour lesquels des moteurs dédiés comme vLLM ou des outils basés sur GGUF chargent généralement les poids directement.
En quoi il diffère de Safetensors
Safetensors ne stocke que les poids ; il faut encore du code qui définit le modèle. ONNX stocke les poids et le graphe des opérations, si bien que le fichier décrit le modèle entier. Cela le rend portable, mais l'export peut échouer sur des couches inhabituelles, et les modèles qui changent de forme à l'exécution peuvent être délicats à exporter.
Limites
Tous les runtimes ne prennent pas en charge tous les opérateurs ni toutes les versions d'opset, et les modèles ONNX quantifiés peuvent se comporter différemment selon le matériel. Testez le modèle exporté par rapport à l'original avant de le livrer.
Termes liés
- Poids du modèle
- Les poids d'un modèle (model weights) sont les nombres appris à l'intérieur d'un réseau de neurones, fixés pendant l'entraînement, qui déterminent comment il transforme une entrée en sortie. Un checkpoint est un fichier ou un ensemble de fichiers sauvegardé qui contient ces poids.
- Safetensors
- Safetensors est un format de fichier de Hugging Face pour stocker les poids des modèles. Contrairement aux fichiers pickle de Python, son chargement ne peut pas exécuter de code caché, et il permet un chargement rapide, par projection en mémoire, de tenseurs individuels.
- GGUF
- GGUF est un format de fichier binaire qui stocke les poids, le tokenizer et les métadonnées d'un modèle dans un seul fichier, conçu pour un chargement rapide et l'inférence locale avec des outils basés sur GGML comme llama.cpp, souvent sous forme quantifiée.
- Inférence
- L'inférence consiste à faire tourner un modèle entraîné pour produire une sortie à partir d'une nouvelle entrée, comme un LLM qui génère une réponse à un prompt. C'est l'étape que les utilisateurs paient à chaque appel d'un modèle, par opposition à l'entraînement.
- NPU
- Un NPU (neural processing unit, processeur neuronal) est une puce, ou un bloc dans une puce plus grande, conçu pour exécuter les calculs des réseaux de neurones rapidement et en consommant peu d'énergie. Les téléphones et les ordinateurs portables utilisent des NPU pour faire tourner de petits modèles d'IA sur l'appareil.
- Quantification
- La quantification (quantization) est une technique qui stocke les poids d'un modèle, et parfois ses activations, avec moins de bits, par exemple 8 ou 4 au lieu de 16, pour que le modèle demande moins de mémoire et tourne souvent plus vite, au prix d'une certaine perte de précision.