GPU
Un GPU (graphics processing unit, processeur graphique) est un processeur doté de nombreux petits cœurs conçus pour exécuter beaucoup de calculs en parallèle. Sa rapidité en calcul matriciel en fait le matériel standard pour entraîner et faire tourner les modèles d'IA.
Aussi appelé : graphics processing unit
Par Divya Sharma · Vérifié le 16 nov. 2026 · Notre méthode
Les GPU ont commencé comme des puces destinées à dessiner des graphismes 3D, où le même calcul s'applique à des millions de pixels à la fois. CUDA de NVIDIA, lancé en 2006, a ouvert ce débit parallèle au calcul général. Les réseaux de neurones s'y sont révélés bien adaptés, car les entraîner et les faire tourner consiste surtout en de grandes multiplications de matrices qui se répartissent naturellement sur de nombreux cœurs.
Pourquoi l'IA a besoin de GPU
Un CPU possède quelques cœurs puissants conçus pour des travaux variés et séquentiels. Un GPU les remplace par un très grand nombre de cœurs plus simples et une mémoire très rapide, ce qui convient à l'arithmétique répétitive d'un transformer. Les GPU modernes pour centres de données ajoutent des unités dédiées aux calculs en basse précision, c'est pourquoi des formats comme le FP8 et le 4 bits comptent.
Ce qu'il faut regarder
Pour faire tourner des modèles, la mémoire compte souvent plus que la puissance de calcul brute. La taille de la VRAM détermine quels modèles tiennent, et la bande passante mémoire fixe en grande partie le nombre de tokens par seconde pendant la génération. Pour l'entraînement et les grands modèles, les liaisons entre GPU comptent, puisque le travail est réparti sur de nombreuses cartes avec des méthodes comme le parallélisme tensoriel. Notre calculateur de GPU estime ce dont un modèle a besoin.
Alternatives
Le TPU de Google est une puce conçue spécifiquement pour l'apprentissage automatique, utilisée principalement dans Google Cloud. Les NPU des téléphones et des ordinateurs portables font tourner de petits modèles à faible consommation. Apple et d'autres puces utilisent une mémoire unifiée partagée par le CPU et le GPU. Vous pouvez aussi vous passer de matériel en propre et louer auprès d'un cloud GPU pour l'IA ou d'une plateforme de GPU serverless.
Termes liés
- VRAM
- La VRAM est la mémoire d'une carte graphique. Pour l'IA, elle contient les poids du modèle, le KV cache et les données de travail, et le fait qu'un modèle tienne ou non dans la VRAM détermine généralement le GPU dont vous avez besoin pour le faire tourner.
- TPU
- Un TPU (tensor processing unit) est la puce conçue par Google pour le machine learning, construite autour de grandes unités de multiplication de matrices et d'une mémoire à haute bande passante. Google propose les TPU à d'autres entreprises sous forme de service en location sur Google Cloud.
- NPU
- Un NPU (neural processing unit, processeur neuronal) est une puce, ou un bloc dans une puce plus grande, conçu pour exécuter les calculs des réseaux de neurones rapidement et en consommant peu d'énergie. Les téléphones et les ordinateurs portables utilisent des NPU pour faire tourner de petits modèles d'IA sur l'appareil.
- Cloud GPU
- Un cloud GPU est un service qui loue des machines à GPU à l'heure ou à la seconde pour l'entraînement, le fine-tuning et l'inférence en IA. Des fournisseurs spécialisés, parfois appelés neoclouds, se concentrent sur les GPU et facturent souvent moins cher que les grands clouds généralistes.
- Mémoire unifiée
- La mémoire unifiée (unified memory) est une conception dans laquelle le CPU et le GPU partagent un seul espace mémoire au lieu d'avoir chacun le leur. Sur les Mac Apple Silicon et les puces similaires, elle permet à un modèle d'IA local d'utiliser l'essentiel de la RAM du système comme mémoire GPU.
- Parallélisme de tenseurs
- Le parallélisme de tenseurs (tensor parallelism) répartit chaque couche d'un réseau de neurones sur plusieurs GPU, de sorte que chaque GPU détient une partie de chaque matrice de poids et calcule sa part de chaque étape. Il permet de faire tourner sur plusieurs GPU un modèle trop grand pour un seul.