Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

GPU

Un GPU (graphics processing unit, processeur graphique) est un processeur doté de nombreux petits cœurs conçus pour exécuter beaucoup de calculs en parallèle. Sa rapidité en calcul matriciel en fait le matériel standard pour entraîner et faire tourner les modèles d'IA.

Aussi appelé : graphics processing unit

Par Divya Sharma · Vérifié le 16 nov. 2026 · Notre méthode

Les GPU ont commencé comme des puces destinées à dessiner des graphismes 3D, où le même calcul s'applique à des millions de pixels à la fois. CUDA de NVIDIA, lancé en 2006, a ouvert ce débit parallèle au calcul général. Les réseaux de neurones s'y sont révélés bien adaptés, car les entraîner et les faire tourner consiste surtout en de grandes multiplications de matrices qui se répartissent naturellement sur de nombreux cœurs.

Pourquoi l'IA a besoin de GPU

Un CPU possède quelques cœurs puissants conçus pour des travaux variés et séquentiels. Un GPU les remplace par un très grand nombre de cœurs plus simples et une mémoire très rapide, ce qui convient à l'arithmétique répétitive d'un transformer. Les GPU modernes pour centres de données ajoutent des unités dédiées aux calculs en basse précision, c'est pourquoi des formats comme le FP8 et le 4 bits comptent.

Ce qu'il faut regarder

Pour faire tourner des modèles, la mémoire compte souvent plus que la puissance de calcul brute. La taille de la VRAM détermine quels modèles tiennent, et la bande passante mémoire fixe en grande partie le nombre de tokens par seconde pendant la génération. Pour l'entraînement et les grands modèles, les liaisons entre GPU comptent, puisque le travail est réparti sur de nombreuses cartes avec des méthodes comme le parallélisme tensoriel. Notre calculateur de GPU estime ce dont un modèle a besoin.

Alternatives

Le TPU de Google est une puce conçue spécifiquement pour l'apprentissage automatique, utilisée principalement dans Google Cloud. Les NPU des téléphones et des ordinateurs portables font tourner de petits modèles à faible consommation. Apple et d'autres puces utilisent une mémoire unifiée partagée par le CPU et le GPU. Vous pouvez aussi vous passer de matériel en propre et louer auprès d'un cloud GPU pour l'IA ou d'une plateforme de GPU serverless.

Termes liés

VRAM
La VRAM est la mémoire d'une carte graphique. Pour l'IA, elle contient les poids du modèle, le KV cache et les données de travail, et le fait qu'un modèle tienne ou non dans la VRAM détermine généralement le GPU dont vous avez besoin pour le faire tourner.
TPU
Un TPU (tensor processing unit) est la puce conçue par Google pour le machine learning, construite autour de grandes unités de multiplication de matrices et d'une mémoire à haute bande passante. Google propose les TPU à d'autres entreprises sous forme de service en location sur Google Cloud.
NPU
Un NPU (neural processing unit, processeur neuronal) est une puce, ou un bloc dans une puce plus grande, conçu pour exécuter les calculs des réseaux de neurones rapidement et en consommant peu d'énergie. Les téléphones et les ordinateurs portables utilisent des NPU pour faire tourner de petits modèles d'IA sur l'appareil.
Cloud GPU
Un cloud GPU est un service qui loue des machines à GPU à l'heure ou à la seconde pour l'entraînement, le fine-tuning et l'inférence en IA. Des fournisseurs spécialisés, parfois appelés neoclouds, se concentrent sur les GPU et facturent souvent moins cher que les grands clouds généralistes.
Mémoire unifiée
La mémoire unifiée (unified memory) est une conception dans laquelle le CPU et le GPU partagent un seul espace mémoire au lieu d'avoir chacun le leur. Sur les Mac Apple Silicon et les puces similaires, elle permet à un modèle d'IA local d'utiliser l'essentiel de la RAM du système comme mémoire GPU.
Parallélisme de tenseurs
Le parallélisme de tenseurs (tensor parallelism) répartit chaque couche d'un réseau de neurones sur plusieurs GPU, de sorte que chaque GPU détient une partie de chaque matrice de poids et calcule sa part de chaque étape. Il permet de faire tourner sur plusieurs GPU un modèle trop grand pour un seul.

Sources