Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

NPU

Un NPU (neural processing unit, processeur neuronal) est une puce, ou un bloc dans une puce plus grande, conçu pour exécuter les calculs des réseaux de neurones rapidement et en consommant peu d'énergie. Les téléphones et les ordinateurs portables utilisent des NPU pour faire tourner de petits modèles d'IA sur l'appareil.

Aussi appelé : neural processing unit, AI accelerator

Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode

Un NPU est un processeur spécialisé dans les opérations matricielles et vectorielles qui occupent l'essentiel du temps des réseaux de neurones. Il peut être indépendant, intégré à un CPU ou intégré à un GPU. La plupart des gens en croisent un dans un téléphone ou un ordinateur portable récent, où il gère des tâches comme le traitement des photos, la reconnaissance vocale, le flou d'arrière-plan en visioconférence et de petits modèles de langage embarqués.

Pourquoi c'est important pour les développeurs

Sur les appareils grand public, le NPU est conçu pour être petit et économe en énergie plutôt que rapide en tout. Il convient donc bien aux petits modèles de langage et aux tâches courtes et fréquentes qui ne doivent pas vider la batterie. Il convient mal aux grands modèles : le NPU d'un ordinateur portable n'a ni la mémoire ni le débit d'un GPU de centre de données.

Les NPU travaillent généralement avec des formats de nombres basse précision comme INT8 ou INT4, si bien que les modèles sont normalement quantifiés avant d'y tourner. Voir précision numérique pour la signification de ces formats.

Comment le programmer

Il n'existe pas de standard unique. Chaque fabricant de puces fournit sa propre boîte à outils, par exemple Apple Core ML, Intel OpenVINO, AMD Ryzen AI et le SDK de Qualcomm, et un modèle doit souvent d'abord être converti dans un format comme ONNX. Les fabricants annoncent la vitesse des NPU en TOPS (billions d'opérations par seconde), un chiffre qui désigne généralement des opérations INT8 et qui est difficile à comparer d'une puce à l'autre.

NPU, GPU ou TPU

Un GPU est un processeur parallèle généraliste qui se trouve aussi être bon en IA. Un NPU est plus spécialisé et vise l'inférence efficace sur l'appareil. Un TPU est l'accélérateur conçu par Google ; les versions pour centre de données se louent via Google Cloud.

Termes liés

GPU
Un GPU (graphics processing unit, processeur graphique) est un processeur doté de nombreux petits cœurs conçus pour exécuter beaucoup de calculs en parallèle. Sa rapidité en calcul matriciel en fait le matériel standard pour entraîner et faire tourner les modèles d'IA.
TPU
Un TPU (tensor processing unit) est la puce conçue par Google pour le machine learning, construite autour de grandes unités de multiplication de matrices et d'une mémoire à haute bande passante. Google propose les TPU à d'autres entreprises sous forme de service en location sur Google Cloud.
LLM local
Un LLM local est un modèle de langage qui tourne sur votre propre ordinateur, téléphone ou serveur plutôt que via l'API cloud d'un fournisseur, de sorte que les prompts et les données restent sur votre matériel et qu'il fonctionne sans connexion internet.
Petit modèle de langage
Un petit modèle de langage (small language model, SLM) est un modèle de langage doté de relativement peu de paramètres, généralement quelques milliards ou moins, conçu pour tourner sur un ordinateur portable, un téléphone ou un seul GPU à un coût inférieur à celui d'un grand modèle.
Quantification
La quantification (quantization) est une technique qui stocke les poids d'un modèle, et parfois ses activations, avec moins de bits, par exemple 8 ou 4 au lieu de 16, pour que le modèle demande moins de mémoire et tourne souvent plus vite, au prix d'une certaine perte de précision.

Sources