En clair
Un NPU (de l'anglais « neural processing unit », qu'on peut traduire par processeur neuronal) est un composant électronique conçu pour effectuer les calculs que réclame l'intelligence artificielle. Il ne remplace pas le processeur principal de la machine. Il prend en charge une partie précise du travail, celle des réseaux de neurones, et laisse le reste au processeur et à la mémoire.
La différence avec un processeur classique tient à la façon de calculer. Un processeur généraliste enchaîne des instructions variées. Un NPU répète au contraire un petit nombre d'opérations très simples, surtout des multiplications et des additions sur des tableaux de nombres, et il en fait beaucoup en même temps. Cette régularité permet de le câbler pour cette tâche unique.
Pourquoi c'est important
Faire tourner un modèle d'IA demande une puissance de calcul considérable. Les cartes graphiques, ou GPU, s'en acquittent très bien, mais elles consomment beaucoup d'électricité et occupent de la place. Un NPU vise le même type de calcul avec une consommation plus faible, ce qui compte pour un téléphone, un ordinateur portable ou un serveur où l'énergie coûte cher.
L'enjeu est aussi industriel. Les NPU ne viennent pas tous du même fabricant et chacun a ses propres outils de programmation. Un logiciel écrit pour l'un ne fonctionne pas tel quel sur l'autre. Les équipes qui déploient des modèles doivent donc prévoir une couche d'adaptation pour chaque matériel pris en charge.
Dans la pratique
On trouve des NPU dans les smartphones récents, où ils traitent la reconnaissance d'image ou la dictée vocale sans envoyer les données sur un serveur. On en trouve aussi dans les ordinateurs personnels et dans certains centres de calcul. Un moteur d'inférence, c'est-à-dire le logiciel qui fait fonctionner un modèle déjà entraîné, doit être adapté à chaque famille de puces. DeepInfer, le moteur d'inférence publié par DeepSeek, tourne ainsi sur les GPU NVIDIA SM100 et sur les NPU Huawei Ascend 950.
Un NPU n'apprend rien. Il exécute un modèle déjà entraîné, ce qu'on appelle l'inférence. L'entraînement d'un modèle reste en général l'affaire de GPU ou de matériel plus lourd.
À ne pas confondre avec
Un NPU n'est pas un GPU. Les deux font des calculs parallèles, mais le GPU reste plus souple et sert aussi bien aux jeux vidéo qu'à l'entraînement. Le NPU est taillé pour une seule famille de calculs et pour une consommation réduite.
Le terme ne désigne pas non plus un modèle d'IA ni un logiciel. C'est du matériel, une puce, dont les performances dépendent autant des outils qui savent la programmer que de ses caractéristiques physiques.