Tensor Cores
Unités de calcul spécialisées des GPU NVIDIA, conçues pour multiplier des matrices à très grande vitesse. Elles font l'essentiel du travail en IA.
Les Tensor Cores sont des unités de calcul intégrées aux GPU NVIDIA depuis l'architecture Volta, en 2017. À côté des cœurs CUDA, polyvalents, ils ne savent faire qu'une chose : multiplier de petites matrices et additionner le résultat, en une seule opération. C'est justement le calcul qui revient sans cesse dans un réseau de neurones.
Entraîner un modèle ou lui faire générer du texte revient à enchaîner des milliards de multiplications de matrices. Les Tensor Cores les traitent en bloc, beaucoup plus vite que les cœurs classiques. Chaque génération ajoute des formats de nombres plus compacts : FP16 et BF16, puis FP8 avec Hopper et Ada Lovelace, puis FP4 avec Blackwell, qui en est à la cinquième génération. Moins de bits par nombre, c'est davantage d'opérations par seconde.
Sur une fiche produit, regardez la génération des Tensor Cores et les performances annoncées en TFLOPS pour chaque précision. Comparez toujours deux cartes à précision égale, et vérifiez si le chiffre est donné « avec sparsité », ce qui le double. Une carte RTX grand public possède elle aussi des Tensor Cores : elle suffit pour faire tourner un modèle en local, alors qu'un H200 vise les très gros modèles et les nombreux utilisateurs simultanés.
Nos stations IA et nos serveurs GPU s'appuient tous sur des Tensor Cores récents, et nous vous aidons à choisir la génération adaptée à vos modèles.