CUDA

CUDA désigne deux choses liées. C'est d'abord une plateforme logicielle lancée par NVIDIA en 2007 : un ensemble d'outils, de bibliothèques et de pilotes qui permet aux développeurs d'utiliser le GPU pour des calculs généraux, et pas seulement pour l'affichage. Par extension, on appelle cœurs CUDA les unités de calcul de base présentes par milliers dans les processeurs graphiques NVIDIA.

La plupart des logiciels d'intelligence artificielle s'appuient sur CUDA : PyTorch, des moteurs d'inférence comme vLLM ou Ollama, et de nombreux outils de calcul scientifique. C'est l'une des raisons de la place dominante de NVIDIA dans l'IA. Les cœurs CUDA traitent un grand nombre d'opérations en parallèle, tandis que les Tensor Cores, présents sur les cartes récentes, accélèrent spécifiquement les multiplications de matrices au cœur des réseaux de neurones. Les pilotes et la version de CUDA installés doivent être compatibles avec les logiciels utilisés.

Dans une fiche produit, le nombre de cœurs CUDA donne une idée de la puissance de calcul, mais il ne se compare bien qu'entre cartes d'une même génération. Pour l'IA, regardez aussi la quantité de VRAM, la bande passante mémoire et la génération des Tensor Cores. Sur le plan pratique, vérifiez que votre système d'exploitation et vos pilotes prennent en charge la carte.

Notre page consacrée au NVIDIA H200 présente un GPU de centre de données conçu pour les charges CUDA les plus exigeantes.