GPU et IA

SXM

Format de module des GPU NVIDIA de centre de données : la puce est montée sur un module fixé sur la carte de base du serveur, et non sur une carte PCIe.

SXM désigne le format physique des GPU NVIDIA haut de gamme pour centres de données. Au lieu d'une carte qui se branche dans un port PCIe, le GPU et sa mémoire sont montés sur un module plat, fixé par un connecteur haute densité sur une carte de base du serveur. SXM5 est la version utilisée par les H100 et H200, et les GPU Blackwell de centre de données reprennent le même principe.

Ce format a deux avantages. Il accepte une puissance bien plus élevée que la plupart des cartes PCIe, jusqu'à 700 W par GPU sur la génération Hopper, avec un grand radiateur, voire un refroidissement liquide. Et il fait passer les liaisons NVLink par la carte de base, si bien que tous les GPU du serveur communiquent à très haut débit. Résultat : à modèle de GPU équivalent, la version SXM est généralement plus rapide que la version PCIe.

Un GPU SXM ne s'achète pas seul pour l'installer dans un PC : il vit dans un serveur conçu pour lui, en général une plateforme HGX à 4 ou 8 GPU. Sur une fiche produit, vérifiez donc le format (SXM ou PCIe), la consommation totale, souvent de plusieurs kilowatts, et l'alimentation électrique à prévoir, parfois en triphasé. Pensez aussi au bruit et à la chaleur d'une telle machine, qui a sa place en baie ou en salle technique.

Nous proposons des serveurs à GPU SXM sur devis, et nous étudions avec vous l'installation électrique et le refroidissement nécessaires.