NVLink
Aussi appelé : NVSwitch
Liaison haut débit de NVIDIA qui relie directement plusieurs GPU entre eux, bien plus vite que le PCIe, pour qu'ils travaillent comme un seul.
NVLink est une connexion propriétaire de NVIDIA qui fait communiquer les GPU directement entre eux, sans passer par le bus PCIe ni par le processeur. NVSwitch est la puce d'aiguillage qui l'accompagne dans les gros serveurs : elle permet à chaque GPU d'échanger avec tous les autres à pleine vitesse, et pas seulement avec son voisin.
Quand un modèle d'IA est trop gros pour un seul GPU, il est découpé entre plusieurs cartes qui doivent s'échanger des données en permanence. Sur un lien lent, les GPU passent leur temps à attendre. Avec NVLink, le débit est plusieurs fois supérieur à celui du PCIe : environ 900 Go/s par GPU sur la génération Hopper, et le double sur Blackwell. Huit GPU reliés par NVSwitch se comportent alors presque comme un seul accélérateur géant, ce qui profite surtout à l'entraînement et à l'inférence des très grands modèles.
Dans une fiche produit, cherchez la mention NVLink et sa génération, ainsi que la présence de NVSwitch sur les serveurs à 8 GPU. Les modules SXM des plateformes HGX en profitent pleinement, et certaines cartes PCIe pour centre de données acceptent un pont NVLink entre deux ou quatre cartes. Les cartes grand public récentes n'en ont plus : pour faire tourner un modèle en local sur une ou deux cartes, le PCIe suffit largement.
Pour les serveurs multi-GPU que nous proposons sur devis, nous précisons toujours le type de liaison entre les GPU et vous aidons à juger si NVLink est utile pour votre usage.