Multi-GPU
Utilisation de plusieurs cartes graphiques dans une même machine pour additionner leur mémoire et leur puissance de calcul, en IA comme en minage.
On parle de configuration multi-GPU quand une machine embarque plusieurs cartes graphiques qui travaillent ensemble. Cela va de la station de travail à deux cartes jusqu'au serveur à huit GPU, et même à des grappes de serveurs reliés en réseau. Le principe est simple : additionner la mémoire et la puissance de calcul de plusieurs GPU.
En minage, chaque carte d'un rig travaille de façon indépendante : le hashrate total est simplement la somme de celui des cartes. En IA, c'est plus subtil. Un modèle trop gros pour un seul GPU est découpé entre plusieurs cartes, couche par couche ou à l'intérieur de chaque couche, et les GPU doivent alors s'échanger des données. Deux cartes de 16 Go permettent ainsi de charger un modèle d'environ 25 Go, mais la vitesse ne double pas : tout dépend de la liaison entre elles, PCIe ou NVLink, et du logiciel utilisé.
Avant de choisir une machine multi-GPU, vérifiez le nombre de lignes PCIe disponibles pour chaque carte, la puissance de l'alimentation, le refroidissement et l'espace entre les cartes. Côté logiciel, Ollama répartit automatiquement un modèle sur plusieurs GPU, et vLLM sait les faire travailler en parallèle pour servir plusieurs utilisateurs. Plusieurs cartes de milieu de gamme offrent souvent plus de mémoire pour le même budget qu'une seule carte haut de gamme.
Notre station IA Pro réunit deux cartes de 16 Go pour 32 Go de mémoire vidéo, et nous proposons sur devis des serveurs jusqu'à 8 GPU.