NVMe
Aussi appelé : SSD NVMe
Protocole qui relie un SSD directement au bus PCIe. Un SSD NVMe lit et écrit bien plus vite qu'un SSD SATA, ce qui accélère le chargement des données.
NVMe, pour « Non-Volatile Memory Express », est le protocole de communication des SSD modernes. Au lieu de passer par l'interface SATA, héritée des disques durs, le SSD est branché directement sur des lignes PCIe. Le format le plus courant est la petite barrette M.2 qui se visse sur la carte mère ; les serveurs utilisent aussi des formats U.2 ou E1.S, remplaçables à chaud.
Le SATA plafonne vers 550 Mo/s. Un SSD NVMe en PCIe 4.0 dépasse les 7 Go/s, et les modèles PCIe 5.0 vont au-delà de 10 Go/s. NVMe gère aussi un très grand nombre de files de commandes en parallèle, ce qui réduit fortement les temps d'attente quand de nombreux fichiers sont lus en même temps.
Pour l'IA, le stockage NVMe compte surtout au chargement : un modèle de langage pèse de quelques gigaoctets à plusieurs centaines, et il faut le transférer du disque vers la mémoire du GPU à chaque démarrage. Pour l'entraînement, il alimente les GPU en données sans les faire attendre. Sur une fiche produit, regardez la capacité, car les modèles s'accumulent vite, la génération PCIe et, pour un serveur, l'endurance exprimée en téraoctets écrits (TBW). Pour une machine de minage, en revanche, un stockage modeste suffit.
La station IA Threadripper que nous proposons embarque 4 To de stockage NVMe, de quoi conserver de nombreux modèles.