TPU
Puce d'accélération pour l'IA conçue par Google. C'est un ASIC dédié aux calculs de matrices des réseaux de neurones, non vendu sous forme de carte.
TPU signifie « Tensor Processing Unit ». C'est une puce conçue par Google spécialement pour faire tourner des réseaux de neurones. Google l'utilise dans ses propres centres de données depuis 2015 et l'a dévoilée publiquement en 2016. Plusieurs générations se sont succédé depuis, chacune plus puissante et plus économe.
Un TPU est en fait un ASIC, comme un mineur de Bitcoin : au lieu d'être polyvalent comme un GPU, il est taillé pour une seule famille de calculs, les multiplications de matrices au cœur de l'IA, qu'il enchaîne avec une grande efficacité énergétique. Les TPU sont regroupés par centaines ou par milliers dans des grappes reliées par un réseau très rapide, pour entraîner et faire tourner de très grands modèles.
Pour un particulier ou une entreprise, la différence est très concrète : les TPU de centre de données ne se trouvent pas dans le commerce. Google les exploite surtout dans ses propres installations et les met à disposition à distance ; seules de petites puces destinées à l'électronique embarquée sont en vente libre. Si vous voulez une IA chez vous, sur votre propre matériel, la solution passe par les GPU, qui bénéficient en plus de l'écosystème logiciel CUDA, compatible avec la quasi-totalité des outils et des modèles. C'est le même raisonnement qu'entre ASIC et GPU en minage : spécialisation contre polyvalence.
Nous proposons des stations et des serveurs à GPU NVIDIA pour héberger votre IA en local, sans dépendre d'un service extérieur.