Le cluster de supercalculateurs Colossus de xAI atteint une échelle massive grâce à la plate-forme de réseau Ethernet NVIDIA Spectrum-X pour connecter 100,000 NVIDIA Hopper Tensor Core GPUs.
Le SuperCluster IA à refroidissement liquide le plus puissant est conçu pour faire entrer Grok AI de xAI dans une nouvelle ère. Supermicro accélère la transition de l'industrie vers des centres de données d'IA refroidis par liquide afin d'offrir un nouveau paradigme d'efficacité énergétique pour répondre à la demande rapidement croissante d'énergie et de puissance de l'infrastructure d'IA d'aujourd'hui. Forte d'une vaste expérience dans le déploiement de systèmes d'IA à grande échelle refroidis par liquide (DLC), la technologie de pointe de Supermicro en matière de refroidissement liquide alimente les projets d'infrastructure d'IA les plus ambitieux au monde.
Avec ServeTheHome
L'un des SuperClusters d'IA les plus puissants refroidis par liquide est conçu pour faire passer Grok AI de xAI au niveau supérieur. Supermicro développe une technologie de pointe pour les baies à refroidissement liquide qui alimente les projets d'infrastructure d'IA les plus ambitieux au monde.
À l'intérieur du colosse xAI de 100 000 GPU que Supermicro a aidé à construire pour Elon Musk
Auteur : Patrick Kennedy, ServeTheHome
Premier cluster d'IA à refroidissement
Avec 32 systèmes NVIDIA HGX H100/H200 8-GPU, 4U refroidis par liquide (256 GPU) dans 5 racks
- Doublement de la densité de calcul grâce à la solution de refroidissement liquide personnalisée de Supermicro, avec une réduction de 40 % des coûts d'électricité pour le centre de données
- 256 GPU NVIDIA H100/H200 dans une unité évolutive
- 20 To de HBM3 avec H100 ou 36 To de HBM3e avec H200 dans une unité évolutive
- Mise en réseau 1:1 de chaque GPU pour permettre le stockage et le traitement RDMA de NVIDIA GPUDirect pour l'entrainement des modèles de langage de grande taille comportant des billions de paramètres.
- Structure de stockage personnalisable pour le flux des données d'IA avec des intégrations de système de fichiers de type parallèles.
- Prise en charge de la plate-forme InfiniBand NVIDIA Quantum-2 et de la plate-forme Ethernet Spectrum-X
- Certifié pour la plateforme d'entreprise NVIDIA AI, y compris les microservices NVIDIA NIM.
Nœud de calcul
