Matériel, dispositifs et équipements de mise en réseau pour les centres de données

L'IA stimule le besoin d'infrastructures de calcul plus avancées, y compris la mise en réseau. Un manque de bande passante réseau crée souvent un goulot d'étranglement dans le traitement de l'information qui alimente les applications d'IA. L'infrastructure de calcul accéléré n'est aussi rapide que son maillon le plus faible, et trop souvent, c'est le réseau. Heureusement, en collaborant avec NVIDIA, Supermicro a qualifié la nouvelle plateforme réseau NVIDIA Spectrum-X dans plusieurs de ses systèmes afin de permettre une performance réseau jusqu'à 1,6 fois supérieure pour les charges de travail d'IA, ainsi qu'une efficacité énergétique accrue et un coût total de possession réduit. Grâce à la combinaison du commutateur Ethernet NVIDIA Spectrum-4 et du SuperNIC NVIDIA BlueField®-3, les clients peuvent désormais tirer parti de l'infrastructure de traitement cloud d'IA Ethernet la plus performante.

Les systèmes actuellement qualifiés avec la solution de mise en réseau NVIDIA Spectrum-X incluent les très populaires GPU SuperServers de Supermicro, disponibles en formats 4U, 5U et 8U, et prenant en charge les GPU NVIDIA dans les systèmes suivants :

• Supermicro Serveurs GPU 8U avec systèmes NVIDIA HGX H100 à 8 GPU :
  • SYS-821GE-TNHR (8U) - CPU Intel
  • AS-8125GS-TNHR (8U) – CPU AMD
  • SYS-421GU-TNXR (4U) - CPU Intel
• Serveurs GPU universels Supermicro (4U et 5U) avec des GPU NVIDIA H100 PCIe ou des GPU NVIDIA L40S :
  • SYS-521GE-TNRT (5U) - CPU Intel
  • SYS-421GE-TNRT (4U) - CPU Intel
  • SYS-421GE-TNRT3 (4U) - CPU Intel
  • AS-4125GS-TNRT (4U) – CPU AMD
  • AS -4125GS-TNRT2 (4U) – Processeur AMD

Ces systèmes Supermicro, optimisés par NVIDIA Spectrum-X, réduisent les durées d'exécution de l'entraînement et de l'inférence des modèles d'IA générative massifs basés sur des transformeurs, essentiels pour fournir des résultats et des informations plus rapides grâce à l'IA.

En plus d'augmenter considérablement les performances du réseau de 1,6 fois pour l'IA, les systèmes Supermicro dotés de la mise en réseau NVIDIA Spectrum-X bénéficient de l'isolation des performances des charges de travail dans les environnements multi-locataires. Permettre aux charges de travail de déplacer des données séparément et indépendamment, à l'abri des interférences de type « noisy-neighbor » qui pourraient entraver les performances, est essentiel pour les applications haute performance. De plus, l'isolation des charges de travail réseau offre un avantage de sécurité supplémentaire en empêchant des acteurs malveillants dans une charge de travail d'interférer avec une charge de travail distincte. NVIDIA Spectrum-X réalise cette isolation améliorée des charges de travail grâce à des clouds privés virtuels (VPC) sécurisés attribués à chaque locataire.

L'efficacité énergétique a toujours été une préoccupation majeure lors de l'exploitation de systèmes d'IA haute performance et à forte consommation d'énergie. En offrant des performances réseau accrues dans la même enveloppe de puissance réseau, NVIDIA Spectrum-X peut contribuer à un environnement d'IA plus économe en énergie. Cette meilleure performance par watt entraîne une consommation d'énergie globale plus faible et potentiellement un coût total de possession réduit. Pour les utilisateurs qui s'appuient couramment sur le plafonnement de la puissance pour maîtriser les coûts énergétiques, les systèmes Supermicro équipés de Spectrum-X contribuent à garantir que les plafonds de consommation d'énergie ne sont pas dépassés.  

Les utilisateurs ayant standardisé leur réseau Ethernet peuvent être assurés que NVIDIA Spectrum-X est entièrement basé sur des standards et entièrement interopérable avec les piles basées sur Ethernet. De plus, les serveurs Supermicro équipés de NVIDIA Spectrum-X aident les clients à surmonter le défi le plus important du déploiement de l'IA : l'évolutivité. Avec la capacité de prendre en charge 256 ports 200G dans un seul commutateur ou 16 000 ports dans une topologie feuille-épine à deux niveaux, ce sont des systèmes idéaux pour les organisations ayant des besoins évolutifs en infrastructure de calcul accéléré.

Alors que Supermicro s'efforce de répondre aux besoins des clients en IA qui nécessitent non seulement un réseau haute performance, mais aussi une multi-location cloud, les systèmes Supermicro équipés de NVIDIA Spectrum-X exploitent les extensions d'accès direct à la mémoire à distance (RDMA) sur Ethernet convergé (RoCE) pour prendre en charge à la fois la performance et la multi-location. Les performances par rapport à l'Ethernet traditionnel sont étonnantes, comme l'illustre le graphique ci-dessous.  

La technologie de réseau révolutionnaire de NVIDIA, intégrée dans de nombreux serveurs Supermicro, permet d'atteindre des performances réseau inédites pour l'IA, une isolation des performances multi-locataires et une efficacité énergétique accrue. Cette avancée est rendue possible en s'appuyant sur les standards de réseau Ethernet, grâce à l'association du commutateur Ethernet NVIDIA Spectrum-4 et de la SuperNIC NVIDIA BlueField-3. Cette combinaison a pour effet net de contribuer à réduire les temps d'exécution des modèles d'IA générative massifs. Pour les clients qui recherchent un accès plus rapide aux informations critiques, la multi-location et une évolutivité future, ces systèmes Supermicro dotés de NVIDIA Spectrum-X sont idéalement conçus pour répondre à leurs exigences.