Matériel, dispositifs et équipements de mise en réseau pour les centres de données

L'IA stimule le besoin d'infrastructures informatiques plus avancées, notamment en matière de réseau. Le manque de bande passante réseau crée souvent un goulot d'étranglement dans le traitement des informations qui alimentent les applications d'IA. La vitesse d'une infrastructure informatique accélérée dépend de son maillon le plus faible, et trop souvent, il s'agit du réseau. Heureusement, en collaboration avec NVIDIA, Supermicro certifié la nouvelle plateforme réseau NVIDIA Spectrum-X dans plusieurs de ses systèmes afin d'offrir des performances réseau jusqu'à 1,6 fois supérieures pour les charges de travail IA, tout en augmentant l'efficacité énergétique et en réduisant le coût total de possession. Grâce à la combinaison du commutateur Ethernet NVIDIA Spectrum-4 et de la carte réseau NVIDIA BlueField®-3 SuperNIC, les clients peuvent désormais bénéficier de l'infrastructure de traitement cloud IA Ethernet la plus performante.

Les systèmes actuellement certifiés avec la solution réseau NVIDIA Spectrum-X comprennent les très populaires GPU SuperServers Supermicro, disponibles en hauteurs 4U, 5U et 8U, et prenant en charge les GPU NVIDIA dans les systèmes suivants :

• Serveurs GPU Supermicro avec systèmes NVIDIA HGX H100 à 8 GPU :
  • SYS-821GE-TNHR (8U) - CPU Intel
  • AS -8125GS-TNHR (8U) - CPU AMD
  • SYS-421GU-TNXR (4U) - CPU Intel
• Serveurs GPU Supermicro (4U et 5U) avec GPU NVIDIA H100 PCIe ou GPU NVIDIA L40S :
  • SYS-521GE-TNRT (5U) - CPU Intel
  • SYS-421GE-TNRT (4U) - CPU Intel
  • SYS-421GE-TNRT3 (4U) - CPU Intel
  • AS -4125GS-TNRT (4U) - AMD CPU
  • AS -4125GS-TNRT2 (4U) - AMD CPU

Ces Supermicro , équipés de NVIDIA Spectrum-X, réduisent les temps d'exécution de l'entraînement et de l'inférence des modèles d'IA générative basés sur des transformateurs massifs, essentiels pour obtenir plus rapidement des résultats et des informations grâce à l'IA.

En plus d'augmenter considérablement les performances du réseau de 1,6 fois pour l'IA, Supermicro équipés du réseau NVIDIA Spectrum-X bénéficient de l'isolation des performances des charges de travail dans les environnements multi-locataires. Il est essentiel pour les applications hautes performances que les charges de travail puissent déplacer les données séparément et indépendamment, sans subir les interférences « voisines bruyantes » qui pourraient nuire aux performances. De plus, l'isolation des charges de travail réseau offre un avantage supplémentaire en matière de sécurité, car elle empêche les acteurs malveillants d'une charge de travail d'interférer avec une autre charge de travail. NVIDIA Spectrum-X réalise cette isolation améliorée des charges de travail grâce à des clouds privés virtuels (VPC) sécurisés attribués à chaque locataire.

L'efficacité énergétique a toujours été une préoccupation majeure lors de l'exploitation de systèmes d'IA haute performance et haute puissance. En offrant des performances réseau accrues dans le même enveloppe énergétique, NVIDIA Spectrum-X peut contribuer à un environnement d'IA plus économe en énergie. Cette meilleure performance par watt entraîne une réduction de la consommation énergétique globale et potentiellement une baisse du coût total de possession. Pour les utilisateurs qui ont généralement recours à la limitation de la puissance pour contrôler leurs coûts énergétiques, Supermicro équipés de Spectrum-X permettent de s'assurer que les limites de consommation d'énergie ne sont pas dépassées.  

Les consommateurs qui ont standardisé leur réseau Ethernet peuvent être assurés que NVIDIA Spectrum-X est entièrement basé sur les normes et totalement interopérable avec les piles Ethernet. De plus, Supermicro équipés de NVIDIA Spectrum-X aident les clients à surmonter le défi le plus important du déploiement de l'IA : l'évolutivité. Capables de prendre en charge 256 ports 200G dans un seul commutateur ou 16 000 ports dans une topologie feuille/épine à deux niveaux, ces systèmes sont idéaux pour les organisations dont les besoins en matière d'infrastructure informatique accélérée sont en constante évolution.

Alors que Supermicro de répondre aux besoins des clients IA qui ont besoin non seulement d'un réseau haute performance, mais aussi d'une multi-location cloud, Supermicro équipés de NVIDIA Spectrum-X exploitent les extensions RDMA (Remote Direct Memory Access) sur Converged Ethernet (RoCE) pour prendre en charge à la fois les performances et la multi-location. Les performances par rapport à l'Ethernet traditionnel sont étonnantes, comme l'illustre le graphique ci-dessous.  

La technologie réseau révolutionnaire de NVIDIA, intégrée à Supermicro nombreux Supermicro , offre des performances réseau exceptionnelles pour l'IA, une isolation des performances multi-locataires et une efficacité énergétique accrue. Tout cela est réalisé en s'appuyant sur les normes de réseau Ethernet, grâce à l'association du commutateur Ethernet NVIDIA Spectrum-4 et de la carte réseau NVIDIA BlueField-3 SuperNIC. Cette combinaison a pour effet net de contribuer à réduire les temps d'exécution des modèles d'IA générative massifs. Pour les clients qui ont besoin d'obtenir plus rapidement des informations critiques, d'une multi-location et d'une évolutivité future, ces Supermicro équipés de NVIDIA Spectrum-X sont parfaitement adaptés à leurs besoins.