Netzwerkhardware, Geräte und Ausrüstung für Rechenzentren

KI treibt den Bedarf an fortschrittlicherer Compute-Infrastruktur voran, einschließlich der Vernetzung. Ein Mangel an Netzwerkbandbreite führt oft zu einem Engpass bei der Informationsverarbeitung, die KI-Anwendungen antreibt. Beschleunigte Compute-Infrastruktur ist nur so schnell wie ihr schwächstes Glied, und allzu oft ist das die Vernetzung. Glücklicherweise hat Supermicro in Zusammenarbeit mit NVIDIA die neue NVIDIA Spectrum-X Netzwerkplattform in mehreren seiner Systeme qualifiziert, um eine bis zu 1,6-fach bessere Netzwerkleistung für KI-Workloads zu ermöglichen, verbunden mit erhöhter Energieeffizienz und reduzierten Gesamtbetriebskosten. Mit der Kombination aus dem NVIDIA Spectrum-4 Ethernet-Switch und der NVIDIA BlueField®-3 SuperNIC können Kunden nun die leistungsstärkste Ethernet-KI-Cloud-Verarbeitungsinfrastruktur nutzen.

Systeme, die jetzt mit der NVIDIA Spectrum-X Netzwerklösung qualifiziert werden, umfassen die sehr beliebten GPU SuperServers von Supermicro, die in 4U-, 5U- und 8U-Höhen erhältlich sind und NVIDIA GPUs in den folgenden Systemen unterstützen:

• Supermicro 8U GPU-Server mit NVIDIA HGX H100 8-GPU-Systemen:
  • SYS-821GE-TNHR (8U) - Intel CPUs
  • AS -8125GS-TNHR (8U) – AMD CPUs
  • SYS-421GU-TNXR (4U) - Intel CPUs
• Supermicro Universal-GPU-Server (4U und 5U) mit NVIDIA H100 PCIe GPUs oder NVIDIA L40S GPUs:
  • SYS-521GE-TNRT (5U) - Intel CPUs
  • SYS-421GE-TNRT (4U) - Intel CPUs
  • SYS-421GE-TNRT3 (4U) - Intel CPUs
  • AS -4125GS-TNRT (4U) – AMD CPU
  • AS -4125GS-TNRT2 (4U) – AMD CPU

Diese Supermicro-Systeme, angetrieben von NVIDIA Spectrum-X, reduzieren die Trainings- und Inferenzlaufzeiten massiver transformatorbasierter generativer KI-Modelle, was entscheidend ist, um schnellere Ergebnisse und Erkenntnisse aus der KI zu liefern.

Neben der enormen Steigerung der Netzwerkleistung um das 1,6-fache für KI profitieren Supermicro Systeme mit NVIDIA Spectrum-X Netzwerken von der Isolierung der Workload-Leistung in Multi-Tenant-Umgebungen. Die Möglichkeit, Workloads Daten separat und unabhängig zu verschieben, frei von „Noisy-Neighbor“-Interferenzen, die die Leistung beeinträchtigen könnten, ist entscheidend für Hochleistungsanwendungen. Zusätzlich bietet die Isolierung von Netzwerk-Workloads einen zusätzlichen Sicherheitsvorteil, indem sie verhindert, dass böswillige Akteure in einem Workload einen separaten Workload stören. NVIDIA Spectrum-X erreicht diese verbesserte Workload-Isolierung durch sichere Virtual Private Clouds (VPCs), die jedem Tenant zugewiesen werden.

Energieeffizienz war schon immer ein entscheidendes Anliegen beim Betrieb von Hochleistungs- und Hochleistungs-KI-Systemen. Durch die Bereitstellung erhöhter Netzwerkleistung innerhalb des gleichen Netzwerkleistungsbudgets kann NVIDIA Spectrum-X zu einer energieeffizienteren KI-Umgebung beitragen. Diese bessere Leistung pro Watt führt zu einem geringeren Gesamtstromverbrauch und potenziell niedrigeren Gesamtbetriebskosten. Für Benutzer, die sich häufig auf Leistungsbegrenzungen verlassen, um die Energiekosten zu kontrollieren, bieten Supermicro Systeme mit Spectrum-X die Gewissheit, dass die Energieverbrauchsgrenzen nicht überschritten werden.  

Kunden, die auf standardisiertes Ethernet-Networking setzen, können sich darauf verlassen, dass NVIDIA Spectrum-X vollständig standardbasiert und vollständig interoperabel mit Ethernet-basierten Stacks ist. Darüber hinaus helfen Supermicro Server mit NVIDIA Spectrum-X Kunden, die größte Herausforderung bei der Bereitstellung von KI zu meistern – die Skalierbarkeit. Mit der Fähigkeit, 256 200G-Ports in einem einzigen Switch oder 16K-Ports in einer zweistufigen Leaf/Spine-Topologie zu unterstützen, sind dies ideale Systeme für Organisationen mit sich entwickelnden Anforderungen an die beschleunigte Compute-Infrastruktur.

Da Supermicro bestrebt ist, die Anforderungen von KI-Kunden zu erfüllen, die nicht nur Hochleistungsnetzwerke, sondern auch Cloud-Mandantenfähigkeit benötigen, nutzen Supermicro-Systeme mit NVIDIA Spectrum-X Remote Direct Memory Access (RDMA) über Converged Ethernet (RoCE)-Erweiterungen, um sowohl Leistung als auch Mandantenfähigkeit zu unterstützen. Die Leistung gegenüber herkömmlichem Ethernet ist, wie die untenstehende Grafik zeigt, beeindruckend.  

Die bahnbrechende Netzwerktechnologie von NVIDIA, die auch in zahlreichen Supermicro-Servern zum Einsatz kommt, ermöglicht bahnbrechende Netzwerkleistung für KI, Multi-Tenant-Leistungsisolierung und eine erhöhte Energieeffizienz. Dies wird erreicht, indem auf Ethernet-Netzwerkstandards aufgebaut und der NVIDIA Spectrum-4 Ethernet-Switch mit der NVIDIA BlueField-3 SuperNIC gekoppelt wird. Diese Kombination trägt dazu bei, die Laufzeiten massiver generativer KI-Modelle zu reduzieren. Für Kunden, die schnellere Erkenntnisse, Multi-Tenancy und zukünftige Skalierbarkeit benötigen, sind diese Supermicro-Systeme mit NVIDIA Spectrum-X ideal geeignet, um ihre Anforderungen zu erfüllen.