資料中心的網路硬體、裝置與設備
AI 推動著對更先進運算基礎架構的需求,其中包含網路系統。網路頻寬不足往往成為驅動AI 之資訊處理的瓶頸。加速運算基礎架構的速度取決於其最薄弱的環節,而這個環節通常就是網路系統。 所幸透過與NVIDIA合作Supermicro 多款系統中驗證全新NVIDIA Spectrum-X網路平台,不僅能為AI 提升高達1.6倍的網路效能,更兼具能源效率提升與總擁有成本降低的優勢。結合NVIDIA Spectrum-4乙太網路交換器與NVIDIA BlueField®-3 SuperNIC,客戶現可運用業界最高效能的乙太AI 處理基礎架構。

目前採用 NVIDIA Spectrum-X 網路解決方案進行認證的系統,包含Supermicro 廣受歡迎的 GPUSuperServers 4U、5U 及 8U 三種高度規格,並支援 NVIDIA GPU 的系統如下:
- Supermicro GPU 伺服器搭載 NVIDIA HGX H100 8-GPU 系統:
- SYS-821GE-TNHR(8U) - Intel CPU
- AS -8125GS-TNHR(8U) -AMD CPU
- SYS-421GU-TNXR(4U) - Intel CPU
- Supermicro GPU 伺服器(4U 與 5U 機箱),搭載 NVIDIA H100 PCIe GPU 或 NVIDIA L40S GPU:
- SYS-521GE-TNRT(5U) - Intel CPU
- SYS-421GE-TNRT(4U) - Intel CPU
- SYS-421GE-TNRT3(4U) - Intel CPU
- AS -4125GS-TNRT(4U) –AMD CPU
- AS -4125GS-TNRT2(4U) –AMD CPU

這些搭載NVIDIA Spectrum-X的Supermicro ,能大幅縮短基於巨型變壓器架構的生成式AI 訓練與推論執行時間,對於AI成果產出與洞察獲取至關重要。
除了將AI網路效能大幅提升1.6倍外,搭載NVIDIA Spectrum-X網路Supermicro 更能在多租戶環境中實現工作負載效能隔離。此技術允許各工作負載獨立傳輸資料,免受可能影響效能的「鄰居干擾」影響,對高效能應用至關重要。 此外,隔離網路工作負載還能提供額外的安全性效益,防止某個工作負載中的惡意行為者干擾其他獨立工作負載。NVIDIA Spectrum-X 透過為每個租戶分配安全的虛擬私有雲(VPC),實現這種強化型工作負載隔離機制。
在運行高效能、AI ,能源效率始終是關鍵考量。NVIDIA Spectrum-X能在相同網路功耗範圍內提供更強大的網路效能,有助打造更節能AI 。其優異的每瓦效能表現,不僅降低整體功耗,更可能減少總擁有成本。 對於常需透過電力上限控制能源成本的用戶,搭載Spectrum-X的Supermicro 能有效確保能源消耗上限不被突破,提供可靠保障。
採用標準化乙太網路的消費者可放心,NVIDIA Spectrum-X 完全基於標準規範,並能與基於乙太網路的堆疊實現完全互通。此外,搭載 NVIDIA Spectrum-X 的Supermicro 客戶克服部署AI的最大挑戰——可擴展性。 憑藉單一交換器支援256個200G埠,或在雙層葉脊拓撲中支援16,000個埠的能力,這些系統是滿足組織加速運算基礎架構需求不斷演進的理想選擇。
Supermicro 滿足AI 的需求——這些AI 不僅需要高效能網路,更需雲端多租戶架構——搭載NVIDIASupermicro 透過融合乙太網路遠端直接記憶體存取(RoCE)擴充技術,同時實現效能與多租戶支援。相較傳統乙太網路,其效能提升幅度驚人,如下圖所示。
NVIDIA的突破性網路技術,包含於眾多Supermicro ,為AI實現突破性網路效能、多租戶效能隔離,並提升能源效率。 此技術在以太網路標準基礎上,透過整合NVIDIA Spectrum-4乙太網路交換器與NVIDIA BlueField-3 SuperNIC晶片實現。此組合能有效縮短大型AI 運算時間。對於需要加速關鍵洞察獲取、多租戶支援及未來擴展性的客戶,搭載NVIDIA Spectrum-XSupermicro 正是滿足需求的理想選擇。
