データセンター向けネットワークハードウェア、デバイス、機器

AIは、ネットワーキングを含む、より高度なコンピューティングインフラストラクチャの必要性を推進しています。ネットワーキング帯域幅の不足は、AIアプリケーションを駆動する情報処理においてボトルネックを生じさせることがよくあります。アクセラレーテッドコンピューティングインフラストラクチャは、その最も弱いリンクと同じ速度しかなく、多くの場合、それがネットワーキングです。幸いにも、SupermicroはNVIDIAと協力し、新しいNVIDIA Spectrum-Xネットワーキングプラットフォームをいくつかのシステムで認定しました。これにより、AIワークロード向けに最大1.6倍優れたネットワーキング性能、エネルギー効率の向上、および総所有コストの削減が可能になります。NVIDIA Spectrum-4イーサネットスイッチとNVIDIA BlueField®-3 SuperNICの組み合わせにより、お客様は最高性能のイーサネットAIクラウド処理インフラストラクチャを活用できるようになりました。

NVIDIA Spectrum-Xネットワーキングソリューションで現在認定されているシステムには、Supermicroの非常に人気のあるGPU SuperServersが含まれます。これらのSuperServersは4U、5U、8Uの高さで提供され、以下のシステムでNVIDIA GPUをサポートします。

• Supermicro 8U GPUサーバー (NVIDIA HGX H100 8-GPUシステム搭載):
  • SYS-821GE-TNHR(8U) - Intel CPU
  • AS -8125GS-TNHR (8U) – AMD CPU
  • SYS-421GU-TNXR(4U) - Intel CPU
• Supermicro ユニバーサルGPUサーバー（4Uおよび5U） NVIDIA H100 PCIe GPUまたはNVIDIA L40S GPU搭載:
  • SYS-521GE-TNRT(5U) - Intel CPU
  • SYS-421GE-TNRT(4U) - Intel CPU
  • SYS-421GE-TNRT3(4U) - Intel CPU
  • AS -4125GS-TNRT (4U) – AMD CPU
  • AS -4125GS-TNRT2 (4U) – AMD CPU

NVIDIA Spectrum-Xを搭載したこれらのSupermicroシステムは、大規模なトランスフォーマーベースの生成AIモデルのトレーニングおよび推論ランタイムを短縮し、AIからのより迅速な結果と洞察を提供するために不可欠です。

AI向けネットワーク性能を1.6倍に大幅に向上させるだけでなく、NVIDIA Spectrum-Xネットワーキングを搭載したSupermicroシステムは、マルチテナント環境でワークロード性能を分離することから恩恵を受けます。ワークロードが個別に独立してデータを移動できるようにし、性能を妨げる可能性のある「ノイジーネイバー」干渉から解放することは、高性能アプリケーションにとって不可欠です。さらに、ネットワークワークロードを分離することで、あるワークロード内の悪意のあるアクターが別のワークロードに干渉するのを防ぐという追加のセキュリティ上の利点が得られます。NVIDIA Spectrum-Xは、各テナントに割り当てられたセキュアな仮想プライベートクラウド (VPC) を通じて、この強化されたワークロード分離を実現します。

高性能・高電力AIシステムを運用する上で、エネルギー効率は常に重要な懸念事項でした。NVIDIA Spectrum-Xは、同じネットワーク電力エンベロープ内でネットワークパフォーマンスを向上させることで、より電力効率の高いAI環境に貢献できます。このワットあたりのパフォーマンス向上は、全体的な消費電力の削減と、潜在的な総所有コストの削減につながります。エネルギーコストを管理するために一般的に電力制限（パワーキャッピング）に依存しているユーザーにとって、Spectrum-Xを搭載したSupermicroシステムは、エネルギー消費制限が超過されないという安心感を提供します。  

イーサネットネットワーキングを標準化しているユーザーは、NVIDIA Spectrum-Xが完全に標準ベースであり、イーサネットベースのスタックと完全に相互運用可能であることを確信できます。さらに、NVIDIA Spectrum-Xを搭載したSupermicroサーバーは、AI導入における最も重要な課題であるスケーラビリティを顧客が克服するのに役立ちます。単一のスイッチで256個の200Gポート、または2層のリーフ/スパイン・トポロジーで16Kポートをサポートする能力により、これらは進化するアクセラレーテッドコンピューティングインフラストラクチャのニーズを持つ組織にとって理想的なシステムです。

Supermicroが、高性能ネットワーキングだけでなくクラウドのマルチテナンシーも必要とするAI顧客のニーズに応えるべく努力する中、NVIDIA Spectrum-Xを搭載したSupermicroシステムは、Converged Ethernet (RoCE) 拡張機能上のリモートダイレクトメモリアクセス (RDMA) を活用し、性能とマルチテナンシーの両方をサポートします。下のグラフが示すように、従来のイーサネットと比較した性能は驚異的です。  

NVIDIAの画期的なネットワーキング技術は、数多くのSupermicroサーバーに搭載され、AI向けに画期的なネットワーク性能、マルチテナント性能の分離、およびエネルギー効率の向上を実現します。これらはすべて、NVIDIA Spectrum-4 EthernetスイッチとNVIDIA BlueField-3 SuperNICを組み合わせることで、イーサネットネットワーキング標準に基づいて構築されています。この組み合わせは、大規模な生成AIモデルの実行時間を短縮する効果をもたらします。重要なインサイトへの迅速なアクセス、マルチテナンシー、将来的なスケーラビリティを必要とするお客様にとって、NVIDIA Spectrum-Xを搭載したこれらのSupermicroシステムは、そのニーズを満たすのに理想的です。