クラウドスケールのAIトレーニングと推論
高性能なAI/ディープラーニング（DL）トレーニング用コンピュートに対する需要は、2013年以降、3.5カ月ごとに倍増しており（OpenAI調べ）、データセットのサイズの増大や、大規模言語モデル（LLM）、コンピュータビジョン、レコメンデーションシステムなどに基づくアプリケーションやサービスの増加に伴い、加速しています。
トレーニングや推論の性能、スループット、キャパシティに対する要求が高まる中、業界では、効率性の向上、コストの削減、実装の容易さ、カスタマイズを可能にする柔軟性、AIシステムの拡張性を提供する専用システムを必要としています。AIは、コパイロット、バーチャルアシスタント、製造自動化、自律走行車両操作、医療用画像処理など、さまざまな分野で不可欠なテクノロジーとなっています。Supermicro Intelと提携し、Intel Gaudi AI Acceleratorsを搭載したクラウドスケールのシステムとラック設計を提供します。
新しいSupermicro X14 Gaudi® 3 AIトレーニングおよび推論プラットフォーム
エンタープライズAI市場に選択肢をもたらす新しいSupermicro X14 AIトレーニングプラットフォームは、第3世代のIntel® Gaudi 3アクセラレータを基盤としており、大規模なAIモデルトレーニングとAI推論の効率をさらに高めるように設計されています。SupermicroX14 Gaudi 3ソリューションは、空冷式と液冷式の両方の構成で利用可能で、幅広いAIワークロード要件に対応できるよう容易に拡張できます。
- GPUOAM 2.0ベースボード上の8つのGaudi 3 HL-325L（空冷）またはHL-335（液冷）アクセラレータ
- CPUデュアル インテル® Xeon® 6 プロセッサー
- メモリ：24 DIMM - 1DPCで最大6TBメモリ
- ドライブ最大8台のホットスワップPCIe 5.0 NVMe
- 電源8 3000W 高効率完全冗長化 (4+4) チタニウムレベル
- ネットワーキング: 6個のオンボードOSFP 800GbEポート（スケールアウト用
- 拡張スロット: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- ワークロードAIのトレーニングと推論
Supermicro Gaudi®2 AIトレーニングサーバー
オリジナルのSupermicro Gaudi AIトレーニングシステムの成功に基づき、Gaudi 2 AIサーバーは2つの重要な点を優先しています。それは、AIアクセラレータを内蔵の高速ネットワーキングモジュールと統合して、最先端のAIモデルをトレーニングするための運用効率を高めることと、AI業界に必要な選択肢をもたらすことです。
- GPU8枚のGaudi2 HL-225Hメザニンカード
- CPUデュアル第3世代インテル® Xeon® スケーラブル・プロセッサー
- メモリ32 DIMM - 最大8TB登録ECC DDR4-3200MHz SDRAM
- ドライブ：最大24台のホットスワップドライブ（SATA/NVMe/SAS）
- 電源: 6x 3000W 高効率(54V+12V)完全冗長電源
- ネットワーキング: 6個のQSFP-DDによる24 x 100GbE (48 x 56Gb) PAM4 SerDesリンク
- 拡張スロット：2x PCIe 4.0スイッチ
- ワークロードAIのトレーニングと推論
メディア処理と配信、トランスコーディング、クラウドゲーミング、AIビジュアル推論向け
メディアやゲームストリーミング、ビジュアルインファーレンシングの需要が急増し続ける中、企業は、品質やレイテンシーに影響を与えることなく、数千から数百万の同時ユーザーにサービスを提供できる、効率的でスケーラブルなソリューションを必要としています。Supermicro高速コンピューティングソリューションは、メディアおよびクラウドワークロード向けに最適化された新しいIntel Data Center GPUを搭載しています。
インテルGPUは、メディア処理、メディア配信、AIビジュアル推論、クラウドゲーミング、仮想化において、高い信頼性、可用性、スケーラビリティを実現する重要なサーバー機能を備え、密度と品質が最適化されたオープンな標準ベースのソフトウェア・スタックをサポートします。
- ビデオのトランスコード30以上の1080pストリーム
- クラウドゲーミング：40以上のゲームストリーム
- 仮想デスクトップインフラ：62の仮想化機能
- 推論150 AI TOPS
- 最大4基のXeメディアエンジン
- 最大32個のXeコアとレイトレーシング・ユニット
- 業界初のAV1 HWエンコード＆デコード
- XMX AIアクセラレーション内蔵
テックトークを見る
Supermicroテクノロジーイネーブルメント担当シニアディレクターThomas Jorgensenが、Intel Data Center GPU FlexシリーズをベースとしたSupermicro システムのユニークな利点について語ります。
ソリューション概要
Supermicro Intelは共同で、システムあたり560以上の1080p @60Hzのトランスコードされたストリームを確立する大規模なクラウドゲーミングプラットフォームに卓越したパフォーマンスを提供しました。
4Kストリーミング・デモ
このビデオでは、Intel Data Center GPU Flexシリーズを使用したSupermicroリアルタイム4Kビデオストリーミングソリューションを紹介しています。
トランスコーディングの最適化
4Uシャーシに最大10GPUを搭載し、メディア処理性能を最大限に引き出す高性能設計
- GPU最大10基のIntel® Data Center GPU Flexシリーズ（PCI-E 4.0 x16内）
- CPUデュアル第3世代インテル® Xeon® スケーラブル・プロセッサー
- メモリ32 DIMM、最大8TB、インテル® Optane® パーシステント・メモリ使用時は12TB
- ドライブ：24 x 2.5 "ホットスワップドライブベイ（8x NVMe/8x SATA/8x SATA/SAS）
メディア配信の最適化
クラウドエッジでのメディアやゲームのストリーミングに最適化された、高い計算密度を持つマルチノードシステム
- GPUノードあたり最大2基のIntel® Data Center GPU Flexシリーズ（PCI-E 4.0 x16）
- CPUデュアル第3世代インテル® Xeon® スケーラブル・プロセッサー/ノード
- メモリ： 20 DIMM、最大4TB、インテル® Optane® パーシステント・メモリではノードあたり6TB
- ドライブ6x2.5 "ホットスワップNVMe/SATAドライブベイ/ノード
クラウドゲーミングの最適化
2Uフォームファクタの高密度GPU構成用に設計されたマルチノードシステム
- GPUノードあたり最大3基のIntel® Data Center GPU Flexシリーズ（PCI-E 4.0 x16）
- CPU：ノードあたり第3世代インテル® Xeon® スケーラブル・プロセッサー1基
- メモリ：8 DIMM、ノードあたり最大2TB
- ドライブ：ノードあたり2 x 2.5インチホットスワップU.2 NVMeドライブベイ
視覚的推論の最適化
クラウドでの画像AI処理用に設計された最大6GPUのスケーラブルなプラットフォーム
- GPUノードあたり最大6基のIntel® Data Center GPU Flexシリーズ（PCI-E 4.0 x16/x8）
- CPUデュアル第3世代インテル® Xeon® スケーラブル・プロセッサー
- メモリ：16 DIMM、最大4TB、インテル® Optane® パーシステント・メモリ使用時は6TB
- ドライブ12x2.5"/3.5 "ホットスワップNVMe/SAS/SATAハイブリッドドライブベイ
視覚的推論の最適化
最大2GPUのコンパクトなエッジプラットフォーム
- GPU：最大2基のインテル®データセンターGPU Flexシリーズ
- CPUシングル第3世代インテル® Xeon® スケーラブル・プロセッサー（最大32コア
- メモリ：8 DIMM
- ドライブ4x2.5 "内蔵SATAドライブベイ
エッジに最適化されたビジュアル推論
最大2GPU搭載可能な1Uコンパクトエッジプラットフォーム
- GPU：最大2基のインテル®データセンターGPU Flexシリーズ
- CPUシングル第3世代インテル® Xeon® スケーラブル・プロセッサー（最大32コア
- メモリ：8 DIMM
- ドライブ: 2.5インチドライブベイ x 2、M.2 NVMe x 1またはM.2 SATA3 x 1
インテル® Gaudi® 3を搭載したSupermicro サーバーは、実際のAIシナリオに最適化されています。
Pコア搭載インテル® Xeon® 6シリーズ・プロセッサーとインテル® Gaudi 3アクセラレーターを搭載した新しいSupermicro サーバーが、旧世代を上回るパフォーマンスを発揮
Supermicro X14 インテル® Gaudi® AI アクセラレーター・クラスター・リファレンス・デザイン
SupermicroX14 Intel® Gaudi® 3アクセラレータベースシステムにより、オープンソースソフトウェアと業界標準のイーサネットを基盤に、AIソリューションの高速化とコスト削減を実現
GAUDI 3 AIを搭載したSupermicro 、AI要件に対応したスケーラブルなパフォーマンスを提供します。
あらゆる規模とワークロードのデータセンターに最適化された幅広いソリューション 新サービスと顧客満足度の向上を実現
Supermicro Intel GAUDI 3システムがエンタープライズAIインフラを推進
IntelXeon 6プロセッサーを使用した高帯域幅AIシステムにより、エンタープライズ規模での効率的なLLMとGenAIのトレーニングと推論を実現
Supermicro X13Hyper VMWAREプラットフォーム上でエンタープライズAIワークロードを強化
計算AIワークロードのユースケース：大規模言語モデル（LLM）とAI画像認識 - インテル® Data Center Flex 170 GPU上のResNet50
インテル® Developer CloudのSupermicro サーバーでAIコンピューティングを加速
インテル® Xeon® プロセッサーとインテル® Gaudi® 2 AI アクセラレーターを搭載したSupermicro Advanced AI サーバーは、開発者と企業に高性能、高効率の AI クラウド・コンピューティング、トレーニング、推論を提供します。
インテル®データセンターGPU Flexシリーズ搭載Supermicro サーバーに基づく優れたメディア処理および配信ソリューション
インテル®データセンターGPU Flexシリーズ搭載Supermicro システム
Supermicro TECHTalk：Intel Data Center GPU Flexシリーズに基づく新しいメディア処理ソリューション
発表されたばかりのIntel Data Center GPU Flex SeriesをベースにしたSupermicro 新しいソリューションについて、製品エキスパートが解説します。これらのソリューションがお客様やお客様の企業にどのようなメリットをもたらすかをご覧ください。
スケーラブルなクラウドゲーミングの実現
インテル®データセンターGPU Flexシリーズ搭載Supermicro システム
Supermicro 、クラウドサービスプロバイダーがグリーンでコスト効率に優れ、収益性の高いクラウドゲームインフラを構築するためのシステムコンポーネントをすべて提供します。
クラウドゲーム、メディア、トランスコーディング、AI推論のための革新的なソリューション
2022年09月08日 10時00分PDT
Supermicro Intelの製品およびソリューションのエキスパートが、最近発表されたIntel Flex Series GPUを使用したクラウドゲーミング、メディア配信、トランスコーディング、AI推論の分野におけるソリューションの利点について、非公式セッションで説明します。ウェビナーでは、Supermicro ソリューションの利点、理想的なサーバー、Intel Flex Series GPUを使用する利点について説明します。
Supermicro Habana® 高性能・高効率AIトレーニングシステム
ディープラーニングのトレーニングにおいて、従来のAIソリューションよりも最大40%優れた価格/パフォーマンスを実現