クラウド AIトレーニング 推論
ハイパフォーマンス (DL)トレーニング への需要は、2013年以降、3.5ヶ月ごとに倍増しており(OpenAI調べ)、大規模言語モデル(LLM)、コンピュータビジョン、レコメンデーションシステムなどを基盤とするデータセットの規模やアプリケーション・サービスの数の拡大に伴い、その増加ペースはさらに加速しています。
推論 、スループット、容量に対する需要の高まりに伴い、業界では、効率性の向上、コスト削減、導入の容易さ、カスタマイズを可能にする柔軟性、そしてAIシステムの拡張性を備えた専用システムが求められています。AIは、コパイロット、バーチャルアシスタント、製造の自動化、自動運転車の運用、医療用画像診断など、多岐にわたる分野において不可欠な技術となっています。Supermicro IntelとSupermicro 、Intel Gaudi AIアクセラレータを搭載したクラウド およびラック設計を提供しています。

Supermicro X14 Gaudi® AIトレーニング 推論
エンタープライズAI市場に新たな選択肢をもたらす、Supermicro X14 トレーニング 、第3世代インテル® 3アクセラレータを基盤としており、大規模トレーニング の効率をさらに高めるように設計されています。空冷および水冷の両方の構成でSupermicro X14 3ソリューションSupermicro、幅広いAIワークロードの要件に合わせて容易に拡張可能です。
- GPUOAM 2.0ベースボード上の8つのGaudi 3 HL-325L(空冷)またはHL-335(液冷)アクセラレータ
- CPU:インテル® Xeon® プロセッサ 2基
- メモリー:24 DIMM - 1DPCメモリー 最大6TBのメモリー
- ドライブ:最大8基のホットスワップPCIe .0NVMe
- 電源8 3000W 高効率完全冗長化 (4+4) チタニウムレベル
- ネットワーキング: 6個のオンボードOSFP 800GbEポート(スケールアウト用
- 拡張スロット:PCIe .0 x16(FHHL)×2 +PCIe .0 x8(FHHL)×2
- ワークロード:AIトレーニング 推論
Supermicro AIトレーニング
Supermicro トレーニング 成功を基盤として、Gaudi 2 AIサーバーは2つの重要な点を最優先しています。それは、AIアクセラレータと内蔵の高速ネットワークモジュールを統合し、トレーニング モデルのトレーニング 運用効率を向上させること、そしてAI業界に必要な選択肢を提供することです。
- GPU8枚のGaudi2 HL-225Hメザニンカード
- CPU:第3世代インテル® Xeon® スケーラブル・プロセッサー(デュアル)
- メモリー:32 DIMM - 最大8TBのレジスタードECC DDR4-3200MHz SDRAM
- ドライブ:最大24台のホットスワップ対応ドライブ(SAS)
- 電源: 6x 3000W 高効率(54V+12V)完全冗長電源
- ネットワーキング: 6個のQSFP-DDによる24 x 100GbE (48 x 56Gb) PAM4 SerDesリンク
- 拡張スロット:PCIe .0 スイッチ×2
- ワークロード:AIトレーニング 推論
エッジでのAI性能と効率性 – インテル搭載システム
インテルとSupermicroが提供する目的別設計のシステムソリューションで、強力かつ電力効率に優れたエッジAIを実現します。Supermicroのポートフォリオは、先進的なCPUとGPUを幅広く搭載し、スペースに制約のある環境や遠隔地においても高性能・低遅延のAI結果を提供します。これにより、企業はデータ駆動型アプリケーションを安心してスケールさせることができます。
- 統合されたCPU、GPU、NPUアーキテクチャにより性能を最適化
- OpenVINOでAI推論を高速化
- 小売、医療、製造業などさまざまな業界で信頼性が高くエネルギー効率の高いAIを展開

