英特爾高第的高效率、深度學習優化解決方案AI 加速器
對於雲端規模AI 培訓和推論
對高性能的需求AI /自 2013 年以來，深度學習 (DL) 訓練計算規模每 3.5 個月翻一番（據 OpenAI 稱），並且隨著數據集規模的增長以及基於大型語言模型 (LLM)、計算機視覺、推薦系統等的應用程序和服務數量的增加，這一增長速度還在加快。
隨著對更多培訓的需求增加，推論 為了滿足效能、吞吐量和容量方面的需求，業界需要能夠提高效率、降低成本、易於實施、靈活客製化和可擴展的專用系統。 AI 系統。 AI 已成為副駕駛、虛擬助理、製造自動化、自動駕駛汽車操作和醫學成像等許多領域的重要技術。 Supermicro 已與英特爾合作，利用英特爾高第技術提供雲端規模系統和機架設計。 AI 加速器。
新的Supermicro X14 Gaudi® 3 AI 培訓和推論 平台
為企業帶來選擇AI 市場，新的Supermicro X14 AI 訓練平台基於第三代英特爾® Gaudi 3 加速器構建，旨在進一步提高大規模訓練的效率。 AI 模型訓練和AI 推理。提供風冷和液冷兩種配置。 Supermicro的X14 Gaudi 3 解決方案可輕鬆擴展，以滿足各種AI工作負載需求。
- 繪圖處理器：OAM 2.0 底板上的 8 個 Gaudi 3 HL-325L (氣冷式) 或 HL-335 (液冷式) 加速器
- CPU雙英特爾® Xeon® 6個處理器
- 記憶體：24 個 DIMM - 1DPC 高達 6 TB 記憶體
- 磁碟機：最多 8 個熱插拔 PCIe 5.0 NVMe
- 電源供應器：8 個 3000 瓦高效能完全備援 (4+4) 鈦金屬等級
- 網路：6 個內建 OSFP 800GbE 連接埠，可擴充規模
- 擴充插槽：2 個 PCIe 5.0 x16 (FHHL) + 2 個 PCIe 5.0 x8 (FHHL)
- 工作量： AI 培訓和推論
Supermicro 高第®2 AI 訓練伺服器
在原有成功的基礎上Supermicro 高第AI 訓練系統，高第2 AI 伺服器優先考慮兩個關鍵因素：集成AI 內建高速網路模組的加速器可提高訓練最先進技術的運作效率AI 模型和引入AI 行業需要選擇。
- GPU：8 張 Gaudi2 HL-225H 夾層卡
- CPU雙路第三代英特爾® Xeon® 可擴充處理器
- 記憶體：32 DIMM - 高達 8 TB 註冊 ECC DDR4-3200MHz SDRAM
- 磁碟機：最多 24 個熱插拔磁碟機 (SATA/NVMe/SAS)
- 電源：6 個 3000 瓦高效率 (54V+12V) 全備援電源供應器
- 網路：24 x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- 擴充插槽：2 個 PCIe 4.0 交換器
- 工作量： AI 培訓和推論
資源
影片
Supermicro 技術講座：基於英特爾資料中心GPU Flex系列的新型媒體處理解決方案
