針對雲端規模AI 與推論
自2013年起AI高效能AI(DL)訓練運算需求每3.5個月便翻倍增長(根據OpenAI數據),隨著數據集規模擴大,以及基於大型語言模型(LLMs)、電腦視覺、推薦系統等技術的應用與服務數量激增,此增長態勢正持續加速。
隨著對更高訓練和推論效能、吞吐量和容量的需求不斷增長,業界需要專用系統,以提供更高的效率、更低的成本、易於實施、實現客製化的靈活性以及 AI 系統的擴展性。AI 已成為諸如副駕駛、虛擬助理、製造自動化、自動駕駛操作和醫學影像等眾多領域不可或缺的技術。Supermicro 已與 Intel 合作,提供搭載 Intel Gaudi AI 加速器的雲端規模系統和機架設計。

全新 Supermicro X14 Gaudi® 3 AI 訓練與推論平台
為企業 AI 市場帶來更多選擇,全新 Supermicro X14 AI 訓練平台採用第三代 Intel® Gaudi 3 加速器,旨在進一步提升大規模 AI 模型訓練和 AI 推論的效率。Supermicro 的 X14 Gaudi 3 解決方案提供氣冷和液冷配置,可輕鬆擴展以滿足廣泛的 AI 工作負載需求。
- 繪圖處理器:OAM 2.0 底板上的 8 個 Gaudi 3 HL-325L (氣冷式) 或 HL-335 (液冷式) 加速器
- CPU:雙 Intel® Xeon® 6 處理器
- 記憶體:24 個 DIMM - 1DPC 高達 6 TB 記憶體
- 磁碟機:最多 8 個熱插拔 PCIe 5.0 NVMe
- 電源供應器:8 個 3000 瓦高效能完全備援 (4+4) 鈦金屬等級
- 網路:6 個內建 OSFP 800GbE 連接埠,可擴充規模
- 擴充插槽:2 個 PCIe 5.0 x16 (FHHL) + 2 個 PCIe 5.0 x8 (FHHL)
- 工作負載:AI 與推論
Supermicro Gaudi®2 AI 訓練伺服器
延續初代 Supermicro Gaudi AI 訓練系統的成功,Gaudi 2 AI 伺服器優先考量兩大關鍵因素:整合內建高速網路模組的 AI 加速器,以提升最先進 AI 模型訓練的運作效率;並為 AI 產業帶來 所需的選擇。
- GPU:8 張 Gaudi2 HL-225H 夾層卡
- CPU:雙第三代 Intel® Xeon® 可擴展處理器
- 記憶體:32 DIMM - 高達 8 TB 註冊 ECC DDR4-3200MHz SDRAM
- 磁碟機:最多 24 個熱插拔磁碟機 (SATA/NVMe/SAS)
- 電源:6 個 3000 瓦高效率 (54V+12V) 全備援電源供應器
- 網路:24 x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- 擴充插槽:2 個 PCIe 4.0 交換器
- 工作負載:AI 與推論
邊緣運算的AI 與效率 – 由 Intel 驅動
AI Intel 與Supermicro 專為邊緣運算打造的系統解決方案AI 釋放強大且節能的邊緣AI 。Supermicro產品組合涵蓋廣泛的先進 CPU 與 GPU 系列,能在空間受限及遠端環境中提供高效能、低延遲的AI ,協助企業自信地擴展資料驅動型應用程式。
- 透過整合式CPU、GPU 和 NPU 架構來優化效能
- 使用 OpenVINO 加速AI
- AI 零售、醫療保健和製造等AI 產業AI 部署可靠且節能AI
Supermicro 和搭載 Gaudi® 3 的 Intel® Xeon® 展現卓越效能
Supermicro 和 Intel® 攜手合作,提供混合式 CPU+GPU 架構,採用 Intel® Xeon® 6 和 Intel® Gaudi® 3,實現可擴展、具成本效益的 LLM 推論
搭載 Intel® Gaudi® 3 的 Supermicro 伺服器針對實際 AI 情境進行最佳化
搭載 Intel® Xeon® 6 系列 P-Core 處理器和 Intel Gaudi 3 加速器的全新 Supermicro 伺服器展現超越前幾代的效能提升
Supermicro X14 Intel® Gaudi® AI 加速器叢集參考設計
透過 Supermicro 的 X14 Intel® Gaudi® 3 加速器系統,藉由建構於開源軟體和業界標準乙太網路,加速 AI 解決方案並降低其成本
Supermicro 與 Intel GAUDI 3 系統推進企業 AI 基礎設施
使用 IntelXeon 6 處理器的高頻寬AI 系統,適用於跨企業規模的高效LLM 與 GenAI 訓練與推論
Supermicro X13 Hyper 賦能 VMWARE 平台上的企業 AI 工作負載
計算AI 應用案例:大型語言模型(LLM)AI 識別——ResNet50於英特爾® Data Center Flex 170 GPU平台
基於搭載 Intel® 資料中心 GPU Flex 系列的 Supermicro 伺服器之優越媒體處理與傳遞解決方案
搭載 Intel® 資料中心 GPU Flex 系列的 Supermicro 系統
Supermicro TECHTalk:基於 Intel 資料中心 GPU Flex 系列的全新媒體處理解決方案
觀看我們的產品專家討論基於剛發布的 Intel 資料中心 GPU Flex 系列的全新 Supermicro 解決方案。了解這些解決方案如何為您和您的公司帶來益處。
實現可擴展的雲端遊戲服務
搭載 Intel® 資料中心 GPU Flex 系列的 Supermicro 系統
Supermicro 提供所有系統元件,供雲端服務供應商建立綠色、具成本效益且獲利的雲端遊戲基礎設施。
雲端遊戲、媒體、轉碼及AI 推理的創新解決方案
2022年9月8日 上午10:00(太平洋夏令時間)
Supermicro 和 Intel 的產品與解決方案專家將在非正式會議中討論採用近期發布的 Intel Flex 系列 GPU,在雲端遊戲、媒體傳遞、轉碼和 AI 推論領域的解決方案優勢。本網路研討會將解釋 Supermicro 解決方案的優勢、理想的伺服器以及使用 Intel Flex 系列 GPU 的益處。

