用于云规模人工智能训练和推理
自 2013 年以来，对高性能人工智能/深度学习 (DL) 训练计算的需求每 3.5 个月翻一番（根据 OpenAI 的数据），而且随着数据集规模的不断扩大，以及基于大型语言模型 (LLM)、计算机视觉、推荐系统等的应用和服务数量的增加，这种需求还在加速增长。
随着对更强训练与推理性能、吞吐量及容量需求的增长，行业亟需专用系统来提升效率、降低成本、简化实施、实现灵活定制，并支持人工智能系统的扩展。人工智能已成为多种领域的核心技术，例如飞行员助手、虚拟助理、制造业自动化、自动驾驶车辆运营以及医学影像等。Supermicro 基于英特尔Gaudi人工智能加速器，提供云规模系统及机架设计方案。
全新Supermicro Gaudi® 3人工智能训练与推理平台
为企业级人工智能市场提供更多选择，Supermicro 人工智能训练平台基于第三代英特尔® Gaudi 3加速器打造，旨在进一步提升大规模人工智能模型训练与推理的效率。该平台提供风冷和液冷两种配置方案Supermicro14 Gaudi 3解决方案可轻松扩展以满足各类人工智能工作负载需求。
- 图形处理器OAM 2.0 底板上的 8 个高迪 3 HL-325L（风冷）或 HL-335（液冷）加速器
- 中央处理器双 Intel® Xeon® 6 处理器
- 内存：24 个 DIMM - 1DPC 中最多 6TB 内存
- 驱动器最多 8 个热插拔 PCIe 5.0 NVMe
- 电源：8 台 3000 瓦高效全冗余（4+4）钛级电源
- 网络：6 个板载 OSFP 800GbE 端口，用于扩展
- 扩展插槽：2 个 PCIe 5.0 x16 (FHHL) + 2 个 PCIe 5.0 x8 (FHHL)
- 工作量：人工智能训练和推理
Supermicro 人工智能训练服务器
基于Supermicro AI训练系统的成功经验，Gaudi 2 AI服务器重点关注两大核心要素：将AI加速器与内置高速网络模块深度融合，以提升训练尖端AI模型的运行效率；同时为AI行业提供所需的多样化选择。
- 图形处理器8 块 Gaudi2 HL-225H 夹层卡
- 中央处理器双第 3 代英特尔® 至强® 可扩展处理器
- 内存32 个 DIMM - 高达 8TB 寄存 ECC DDR4-3200MHz SDRAM
- 驱动器：最多 24 个热插拔驱动器（SATA/NVMe/SAS）
- 电源：6x 3000W 高效（54V+12V）全冗余电源
- 网络：通过 6 个 QSFP-DD 连接 24 个 100GbE（48 x 56Gb）PAM4 SerDes 链路
- 扩展插槽：2 个 PCIe 4.0 交换机
- 工作量：人工智能训练和推理
搭载英特尔® Gaudi® 3 的Supermicro 真实世界的人工智能场景优化
搭载英特尔®至强®6系列处理器（含P核）与英特尔GaudiSupermicro 性能较前代产品显著提升。
Supermicro Hyper VMware平台企业级AI工作负载
计算人工智能工作负载使用案例：大型语言模型 (LLM) 和人工智能图像识别 - 英特尔® 数据中心 Flex 170 GPU 上的 ResNet50
Supermicro ：基于英特尔数据中心GPU Flex系列的新型媒体处理解决方案
观看我们的产品专家探讨基于英特尔最新发布的数据中心GPU Flex系列打造Supermicro 。了解这些解决方案如何为您和您的企业创造价值。
针对云游戏、媒体、转码和人工智能推理的创新解决方案
太平洋时间 2022 年 9 月 8 日上午 10:00
Supermicro 的产品及解决方案专家将在非正式会议中探讨采用近期发布的英特尔Flex系列GPU在云游戏、媒体传输、转码及AI推理领域解决方案的优势。本次网络研讨会将阐述Supermicro 的优势、理想服务器配置以及使用英特尔Flex系列GPU的效益。
