跳至主要內容
Supermicro 與 VAST EBox 解決方案

Supermicro EBox 由 H14 CloudDC 伺服器驅動,這是一個專為 VAST Data 的 Disaggregated Shared-Everything (DASE) 架構最佳化的全快閃儲存平台。結合將資料儲存、資料庫和 AI 引擎整合到單一平台的 VAST AI OS,EBox 為資料密集型工作負載和超大規模多租戶儲存提供了儲存骨幹。

EBox 同一台伺服器EBox CNode 運算)DNode 儲存)容器,既免除獨立儲存機箱的需求,又能DASENVMe架構中獨立擴展運算與儲存DASE。此架構可在單一全域命名空間下實現從兆位元組到艾位元組的線性擴展,並原生支援內聯加密、重複資料刪除及刪除編碼,無需外部加速器。 安全治理貫穿資料端到端流程:源檔案的存取控制會自動沿用至嵌入式模型與推論輸出。高頻寬RDMA網路(透過NVIDIA® ConnectX®-7/8實現200GbE)EBox 與客戶端間零複製資料傳輸。對於採用AI組織,EBox 可同時VAST 自動化RAG管道,以及原生向量資料庫的語義查詢功能。

Supermicro 與 VAST CNode-X 解決方案

結合 Supermicro、NVIDIA 和 VAST Data 的 CNode-X AI 資料平台解決方案,為企業 AI 部署提供一站式 AI 儲存和工作流程解決方案。此解決方案整合了全快閃儲存陣列、高效能伺服器、GPU 加速器,並結合 VAST 的 AI OS,提供通用儲存、整合式向量資料庫、事件串流服務和低程式碼資料管線建構器,用於協調 AI 工作負載。

CNode遵循AI 參考架構,將GPU加速技術整合至儲存平台,以加速資料向量化、向量資料庫搜尋及推論工作負載。此解決方案的優勢包括:

已驗證的硬體平台

本解決方案採用 EBox 解決方案中經實證的 Supermicro CloudDC AS -1116CS-TN,並加入 Supermicro 的 SYS-212GB-FNR 2U 多 GPU 運算伺服器,該伺服器支援在精巧的 2U 外型規格中搭載兩顆 NVIDIA RTX PRO™ 6000 Blackwell 伺服器版 GPU。結合 NVIDIA Spectrum™ 交換器和 NVIDIA ConnectX® 網路解決方案,即可涵蓋快速部署企業級 AI 解決方案所需的所有基礎架構。

整合式軟體堆疊

VAST AI OS 獲得 NVIDIA 軟體庫的支援,並與 Supermicro 的硬體平台整合,為使用 VAST AgentEngine 的即時代理和使用 InsightEngine 的企業生成式 AI 提供預先配置、隨時可用的 AI 工作流程。

AI 基金會

當結合 Supermicro 的大規模 AI 伺服器(包括我們採用 NVIDIA HGX B300 伺服器的 8 路 GPU 伺服器)以及 Supermicro 的端到端液冷解決方案時,CNode-X 可作為此大型企業 AI 解決方案的儲存層。

機架整合、測試與安裝

複雜的 AI 工廠安裝可透過 Supermicro 的機架整合服務快速部署,該服務涵蓋系統架構規劃、工廠整合、測試和軟體安裝、現場部署、網路線安裝以及驗收測試。

端到端管理

Supermicro SuperCloud 管理工具套件提供所有 Supermicro 系統和散熱子系統,以及第三方交換器和伺服器的單一視窗管理。

完整AI 堆疊

運用由 NVIDIA 與VAST 驅動的整合式硬體:

VAST 核心

  • 可擴展、事件驅動的GPU運算,適用於AI
  • 即時RAG與多模態工作流程
  • VAST 編排(RKE2)用於 NVIDIA NIM 微服務

VAST 核心

  • 交易型、分析型與向量資料庫服務
  • VAST 代理程式:用於分發事件串流

VAST

  • 全球分佈式資料儲存庫與鍵值快取服務
  • 通用儲存 (NFS、S3、SMB、TCP 上的 NVMe)
Supermicro AI-Ready InfrastructureNetwork & Fabrics2x NVIDIA Spectrum™ SN5600 Switches (880GbE)Accelerated Compute Nodes2x Supermicro CNode-X2x NVIDIA RTX PRO™ 6000 GPUs per node2x NVIDIA® ConnectX®-7 400G EthernetStorage Data PlatformBuilt on NVIDIA AI Data Platform reference designVAST InsightEngine on Supermicro (EBox)Unified datastore & vector intelligence2x NVIDIA® ConnectX®-7 400G EthernetBuilt for Scalability and SimplicityScales from single rack to multi rackUnified design simplifies deployment and management

CloudDC 伺服器

1U單CloudDC 最高支援12組熱插拔2.5吋硬碟,並具備3組PCIe 5.0插槽

  • 單顆 AMD EPYC™ 9005/9004 系列處理器
  • 12 個 DIMM 插槽(1 個 DPC);搭配EPYC 系列處理器時,最高可支援 3TB ECC DDR5 RDIMM
  • 具備 1 個 AIOM 網路插槽(相容於 OCP NIC 3.0)的彈性網路選項
  • 擴充插槽:2 個 PCIe 5.0 x16 全高全寬雙向插槽;1 個 PCIe 5.0 AIOM 網路插槽
  • 1000/2000W 冗餘鈦級電源供應器(*完整冗餘功能取決於配置與應用負載)
用於 VAST 解決方案的 Supermicro 系統:AS -1116CS-TN

AS -1116CS-TN

GPUSuperServer

2U單處理器伺服器,最高可搭載4張NVIDIA® RTX PRO™ 6000 GPU

  • 單顆 Intel® Xeon® 6700/6500 系列處理器,配備 P 核心
  • 支援最多 4 張雙倍寬度的 PCIe GPU 加速卡
  • 最多支援16條DIMM記憶體模組,可配置為:- 單通道配置(1DPC)時支援最高1TB DDR5-6400記憶體- 雙通道配置(2DPC)時支援最高2TB DDR5-5200記憶體- 單通道配置(1DPC)時支援最高512GB DDR5-8000記憶體
  • 最多可支援 4 個 PCIe 5.0 x16 FHFL 雙寬插槽 + 3 個 PCIe 5.0 x16 FHFL 插槽
  • 最多可支援4個後置熱插拔E1.S NVMe硬碟槽
  • 2700W 冗餘鈦級電源供應器
用於 VAST 解決方案的 Supermicro 系統:SYS-212GB-FNR

SYS-212GB-FNR

資源