跳至內容
Supermicro 和VAST EBox 解決方案

這Supermicro EBox 由…驅動H14 CloudDC 伺服器,一個專為伺服器優化的全快閃儲存平台VAST 數據Disaggregated Shared-Everything ( DASE架構。結合VAST AI 統一資料儲存、資料庫和作業系統AI 將引擎整合到單一平台上, EBox 為資料密集型工作負載和超大規模多租戶儲存建立儲存骨幹網路。

每個EBox 運行兩者CNode (計算)和DNode (儲存)容器位於同一台伺服器上,無需單獨的儲存機箱,同時保持DASE能夠獨立地擴展計算和容量NVMe 此架構可在單一全域命名空間下實現從TB級到EB級的線性擴展,並原生支援內聯加密、去重和糾刪碼,無需外部加速器。安全治理貫穿整個資料流程:來源檔案的存取控制會自動傳播到嵌入檔案。推論 輸出埠。高頻寬 RDMA 網路(透過 NVIDIA® ConnectX®-7/8 實現 200 GbE)支援零拷貝資料傳輸。 EBox 節點和客戶端。對於採用企業級技術的組織AI , 相同EBox 基礎設施支持VAST InsightEngine 用於自動化 RAG 管道和用於語意查詢的原生向量資料庫。

Supermicro 和VAST CNode -X 解決方案

這CNode -X AI 數據平台解決方案Supermicro英偉達和VAST 數據提供了一站式解決方案AI 企業級儲存和工作流程解決方案AI 部署。該解決方案整合了全快閃儲存陣列、高效能伺服器、GPU加速器以及VAST的AI 該作業系統提供通用儲存和整合向量資料庫、事件流服務以及用於編排的低程式碼資料管道建構器。 AI 工作負載。

這CNode -X 解決方案遵循 NVIDIA 的AI 資料平台參考架構,將GPU加速整合到儲存平台中,以加速資料向量化、向量資料庫搜尋和推論 工作負載。此解決方案的優勢包括:

已驗證的硬體平台

使用已驗證的方法Supermicro CloudDC 來自AS-1116CS-TN EBox 解決方案,此解決方案增加了Supermicro SYS-212GB-FNR 2U 多 GPU 運算伺服器,支援兩塊 NVIDIA RTX PRO™ 6000 顯示卡Blackwell 伺服器版 GPU 採用緊湊的 2U 機箱設計。此外,還配備了 NVIDIA Spectrum™ 交換器和 NVIDIA ConnectX® 網絡,這涵蓋了快速部署企業級應用程式所需的所有基礎架構。 AI 解決方案。

整合軟體堆疊

這VAST AI 作業系統由 NVIDIA 的軟體庫支持,並與之集成Supermicro的硬體平台提供預先配置、即開即用的運行AI 使用即時代理的工作流程VAST AgentEngine 和企業級生成式AI 使用 InsightEngine。

AI 工廠基金會

CNode -X可以作為這家大型企業的儲存層。 AI 解決方案,當與Supermicro的大規模AI 伺服器,包括我們使用NVIDIA HGX B300伺服器的8路GPU伺服器,以及Supermicro端到端液冷解決方案。

機架整合、測試和安裝

複雜的AI 工廠安裝可以快速部署Supermicro的機架整合服務包括系統架構規劃、工廠整合、測試和軟體安裝、現場部署、網路電纜安裝和驗收測試。

端對端管理

這Supermicro SuperCloud 管理工具套件提供統一的管理介面,涵蓋所有內容。 Supermicro 系統和冷卻子系統,以及第三方交換器和伺服器。

全部的AI 軟體堆疊

利用NVIDIA提供的整合硬件, VAST :

VAST 加速核心

  • 可擴展的、事件驅動的GPU運算AI 管道
  • 即時 RAG 和多模態工作流程
  • VAST NVIDIA NIM 微服務的容器編排 (RKE2)

VAST 計算核心

  • 事務型、分析型和向量型資料庫服務
  • VAST 用於分發事件流的事件代理

VAST 容量

  • 全球分散式資料儲存和鍵值快取服務
  • 通用儲存(NFS、S3、SMB、 NVMe 透過 TCP)
Supermicro AI-Ready InfrastructureNetwork & Fabrics2x NVIDIA Spectrum™ SN5600 Switches (880GbE)Accelerated Compute Nodes2x Supermicro CNode-X2x NVIDIA RTX PRO™ 6000 GPUs per node2x NVIDIA® ConnectX®-7 400G EthernetStorage Data PlatformBuilt on NVIDIA AI Data Platform reference designVAST InsightEngine on Supermicro (EBox)Unified datastore & vector intelligence2x NVIDIA® ConnectX®-7 400G EthernetBuilt for Scalability and SimplicityScales from single rack to multi rackUnified design simplifies deployment and management

CloudDC A+ 伺服器

1U 單處理器CloudDC 採用 DC-MHS 技術,最多可支援 12 個熱插拔 2.5 吋硬碟,以及 3 個PCIe 5.0個插槽

  • 單身的AMD EPYC™ 9005/9004系列處理器
  • 12 個 DIMM 插槽(1 個 DPC);最高支援 3TB ECC 內存DDR5 RDIMM 記憶體EPYC 9005系列處理器
  • 靈活的聯網選項,共 1 個AIOM 網路插槽(相容OCP NIC 3.0)
  • 擴充槽位:2 PCIe 5.0 x 16 FHHL;1 PCIe 5.0 AIOM 網路插槽
  • 1000/2000W 冗餘鈦金級電源(*完全冗餘取決於配置和應用負載)
Supermicro 系統VAST 解決方案:AS-1116CS-TN

AS -1116CS-TN

GPU SuperServer

2U 單處理器伺服器,最多可配備 4 個 NVIDIA® RTX PRO™ 6000 GPU

  • 單英特爾® Xeon® 6700/6500系列處理器,附P核心
  • 支援最多 4 個雙倍寬度PCIe GPU加速卡
  • 最多可支援 16 個 DIMM 插槽,最大容量達 1TB。 DDR5 -6400 以 1DPC 或 2TB 儲存。 DDR5 -5200 2DPC 或 512GB DDR5 -8000 在 1DPC 中
  • 最多 4 PCIe 5.0 x 16 FHFL 雙倍寬度 + 3 PCIe 5.0 x16 FHFL 插槽
  • 最多可支援 4 個後部熱插拔 E1.S NVMe 驅動器托架
  • 2700W冗餘鈦金級電源
Supermicro 系統VAST 解:SYS-212GB-FNR

SYS-212GB-FNR

資源