跳至內容
資源類型
顯示1 - 5結果5
查看方式:
縮圖 - IBM Redbook:Storage Scale ECE + Supermicro Petascale 參考架構

無限制上下文:面向大規模應用的高效能鍵值快取平台AI 推理

本 IBM Redbook 提供經過驗證的 AI 基礎架構參考架構,可讓 KV 快取在跨請求、工作階段與 GPU 節點時進行持續性儲存、共用與重複使用。其組成包含用於智慧分散式 KV 快取管理的 NVIDIA Dynamo、作為高效能共用儲存層的 IBM® Storage Scale Erasure Coding Edition (ECE)、作為儲存與 Networking 基礎的 Supermicro Petascale 伺服器,以及將其緊密結合的 NVIDIA Spectrum-X 乙太網路,具備生產級 AI 推論所需的低延遲與高頻寬網狀架構。

閱讀更多

結合 Supermicro 伺服器與 Xinnor xiRAID 的 IBM Storage Scale

作為AI /ML,代理AI隨著檢索增強生成 (RAG) 工作負載的複雜性和需求不斷增長,底層儲存系統的效能變得至關重要。為了充分利用 GPU,儲存必須在順序和隨機運算方面都提供卓越的效能。憑藉其出色的性能, NVMe PCIe 硬碟是關鍵任務應用的理想選擇。

閱讀更多

編輯部

查看我們的最新消息
縮圖 - IBM Redbook:Storage Scale ECE + Supermicro Petascale 參考架構

無限制上下文:面向大規模應用的高效能鍵值快取平台AI 推理

本 IBM Redbook 提供經過驗證的 AI 基礎架構參考架構,可讓 KV 快取在跨請求、工作階段與 GPU 節點時進行持續性儲存、共用與重複使用。其組成包含用於智慧分散式 KV 快取管理的 NVIDIA Dynamo、作為高效能共用儲存層的 IBM® Storage Scale Erasure Coding Edition (ECE)、作為儲存與 Networking 基礎的 Supermicro Petascale 伺服器,以及將其緊密結合的 NVIDIA Spectrum-X 乙太網路,具備生產級 AI 推論所需的低延遲與高頻寬網狀架構。

閱讀更多

結合 Supermicro 伺服器與 Xinnor xiRAID 的 IBM Storage Scale

作為AI /ML,代理AI隨著檢索增強生成 (RAG) 工作負載的複雜性和需求不斷增長,底層儲存系統的效能變得至關重要。為了充分利用 GPU,儲存必須在順序和隨機運算方面都提供卓越的效能。憑藉其出色的性能, NVMe PCIe 硬碟是關鍵任務應用的理想選擇。

閱讀更多