Ir al contenido principal
Supermicro y VAST: Solución EBox

El Supermicro EBox basa enCloudDC H14 CloudDC , una plataforma de almacenamiento «all-flash» diseñada específicamente y optimizada para la arquitectura Disaggregated Shared-Everything DASE) VAST . En combinación con el sistema operativo VAST OS, que unifica el almacén de datos, la base de datos y el motor de IA en una única plataforma, el EBox la columna vertebral de almacenamiento para cargas de trabajo con un uso intensivo de datos y para el almacenamiento multitenant a hiperescala.

Cada EBox contenedores CNode computación) y DNode almacenamiento) en el mismo servidor, lo que elimina la necesidad de utilizar unidades de almacenamiento independientes, al tiempo que conserva la capacidad DASEpara escalar la computación y la capacidad de forma independiente a través de la NVMe . Esta arquitectura ofrece una escalabilidad horizontal lineal desde terabytes hasta exabytes bajo un único espacio de nombres global, con cifrado en línea, deduplicación y codificación de borrado gestionados de forma nativa, sin necesidad de aceleradores externos. La gobernanza de la seguridad sigue los datos de extremo a extremo: los controles de acceso sobre los archivos de origen se propagan automáticamente a través de las integraciones hasta los resultados de la inferencia. Las redes RDMA de gran ancho de banda (200 GbE a través de NVIDIA® ConnectX®-7/8) permiten el movimiento de datos sin copia entre EBox y los clientes. Para las organizaciones que adoptan la IA empresarial, la misma EBox es compatible con VAST para flujos de trabajo RAG automatizados y con la base de datos vectorial nativa para consultas semánticas.

Supermicro y VAST: Solución CNode-X

La solución CNode-X AI Data Platform con Supermicro, NVIDIA y VAST Data proporciona una solución llave en mano de almacenamiento y flujo de trabajo de IA para el despliegue de IA empresarial. Esta solución integra matrices de almacenamiento All-Flash, servidores de alto rendimiento, aceleradores de GPU con el sistema operativo de IA de VAST, que proporciona almacenamiento universal y una base de datos vectorial integrada, servicios de transmisión de eventos y un constructor de pipelines de datos de bajo código para orquestar cargas de trabajo de IA.

La solución CNode sigue la arquitectura de referencia de la plataforma de datos de IA de NVIDIA, que incorpora la aceleración de la GPU en la plataforma de almacenamiento para acelerar la vectorización de datos, la búsqueda en bases de datos vectoriales y las cargas de trabajo de inferencia. Las ventajas de esta solución incluyen:

Plataformas de hardware validadas

Basándose en el probado Supermicro CloudDC AS-1116CS-TN de la EBox , esta solución incorpora el servidor de cálculo multi-GPU SYS-212GB-FNR 2U Supermicro, que admite dos GPU NVIDIA RTX PRO™ 6000 Blackwell Edition en un formato compacto de 2U. Con la incorporación de conmutadores NVIDIA Spectrum™ y la red NVIDIA ConnectX®, esto abarca toda la infraestructura necesaria para implementar rápidamente una solución de IA empresarial.

Pila de software integrada

El VAST AI OS, compatible con las bibliotecas de software de NVIDIA e integrado con las plataformas de hardware de Supermicro, ofrece flujos de trabajo de IA preconfigurados y listos para ejecutar para agentes en tiempo real utilizando VAST AgentEngine, e IA generativa empresarial utilizando InsightEngine.

Fundación AI Factory

CNode-X puede ser la capa de almacenamiento para esta solución de IA empresarial a gran escala, cuando se combina con los servidores de IA a gran escala de Supermicro, incluidos nuestros servidores GPU de 8 vías que utilizan servidores HGX B300 de NVIDIA, y las soluciones de refrigeración líquida de extremo a extremo de Supermicro.

Integración, pruebas e instalación de bastidores

Las instalaciones complejas de Fábricas de IA pueden implementarse rápidamente utilizando los servicios de integración en rack de Supermicro para la planificación de la arquitectura del sistema, la integración en fábrica, las pruebas y la instalación de software, el despliegue in situ, la instalación de cableado de red y las pruebas de aceptación.

Gestión integral

La suite de herramientas de gestión Supermicro SuperCloud proporciona una gestión centralizada (single pane-of-glass) de todos los sistemas Supermicro y subsistemas de refrigeración, así como de conmutadores y servidores de terceros.

Pila completa de software de IA

Aproveche el hardware integrado con tecnología NVIDIA y VAST:

Núcleo VAST

  • Computación GPU escalable y basada en eventos para procesos de IA
  • RAG en tiempo real y flujos de trabajo multimodales
  • VAST Orchestration (RKE2) para microservicios NVIDIA NIM

Núcleo VAST

  • Servicios de bases de datos transaccionales, analíticas y vectoriales
  • VAST Broker para la distribución de streaming de eventos

VAST

  • Servicios de almacenamiento de datos y caché KV distribuidos globalmente
  • Almacenamiento universal (NFS, S3, SMB, NVMe TCP)
Supermicro AI-Ready InfrastructureNetwork & Fabrics2x NVIDIA Spectrum™ SN5600 Switches (880GbE)Accelerated Compute Nodes2x Supermicro CNode-X2x NVIDIA RTX PRO™ 6000 GPUs per node2x NVIDIA® ConnectX®-7 400G EthernetStorage Data PlatformBuilt on NVIDIA AI Data Platform reference designVAST InsightEngine on Supermicro (EBox)Unified datastore & vector intelligence2x NVIDIA® ConnectX®-7 400G EthernetBuilt for Scalability and SimplicityScales from single rack to multi rackUnified design simplifies deployment and management

Servidor CloudDC A

CloudDC de 1U CloudDC un solo procesador, DC-MHS, hasta 12 unidades de 2,5" intercambiables en caliente y 3 ranuras PCIe .0

  • Un procesador de la serie AMD EPYC™
  • 12 módulos DIMM (1 DPC); hasta 3 TB de memoria DDR5 con corrección de errores (ECC) con un procesador de la serie EPYC
  • Opciones de conectividad flexibles con 1 ranura AIOM (compatible con OCP NIC 3.0)
  • Ranuras de expansión: 2 PCIe .0 x16 FHHL; 1 ranura AIOM PCIe .0 AIOM
  • Fuentes de alimentación redundantes de titanio de 1000/2000 W (*Redundancia total basada en la configuración y la carga de la aplicación)
Sistema Supermicro para la solución VAST: AS -1116CS-TN

AS -1116CS-TN

SuperServer GPU

Servidor de un solo procesador 2U con hasta 4 GPU NVIDIA® RTX PRO™ 6000

  • Procesador Intel® Xeon® de las series Xeon® con núcleos P
  • Compatibilidad con hasta 4 tarjetas aceleradoras PCIe de doble ancho
  • Hasta 16 módulos DIMM con capacidad para 1 TB DDR5 en una configuración de un solo procesador (1DPC), 2 TB DDR5 en una configuración de dos procesadores (2DPC) o 512 GB DDR5 en una configuración de un solo procesador (1DPC)
  • Hasta 4 ranuras PCIe .0 x16 FHFL de doble ancho + 3 ranuras PCIe .0 x16 FHFL
  • Hasta 4 bahías traseras NVMe E1.S con intercambio en caliente
  • Fuentes de alimentación redundantes de titanio de 2700 W
Sistema Supermicro para la solución VAST: SYS-212GB-FNR

SYS-212GB-FNR

Recursos destacados