El Supermicro EBox está impulsado por servidores H14 CloudDC, una plataforma de almacenamiento all-flash diseñada específicamente y optimizada para la arquitectura Disaggregated Shared-Everything (DASE) de VAST Data. Combinado con VAST AI OS, que unifica el almacén de datos, la base de datos y el motor de IA en una única plataforma, el EBox forma una columna vertebral de almacenamiento para cargas de trabajo intensivas en datos y almacenamiento multi-inquilino a hiperescala.
Cada EBox contenedores CNode computación) y DNode almacenamiento) en el mismo servidor, lo que elimina la necesidad de recintos de almacenamiento independientes y conserva la capacidad DASEpara escalar la computación y la capacidad de forma independiente en toda la estructura NVMe. Esta arquitectura ofrece una escalabilidad lineal de terabytes a exabytes en un único espacio de nombres global, con cifrado en línea, deduplicación y codificación de borrado gestionados de forma nativa sin necesidad de aceleradores externos. La gobernanza de la seguridad sigue los datos de extremo a extremo: los controles de acceso a los archivos de origen se propagan automáticamente a través de incrustaciones a los resultados de inferencia. Las redes RDMA de gran ancho de banda (200 GbE a través de NVIDIA® ConnectX®-7/8) permiten el movimiento de datos sin copia entre EBox y los clientes. Para las organizaciones que adoptan la IA empresarial, la misma EBox es compatible con VAST para canalizaciones RAG automatizadas y la base de datos vectorial nativa para consultas semánticas.
La solución CNode-X AI Data Platform con Supermicro, NVIDIA y VAST Data proporciona una solución llave en mano de almacenamiento y flujo de trabajo de IA para el despliegue de IA empresarial. Esta solución integra matrices de almacenamiento All-Flash, servidores de alto rendimiento, aceleradores de GPU con el sistema operativo de IA de VAST, que proporciona almacenamiento universal y una base de datos vectorial integrada, servicios de transmisión de eventos y un constructor de pipelines de datos de bajo código para orquestar cargas de trabajo de IA.
La solución CNode sigue la arquitectura de referencia de la plataforma de datos de IA de NVIDIA, que incorpora la aceleración de la GPU en la plataforma de almacenamiento para acelerar la vectorización de datos, la búsqueda en bases de datos vectoriales y las cargas de trabajo de inferencia. Las ventajas de esta solución incluyen:
Pila completa de software de IA
Aproveche el hardware integrado con tecnología NVIDIA y VAST:
Núcleo VAST
- Computación GPU escalable y basada en eventos para procesos de IA
- RAG en tiempo real y flujos de trabajo multimodales
- VAST Orchestration (RKE2) para microservicios NVIDIA NIM
Núcleo VAST
- Servicios de bases de datos transaccionales, analíticas y vectoriales
- VAST Broker para la distribución de streaming de eventos
VAST
- Servicios de almacenamiento de datos y caché KV distribuidos globalmente
- Almacenamiento universal (NFS, S3, SMB, NVMe sobre TCP)
Servidor CloudDC A
CloudDC de un solo procesador 1U CloudDC DC-MHS, hasta 12 unidades de 2,5" intercambiables en caliente y 3 ranuras PCIe 5.0.
- Procesador único AMD EPYC™ Serie 9005/9004
- 12 DIMM (1 DPC); hasta 3 TB ECC DDR5 RDIMM con procesador EPYC serie EPYC
- Opciones de red flexibles con 1 ranura de red AIOM (compatible con OCP NIC 3.0)
- Ranuras de expansión: 2 PCIe 5.0 x16 FHHL; 1 ranura de red PCIe 5.0 AIOM
- Fuentes de alimentación redundantes de titanio de 1000/2000 W (*Redundancia total basada en la configuración y la carga de la aplicación)
AS -1116CS-TN
SuperServer GPU
Servidor de un solo procesador 2U con hasta 4 GPU NVIDIA® RTX PRO™ 6000
- Procesador Intel® Xeon® serie 6700/6500 único con núcleos P
- Compatible con hasta 4 tarjetas aceleradoras GPU PCIe de doble ancho.
- Hasta 16 módulos DIMM que admiten hasta 1 TB DDR5-6400 en 1DPC o 2 TB DDR5-5200 en 2DPC o 512 GB DDR5-8000 en 1DPC.
- Hasta 4 ranuras PCIe 5.0 x16 FHFL de doble ancho + 3 ranuras PCIe 5.0 x16 FHFL
- Hasta 4 bahías traseras para unidades E1.S NVMe intercambiables en caliente
- Fuentes de alimentación redundantes de titanio de 2700 W
