DDN Supermicro: una infraestructura contrastada para la inferencia y el análisis de IA

DDN es una plataforma de inteligencia de datos unificada de última generación, definida por software, diseñada para satisfacer las exigencias de la inferencia de IA, el análisis avanzado, la preparación de modelos y la carga de datos a alta velocidad. Validada con el servidor Supermicro A+ 1U, Infinia ofrece una latencia inferior al milisegundo y un rendimiento de terabytes por segundo para cargas de trabajo de misión crítica, incluidas las cadenas de inferencia habilitadas para RAG.

Juntas, DDN Supermicro un historial probado de resultados a una escala y velocidad extremas, incluida la construcción de uno de los centros de datos de IA más grandes del mundo con xAI en tan solo 122 días. Desde la investigación de la misión a Marte de la NASA hasta la IA aplicada al sector de la automoción en Hyundai, DDN impulsan a aquellas organizaciones en las que la velocidad, la fiabilidad y la escala se traducen directamente en una ventaja competitiva.

Supermicro de DDN Supermicro

Alto rendimiento, máxima rentabilidad

Los servidores Supermicro permiten a DDN ofrecer un rendimiento de inferencia excepcional con unos costes operativos considerablemente más bajos, reduciendo los requisitos de energía, refrigeración y espacio hasta en un 75 %. Clientes como CINECA, el mayor centro de supercomputación de Europa, alcanzan un rendimiento sin precedentes al tiempo que reducen drásticamente TCO.

Optimizado para cargas de trabajo aceleradas en la GPU

DDN está diseñada específicamente para flujos de trabajo de IA que requieren un uso intensivo de la GPU, y se integra a la perfección con los sistemas de GPU HGX y NVL72 Supermicrobasados en NVIDIA. Ya sea para entrenar modelos de lenguaje a gran escala, ejecutar inferencias de alta frecuencia o realizar análisis de datos avanzados, los clientes —desde bancos internacionales hasta laboratorios de investigación nacionales— confían en esta combinación para obtener información más rápidamente y mantenerse a la vanguardia de la innovación en IA.

Integración y fiabilidad de extremo a extremo

DDN Supermicro una solución totalmente integrada y de nivel empresarial que resulta fácil de implementar y optimizar a lo largo de todo el ciclo de vida de los datos de IA. Gracias a la validación técnica conjunta, el ajuste de todo el sistema y una fiabilidad a toda prueba, esta colaboración garantiza que las cargas de trabajo de IA, análisis de datos y HPC se ejecuten con la máxima eficiencia, tal y como se ha demostrado en entornos de producción de empresas de la lista Fortune 500 y de instituciones de investigación líderes a nivel mundial.
DDN AI HyperPOD con Supermicro

La solución llave en mano para la inferencia empresarial y RAG —lista para su uso desde el primer día—, impulsada por el software DDN , basada en Supermicro y acelerada por NVIDIA. Disponibles en configuraciones extra pequeña, pequeña, mediana y grande, los sistemas DDN AI HyperPOD preconfigurados comienzan con 4 GPU y 0,5 PB, y se pueden ampliar hasta 256 GPU con más de 12 PB, todo ello en un solo rack y con una única arquitectura.

El DDN AI HyperPOD con Supermicro crece de forma lineal sin necesidad de reescribir el código. Los flujos de trabajo DDN facilitan la transferencia de grandes volúmenes de datos a la nube, por lo que es sencillo ampliar la capacidad sin modificar los flujos de trabajo.

Beneficios de la solución

Aplicaciones 10 veces más rápidas

Los pipelines inteligentes de metadatos reducen el movimiento de datos y mantienen las GPU utilizadas hasta en un 99%.

Más IA por dólar

Mayor utilización de la GPU, ahorro de energía y refrigeración, y una huella densa de hasta 12 PB por rack.

Confianza a escala

Multi-tenencia nativa, encriptación y protección contra fallos de dominio - diseñado para una disponibilidad de cinco-9s.

Componentes clave de la solución

Plataforma de inteligencia de datos DDN

Almacenamiento de objetos inteligente de metadatos de alto rendimiento que mantiene saturadas las GPU y cimienta la RAG en datos empresariales de confianza. Acceso en menos de un milisegundo para inferencia, RAG, preparación de datos y carga de modelos.

DDN AI HyperPOD

Listo para la producción para inferencia y GAR, proporciona rápidamente puntos finales modelo seguros y de alto rendimiento. Definido por software, compatible con la nube y escalable desde TBs hasta 12+ PB por rack con multi-tenancy nativo y gobernanza.

Sistemas de alta densidad de Supermicro

Servidores GPU Supermicro optimizados para aplicaciones con alimentación y refrigeración eficientes y preintegración de fábrica para un rendimiento consistente desde el primer día: más IA por rack, operaciones predecibles.

Servidor Hyper A

Servidor «all-flash» de 1U con carga frontal y un solo procesador, con capacidad para hasta 12 NVMe y PCIe .0

Características principales:

  • Procesadores AMD EPYC™ de la serieEPYC™ con un solo zócalo SP5. TDP de hasta 400 W.
  • Admite 24 módulos DIMM con tecnología 2DPC, con una capacidad de memoria de hasta 6 TB utilizando 24 módulos DIMM de 256 GB de memoria 3DS RDIMM/RDIMM DDR5
  • 3 ranuras PCIe .0 x16 y 1 AIOM (compatible con OCP 3.0 SFF)
  • 8 bahías NVMe U.2 intercambiables en caliente + 4 NVMe opcionales NVMe U.2 intercambiables en caliente con piezas adicionales
  • Fuentes de alimentación redundantes Titanium de 1200 W
AS -1115HS-TNR

AS -1115HS-TNR

Obtenga más información
Recursos destacados