Acelerar el tiempo de comercialización de la IA generativa y más allá

Construya soluciones de IA a medida con los sistemas NVIDIA MGX™ Supermicro , que incorporan el último superchip NVIDIA GH200 Grace Hopper™ y el superchip de CPU NVIDIA Grace™. La nueva arquitectura modular está diseñada para estandarizar la infraestructura de IA y la computación acelerada en factores de forma compactos de 1U y 2U, al tiempo que proporciona la máxima flexibilidad y capacidad de expansión para las GPU, DPU y CPU presentes y futuras.

La avanzada tecnología de refrigeración líquida de Supermicropermite configuraciones hyper de alta eficiencia energética, como un sistema 1U de 2 nodos con 2 NVIDIA GH200 Grace Hopper Superchips, cada uno de ellos compuesto por una única GPU NVIDIA H100 Tensor Core y una CPU NVIDIA Grace, integradas con una interconexión de alta velocidad. Supermicro suministra miles de clústeres de IA a escala de bastidor al mes desde instalaciones de todo el mundo, lo que garantiza la compatibilidad "plug and play".

Sistema Supermicro 1U NVIDIA Grace CPU Superchip
Sistema Supermicro 1U Grace Hopper MGX refrigerado por líquido (ARS-111GL-DNHR-LCC)

Sistemas MGX de tolva Grace 1U

Sistema de memoria coherente CPU+GPU para aplicaciones de IA y HPC

  • Hasta 2 superchips NVIDIA GH200 Grace Hopper con CPU ARM de 72 núcleos y GPU H100 Tensor Core estrechamente acoplados con memoria coherente.
  • Hasta 96 GB de memoria HBM3 y 480 GB de memoria integrada LPDDR5X por Grace Hopper Superchip
  • Interconexión NVLink® Chip-2-Chip (C2C) de gran ancho de banda y baja latencia
  • Hasta 2 ranuras PCIe 5.0 x16 compatibles con NVIDIA BlueField®-3, NVIDIA ConnectX®-7 o GPU adicionales
  • 8 ranuras E1.S y 2 M.2 intercambiables en caliente
  • Opciones de refrigeración por aire y refrigeración líquida
Un vistazo a las configuraciones de los sistemas Grace Hopper MGX 1U

Construir nuevas soluciones para infraestructuras aceleradas que permitan a científicos e ingenieros centrarse en resolver los problemas más importantes del mundo con conjuntos de datos más grandes, modelos más complejos y nuevas cargas de trabajo de IA generativa. Dentro del mismo chasis de 1U, los sistemas duales NVIDIA GH200 Grace Hopper Superchip de Supermicroofrecen el máximo nivel de rendimiento para cualquier aplicación en la plataforma CUDA con sustanciales aumentos de velocidad para cargas de trabajo de IA con altos requisitos de memoria. Además de alojar hasta 2 GPU H100 integradas en un factor de forma 1U, sus bahías modulares permiten expansiones PCIe de tamaño completo para el presente y el futuro de los componentes de computación acelerada, escalado de alta velocidad y clustering.

Sistema Supermicro 2U Grace/x86 MGX

Sistemas Grace y x86 MGX

Plataforma modular de soluciones modulares compatible con las GPU, CPU y DPU actuales y futuras

  • CPU NVIDIA Grace™ Superchip (144 núcleos) o procesador Intel® Xeon® Scalable de 4ª generación
  • Hasta 480 GB de memoria DRAM LPDDR5X integrada con ECC y hasta 1 TB/s de ancho de banda (con CPU Grace Superchip) o hasta 2 TB 4800MT/s ECC DDR5 DRAM (con CPU Intel)
  • Hasta 4 GPU PCIe NVIDIA de doble ancho, incluidas H100 PCIe, H100 NVL, L40S y más
  • Hasta 8 ranuras Hot-Swap E1.S y 2 ranuras M.2 NVMe
  • Hasta 3 ranuras PCIe 5.0 x16 compatibles con NVIDIA BlueField-3 o NVIDIA ConnectX-7
Un vistazo a las configuraciones de los sistemas Grace y x86 MGX

Los sistemas Supermicro NVIDIA MGX™ 1U/2U con Grace™ CPU Superchip y CPU x86 están totalmente optimizados para admitir hasta 4 GPU a través de PCIe sin sacrificar la red de E/S, ni las térmicas. La arquitectura de soluciones modulares definitiva le permite adaptar estos sistemas optimizados para una variedad de cargas de trabajo y campos acelerados, incluyendo entrenamiento e inferencia de Al, HPC, análisis de datos, visualización/Omniverse™ y aplicaciones de nube a hiperescala.

Recursos

Es posible que algunos productos no estén disponibles en su región