Hardware de red, dispositivos y equipos para centros de datos

La IA está impulsando la necesidad de una infraestructura de computación más avanzada, incluyendo las redes. La falta de ancho de banda de red a menudo crea un cuello de botella en el procesamiento de información que impulsa las aplicaciones de IA. La infraestructura de computación acelerada es tan rápida como su eslabón más débil, y con demasiada frecuencia, ese eslabón son las redes. Afortunadamente, al trabajar con NVIDIA, Supermicro ha calificado la nueva plataforma de redes NVIDIA Spectrum-X en varios de sus sistemas para permitir hasta 1.6 veces mejor rendimiento de red para cargas de trabajo de IA, junto con una mayor eficiencia energética y un menor coste total de propiedad. Con la combinación del conmutador Ethernet NVIDIA Spectrum-4 y la SuperNIC NVIDIA BlueField®-3, los clientes ahora pueden aprovechar la infraestructura de procesamiento en la nube de IA Ethernet de mayor rendimiento.

Los sistemas que ahora se están cualificando con la solución de redes NVIDIA Spectrum-X incluyen los populares SuperServers GPU de Supermicro, disponibles en alturas de 4U, 5U y 8U, y que admiten GPU NVIDIA en los siguientes sistemas:

• Servidores GPU 8U de Supermicro con sistemas NVIDIA HGX H100 de 8 GPU:
  • SYS-821GE-TNHR (8U) - CPU Intel
  • AS -8125GS-TNHR (8U) – CPUs AMD
  • SYS-421GU-TNXR (4U) - CPU Intel
• Servidores GPU Universales Supermicro (4U y 5U) con GPU NVIDIA H100 PCIe o GPU NVIDIA L40S:
  • SYS-521GE-TNRT (5U) - CPU Intel
  • SYS-421GE-TNRT (4U) - CPU Intel
  • SYS-421GE-TNRT3 (4U) - CPU Intel
  • AS -4125GS-TNRT (4U) – CPU AMD
  • AS -4125GS-TNRT2 (4U) – CPU AMD

Estos sistemas Supermicro, impulsados por NVIDIA Spectrum-X, reducen los tiempos de ejecución de entrenamiento e inferencia de modelos de IA generativa masivos basados en transformadores, lo cual es esencial para ofrecer resultados e información más rápidos de la IA.

Además de aumentar enormemente el rendimiento de la red en 1,6 veces para la IA, los sistemas Supermicro con redes NVIDIA Spectrum-X se benefician del aislamiento del rendimiento de las cargas de trabajo en entornos multiusuario. Permitir que las cargas de trabajo muevan datos de forma separada e independiente, libres de la interferencia de "vecinos ruidosos" que podría impedir el rendimiento, es fundamental para las aplicaciones de alto rendimiento. Además, el aislamiento de las cargas de trabajo de red proporciona un beneficio de seguridad adicional al evitar que actores maliciosos en una carga de trabajo interfieran con otra carga de trabajo separada. NVIDIA Spectrum-X logra este aislamiento mejorado de las cargas de trabajo a través de nubes privadas virtuales (VPC) seguras asignadas a cada inquilino.

La eficiencia energética siempre ha sido una preocupación crítica al operar sistemas de IA de alto rendimiento y alta potencia. Al ofrecer un mayor rendimiento de redes dentro del mismo sobre de potencia de red, NVIDIA Spectrum-X puede contribuir a un entorno de IA más eficiente energéticamente. Este mejor rendimiento por vatio conduce a un menor consumo de energía general y, potencialmente, a un menor coste total de propiedad. Para los usuarios que habitualmente dependen de la limitación de potencia (power capping) para controlar los costes energéticos, los sistemas Supermicro con Spectrum-X ayudan a garantizar que no se superen los límites de consumo de energía.  

Los consumidores que han estandarizado las redes Ethernet pueden estar seguros de que NVIDIA Spectrum-X se basa completamente en estándares y es totalmente interoperable con pilas basadas en Ethernet. Además, los servidores Supermicro con NVIDIA Spectrum-X ayudan a los clientes a superar el desafío más significativo del despliegue de IA: la escalabilidad. Con la capacidad de soportar 256 puertos de 200G en un solo switch o 16K puertos en una topología leaf/spine de dos niveles, estos son sistemas ideales para organizaciones con necesidades de infraestructura de computación acelerada en evolución.

A medida que Supermicro se esfuerza por satisfacer las necesidades de los clientes de IA que requieren no solo redes de alto rendimiento, sino también multitenencia en la nube, los sistemas Supermicro con NVIDIA Spectrum-X aprovechan las extensiones de acceso directo a memoria remota (RDMA) sobre Ethernet convergente (RoCE) para soportar tanto el rendimiento como la multitenencia. El rendimiento sobre Ethernet tradicional es asombroso, como se ilustra en el gráfico siguiente.  

La innovadora tecnología de red de NVIDIA, presente en numerosos servidores Supermicro, logra un rendimiento de red excepcional para IA, aislamiento de rendimiento multiusuario y una mayor eficiencia energética. Todo esto se logra basándose en los estándares de red Ethernet al combinar el switch Ethernet NVIDIA Spectrum-4 con la SuperNIC NVIDIA BlueField-3. Esta combinación tiene el efecto neto de ayudar a reducir los tiempos de ejecución de modelos masivos de IA generativa. Para los clientes que requieren un acceso más rápido a información crítica, multitenencia y escalabilidad futura, estos sistemas Supermicro con NVIDIA Spectrum-X son idóneos para satisfacer sus necesidades.