Hardware de red, dispositivos y equipos para centros de datos

La IA está impulsando la necesidad de una infraestructura informática más avanzada, incluidas las redes. La falta de ancho de banda de red suele crear un cuello de botella en el procesamiento de la información que impulsa las aplicaciones de IA. La infraestructura de computación acelerada sólo es tan rápida como su eslabón más débil y, con demasiada frecuencia, éste es la red. Afortunadamente, gracias a la colaboración con NVIDIA, Supermicro ha cualificado la nueva plataforma de red NVIDIA Spectrum-X en varios de sus sistemas para permitir un rendimiento de red hasta 1,6 veces mejor para las cargas de trabajo de IA, junto con una mayor eficiencia energética y un menor coste total de propiedad. Con la combinación del conmutador Ethernet NVIDIA Spectrum-4 y la SuperNIC NVIDIA BlueField®-3, los clientes ya pueden beneficiarse de la infraestructura de procesamiento en nube de IA Ethernet de mayor rendimiento.

Entre los sistemas que ahora se califican con la solución de red NVIDIA Spectrum-X se incluyen los muy populares GPU SuperServers de Supermicro, que se presentan en alturas de 4U, 5U y 8U y admiten GPU NVIDIA en los siguientes sistemas:

• Servidores GPU Supermicro 8U con sistemas NVIDIA HGX H100 de 8 GPU:
  • SYS-821GE-TNHR (8U) - CPU Intel
  • AS -8125GS-TNHR (8U) - CPUs AMD
  • SYS-421GU-TNXR (4U) - CPU Intel
• Servidores GPU universales Supermicro (4U y 5U) con GPU NVIDIA H100 PCIe o GPU NVIDIA L40S:
  • SYS-521GE-TNRT (5U) - CPU Intel
  • SYS-421GE-TNRT (4U) - CPU Intel
  • SYS-421GE-TNRT3 (4U) - CPU Intel
  • AS -4125GS-TNRT (4U) - CPU AMD
  • AS -4125GS-TNRT2 (4U) - CPU AMD

Estos sistemas Supermicro , impulsados por NVIDIA Spectrum-X, reducen los tiempos de ejecución de entrenamiento e inferencia de modelos de IA generativa masiva basados en transformadores, lo que resulta esencial para ofrecer resultados y perspectivas más rápidos a partir de la IA.

Además de multiplicar por 1,6 el rendimiento de la red para la IA, los sistemas Supermicro con redes NVIDIA Spectrum-X se benefician del aislamiento del rendimiento de las cargas de trabajo en entornos multiusuario. Permitir que las cargas de trabajo muevan los datos por separado y de forma independiente, libres de interferencias de "vecinos ruidosos" que podrían impedir el rendimiento, es fundamental para las aplicaciones de alto rendimiento. Además, aislar las cargas de trabajo de la red proporciona un beneficio de seguridad adicional al impedir que los actores nefastos de una carga de trabajo interfieran con otra carga de trabajo separada. NVIDIA Spectrum-X consigue este aislamiento mejorado de las cargas de trabajo a través de nubes privadas virtuales (VPC) seguras asignadas a cada inquilino.

La eficiencia energética siempre ha sido una preocupación crítica a la hora de operar sistemas de IA de alto rendimiento y alta potencia. Al proporcionar un mayor rendimiento de red dentro de la misma envolvente de potencia de red, NVIDIA Spectrum-X puede contribuir a un entorno de IA más eficiente desde el punto de vista energético. Este mejor rendimiento por vatio conduce a un menor consumo general de energía y, potencialmente, a un menor coste total de propiedad. Para los usuarios que suelen confiar en la limitación de potencia para mantener el control de los costes energéticos, los sistemas Supermicro con Spectrum-X ayudan a proporcionar la seguridad de que no se sobrepasan los límites de consumo de energía.  

Los consumidores que han estandarizado las redes Ethernet pueden estar seguros de que NVIDIA Spectrum-X está totalmente basado en estándares y es completamente interoperable con las pilas basadas en Ethernet. Además, los servidores Supermicro con NVIDIA Spectrum-X ayudan a los clientes a superar el reto más importante de la implantación de la IA: la escalabilidad. Con capacidad para admitir 256 puertos de 200 G en un único conmutador o 16 K puertos en una topología de hoja/espina de dos niveles, se trata de sistemas ideales para organizaciones con necesidades de infraestructura de computación acelerada en evolución.

A medida que Supermicro se esfuerza por satisfacer las necesidades de los clientes de IA que no sólo necesitan redes de alto rendimiento sino también multitenencia en la nube, los sistemas Supermicro con NVIDIA Spectrum-X aprovechan las extensiones de acceso remoto directo a memoria (RDMA) sobre Ethernet convergente (RoCE) para soportar tanto el rendimiento como la multitenencia. El rendimiento con respecto a Ethernet tradicional es asombroso, como ilustra el gráfico siguiente.  

La revolucionaria tecnología de red de NVIDIA, incluida en numerosos servidores Supermicro , consigue un rendimiento de red extraordinario para la IA, el aislamiento del rendimiento multiusuario y una mayor eficiencia energética. Todo esto se consigue a la vez que se aprovechan los estándares de red Ethernet acoplando el conmutador Ethernet NVIDIA Spectrum-4 con la SuperNIC NVIDIA BlueField-3. Esta combinación tiene el efecto neto de ayudar a reducir los tiempos de ejecución de los modelos generativos masivos de IA. Estos sistemas Supermicro con NVIDIA Spectrum-X son idóneos para satisfacer las necesidades de los clientes que necesitan mayor rapidez en la obtención de información crítica, multiarrendamiento y escalabilidad futura.