Para entrenamiento e inferencia de IA a escala de nube
La demanda de computación de alto rendimiento para entrenamiento de IA/Aprendizaje Profundo (DL) se ha duplicado en tamaño cada 3,5 meses desde 2013 (según OpenAI) y se está acelerando con el creciente tamaño de los conjuntos de datos y el número de aplicaciones y servicios basados en grandes modelos de lenguaje (LLM), visión computacional, sistemas de recomendación y más.
Con el aumento de la demanda de un mayor rendimiento, rendimiento y capacidad de formación e inferencia, el sector necesita sistemas creados específicamente que ofrezcan una mayor eficiencia, menor coste, facilidad de implementación, flexibilidad para permitir la personalización y escalabilidad de los sistemas de IA. La IA se ha convertido en una tecnología esencial para diversas áreas como copilotos, asistentes virtuales, automatización de la fabricación, operaciones de vehículos autónomos e imágenes médicas, por nombrar algunas. Supermicro se ha asociado con Intel para proporcionar un sistema a escala de nube y un diseño de bastidor con los aceleradores Intel Gaudi AI.
Nueva plataforma de formación e inferencia de IA Supermicro X14 Gaudi® 3
Aportando opciones al mercado de la IA empresarial, la nueva plataforma de formación de IA Supermicro X14 se basa en la tercera generación de aceleradores Intel® Gaudi 3, diseñados para aumentar aún más la eficiencia de la formación de modelos de IA a gran escala y la inferencia de IA. Disponible tanto en configuraciones refrigeradas por aire como por líquido, la solución X14 Gaudi 3 de Supermicro se escala fácilmente para satisfacer una amplia gama de requisitos de carga de trabajo de IA.
- GPU: 8 aceleradores Gaudí 3 HL-325L (refrigerados por aire) o HL-335 (refrigerados por líquido) en placa base OAM 2.0
- CPU: Procesadores duales Intel® Xeon® 6
- Memoria: 24 DIMM - hasta 6TB de memoria en 1DPC
- Unidades: Hasta 8 PCIe 5.0 NVMe intercambiables en caliente
- Fuentes de alimentación: 8 3000W de alta eficiencia totalmente redundantes (4+4) Nivel Titanio
- Redes: 6 puertos OSFP 800GbE integrados para escalabilidad horizontal
- Ranuras de expansión: 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Cargas de trabajo: Formación e inferencia de IA
Servidor de formación de IA Supermicro Gaudi®2
Basándose en el éxito del sistema de entrenamiento de IA Gaudi original Supermicro , el servidor de IA Gaudi 2 prioriza dos consideraciones clave: integrar aceleradores de IA con módulos de red de alta velocidad incorporados para impulsar la eficiencia operativa para el entrenamiento de modelos de IA de última generación y aportar a la industria de la IA la elección que necesita.
- GPU: 8 tarjetas mezzanine Gaudi2 HL-225H
- CPU: Dos procesadores Intel® Xeon® Scalable de 3ª generación
- Memoria: 32 módulos DIMM - hasta 8 TB de memoria SDRAM ECC registrada DDR4-3200 MHz
- Unidades: hasta 24 unidades intercambiables en caliente (SATA/NVMe/SAS)
- Alimentación: 6 fuentes de alimentación totalmente redundantes de 3000 W y alta eficiencia (54 V+12 V)
- Redes: 24 enlaces SerDes PAM4 de 100 GbE (48 x 56 Gb) mediante 6 QSFP-DD
- Ranuras de expansión: 2 conmutadores PCIe 4.0
- Cargas de trabajo: Formación e inferencia de IA
El servidor Supermicro con Intel® Gaudi® 3 está optimizado para escenarios de IA del mundo real
Los nuevos servidores Supermicro con procesadores Intel® Xeon® serie 6 con núcleos P y aceleradores Intel Gaudi 3 muestran mejoras de rendimiento con respecto a las generaciones anteriores
Diseño de referencia del clúster del acelerador Intel® Gaudí® AI Supermicro X14
Aceleración y reducción del coste de las soluciones de IA con el sistema basado en el acelerador Intel® Gaudi® 3 X14 de Supermicro mediante software de código abierto y Ethernet estándar del sector
Supermicro con GAUDI 3 AI ofrece un rendimiento escalable para los requisitos de la IA
Gama de soluciones optimizadas para centros de datos de cualquier tamaño y carga de trabajo Para nuevos servicios y mayor satisfacción del cliente
Los sistemas GAUDI 3 de Supermicro e Intel hacen avanzar la infraestructura de IA empresarial
Sistema de IA de gran ancho de banda que utiliza procesadores Intel Xeon 6 para el entrenamiento y la inferencia eficientes de LLM y GenAI a escala empresarial
Supermicro X13 Hyper potencia las cargas de trabajo de IA empresarial en la plataforma VMWARE
Casos de uso de la carga de trabajo de IA computacional: Large Language Model (LLM) y reconocimiento de imágenes de IA - ResNet50 en la GPU Intel® Data Center Flex 170
Aceleración de la computación de IA con los servidores Supermicro en la nube de desarrolladores de INTEL
Los servidores de IA avanzada Supermicro con procesadores Intel® Xeon® y aceleradores de IA Intel® Gaudi® 2 aportan computación en nube, formación e inferencia de IA de alto rendimiento y eficiencia a desarrolladores y empresas
Solución superior de procesamiento y distribución de medios basada en servidores Supermicro con GPU Intel® para centros de datos de la serie Flex
Sistemas Supermicro con la serie Intel® Data Center GPU Flex
Supermicro TECHTalk: Nuevas soluciones de procesamiento multimedia basadas en la serie Intel Data Center GPU Flex
Vea cómo nuestros expertos en productos analizan las nuevas soluciones Supermicro basadas en la recién anunciada serie Intel Data Center GPU Flex. Descubra cómo estas soluciones pueden beneficiarle a usted y a su empresa.
Juego en la nube escalable
Sistemas Supermicro con la serie Intel® Data Center GPU Flex
Supermicro ofrece todos los componentes de sistema para que los proveedores de servicios en la nube construyan una infraestructura de juego en la nube ecológica, rentable y rentable.
Soluciones innovadoras para juegos en la nube, medios de comunicación, transcodificación e inferencia de inteligencia artificial
Sep 08 2022, 10:00am PDT
Expertos en productos y soluciones de Supermicro e Intel debatirán, en una sesión informal, las ventajas de las soluciones en las áreas de juegos en la nube, distribución de medios, transcodificación e inferencia de IA utilizando las GPU Intel Flex Series recientemente anunciadas. En el seminario web se explicarán las ventajas de las soluciones Supermicro , los servidores ideales y los beneficios de utilizar las GPU Intel Flex Series.
Supermicro y Habana® Sistema de formación de IA de alto rendimiento y eficiencia
Permite una relación precio/rendimiento del aprendizaje profundo hasta un 40% mejor que las soluciones tradicionales de IA