Pour l'entraînement et l'inférence de l'IA à l'échelle du nuage
La demande de calcul haute performance pour la formation en IA/Deep Learning (DL) a doublé tous les 3,5 mois depuis 2013 (selon OpenAI) et s'accélère avec la taille croissante des ensembles de données et le nombre d'applications et de services basés sur de grands modèles de langage (LLM), la vision par ordinateur, les systèmes de recommandation, et bien plus encore.
Face à la demande accrue de performances d'entraînement et d'inférence, de débit et de capacité, l'industrie a besoin de systèmes conçus spécifiquement pour offrir une efficacité accrue, des coûts réduits, une facilité de mise en œuvre, une flexibilité permettant la personnalisation et la mise à l'échelle des systèmes d'IA. L'IA est devenue une technologie essentielle pour divers domaines tels que les copilotes, les assistants virtuels, l'automatisation de la fabrication, les opérations de véhicules autonomes et l'imagerie médicale, pour n'en nommer que quelques-uns. Supermicro s'est associé à Intel pour fournir des conceptions de systèmes et de racks à l'échelle du cloud avec les accélérateurs d'IA Intel Gaudi.
Nouvelle plateforme Supermicro X14 Gaudi® 3 pour l'entraînement et l'inférence d'IA
Apportant un choix au marché de l'IA d'entreprise, la nouvelle plateforme de formation à l'IA Supermicro X14 est basée sur les accélérateurs Intel® Gaudi 3 de troisième génération, conçus pour accroître davantage l'efficacité de l'entraînement de modèles d'IA à grande échelle et de l'inférence d'IA. Disponible en configurations refroidies par air et par liquide, la solution X14 Gaudi 3 de Supermicro s'adapte facilement pour répondre à un large éventail d'exigences de charge de travail d'IA.
- GPU : 8 accélérateurs Gaudi 3 HL-325L (refroidis par air) ou HL-335 (refroidis par liquide) sur carte de base OAM 2.0
- CPU : Deux processeurs Intel® Xeon® 6
- Mémoire : 24 DIMM - jusqu'à 6 To de mémoire dans 1DPC
- Disques : Jusqu'à 8 disques durs PCIe 5.0 NVMe interchangeables à chaud
- Alimentations : 8 blocs d'alimentation haute efficacité 3000W entièrement redondants (4+4) de niveau Titanium
- Mise en réseau : 6 ports OSFP 800GbE intégrés pour l'évolutivité
- Emplacements d'extension : 2 PCIe 5.0 x16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Charges de travail : Formation et inférence en IA
Serveur d'entraînement IA Supermicro Gaudi®2
S'appuyant sur le succès du système d'entraînement d'IA Supermicro Gaudi original, le serveur d'IA Gaudi 2 priorise deux considérations clés : l'intégration d'accélérateurs d'IA avec des modules de réseau haute vitesse intégrés pour améliorer l'efficacité opérationnelle de l'entraînement de modèles d'IA de pointe et offrir à l'industrie de l'IA le choix dont elle a besoin.
- GPU : 8 cartes mezzanine Gaudi2 HL-225H
- CPU : Deux processeurs Intel® Xeon® Scalable de 3e génération
- Mémoire : 32 DIMM - jusqu'à 8 To de mémoire SDRAM ECC DDR4-3200 MHz enregistrée
- Disques : jusqu'à 24 disques hot swap (SATA/NVMe/SAS)
- Alimentation : 6 blocs d'alimentation 3000W à haute efficacité (54V+12V) entièrement redondants
- Mise en réseau : 24x 100GbE (48 x 56Gb) PAM4 SerDes Links by 6 QSFP-DDs
- Emplacements d'extension : 2 commutateurs PCIe 4.0
- Charges de travail : Formation et inférence en IA
Accélérer l'IA en périphérie
Performances et efficacité de l'IA à la périphérie intelligente, optimisées par Intel
Supermicro et Intel® Xeon® avec Gaudi® 3 affichent des performances remarquables.
Supermicro et Intel® s'associent pour proposer une architecture hybride CPU+GPU pour une inférence LLM évolutive et rentable, utilisant Intel® Xeon® 6 et Intel® Gaudi® 3.
Le serveur Supermicro équipé de l'Intel® Gaudi® 3 est optimisé pour les scénarios d'IA réels
Nouveaux serveurs Supermicro équipés de processeurs Intel® Xeon® série 6 avec des cœurs P et d'accélérateurs Intel Gaudi 3 affichant des gains de performance par rapport aux générations précédentes
Conception de référence de cluster d'accélérateurs d'IA Intel® Gaudi® Supermicro X14
Accélérer et réduire le coût des solutions d'IA avec le système basé sur l'accélérateur Intel® Gaudi® 3 X14 de Supermicro en s'appuyant sur des logiciels open source et l'Ethernet standard de l'industrie.
Supermicro avec GAUDI 3 AI offre des performances évolutives pour les exigences de l'IA
Gamme de solutions optimisées pour les centres de données de toute taille et de toute charge de travail Pour de nouveaux services et une plus grande satisfaction des clients
Les systèmes Supermicro et Intel GAUDI 3 font progresser l'infrastructure d'IA d'entreprise.
Système d'IA à large bande passante utilisant des processeurs Intel Xeon 6 pour une formation et une inférence LLM et GenAI efficaces à l'échelle de l'entreprise
Supermicro X13 Hyper optimise les charges de travail d'IA d'entreprise sur la plateforme VMWARE
Cas d'utilisation de la charge de travail de l'IA computationnelle : Large Language Model (LLM) et reconnaissance d'images par l'IA - ResNet50 sur Intel® Data Center Flex 170 GPU
Accélérer le calcul d'IA avec les serveurs Supermicro dans le cloud développeur INTEL®.
Les serveurs d'IA avancés Supermicro, dotés de processeurs Intel® Xeon® et d'accélérateurs d'IA Intel® Gaudi® 2, offrent un calcul, un entraînement et une inférence d'IA dans le cloud haute performance et haute efficacité aux développeurs et aux entreprises
Solution supérieure de traitement et de diffusion de médias basée sur des serveurs Supermicro avec la série Intel® Data Center GPU Flex
Systèmes Supermicro avec GPU Intel® Data Center Flex Series
Supermicro TECHTalk : Nouvelles solutions de traitement multimédia basées sur la série Intel Data Center GPU Flex
Regardez nos experts produits discuter des nouvelles solutions Supermicro basées sur la série Intel Data Center GPU Flex, récemment annoncée. Découvrez comment ces solutions peuvent vous être bénéfiques, à vous et à votre entreprise.
Des jeux en nuage évolutifs
Systèmes Supermicro avec GPU Intel® Data Center Flex Series
Supermicro fournit tous les composants système nécessaires aux fournisseurs de services cloud pour bâtir une infrastructure de cloud gaming écologique, rentable et profitable.
Solutions innovantes pour les jeux en nuage, les médias, le transcodage et l'inférence AI
Sep 08 2022, 10:00am PDT
Des experts en produits et solutions de Supermicro et Intel discuteront, lors d'une session informelle, des avantages des solutions dans les domaines du Cloud Gaming, de la diffusion de médias, du transcodage et de l'inférence d'IA, en utilisant les GPU Intel Flex Series récemment annoncés. Le webinaire expliquera les avantages des solutions Supermicro, les serveurs idéaux et les bénéfices de l'utilisation des GPU Intel Flex Series.
Supermicro et Habana® Système d'entrainement IA à haute performance et à haut efficacité
Un rapport prix/performance pour la formation au Deep Learning jusqu'à 40 % plus avantageux que celui des solutions d'IA traditionnelles.