Beschleunigte Building Blocks mit Intel-GPUs

Supermicro
Gebaut, um zu beschleunigen

Für Cloud-Skalierung KI Training und Inferenz
Nachfrage nach Hochleistungsleistungen KI Der Rechenaufwand für das Training von Deep Learning (DL) hat sich seit 2013 alle 3,5 Monate verdoppelt (laut OpenAI) und beschleunigt sich mit der wachsenden Größe der Datensätze und der Anzahl der Anwendungen und Dienste, die auf großen Sprachmodellen (LLMs), Computer Vision, Empfehlungssystemen und mehr basieren.
Angesichts der steigenden Nachfrage nach höherer Trainings- und Inferenzleistung, Durchsatz und Kapazität benötigt die Branche speziell entwickelte Systeme, die eine höhere Effizienz, geringere Kosten, einfache Implementierung, Flexibilität zur Anpassung und Skalierbarkeit bieten. KI Systeme. KI hat sich zu einer unverzichtbaren Technologie für diverse Bereiche entwickelt, wie beispielsweise Copiloten, virtuelle Assistenten, Fertigungsautomatisierung, autonome Fahrzeugsysteme und medizinische Bildgebung, um nur einige zu nennen. Supermicro hat sich mit Intel zusammengetan, um Cloud-Scale-Systeme und Rack-Designs mit Intel Gaudi anzubieten. KI Beschleuniger.

Neu Supermicro X14 Gaudi® 3 KI Trainings- und Inferenzplattform
Mehr Wahlmöglichkeiten für das Unternehmen KI Markt, der neue Supermicro X14 KI Die Trainingsplattform basiert auf Intel® Gaudi 3-Beschleunigern der dritten Generation und wurde entwickelt, um die Effizienz von groß angelegten Trainings weiter zu steigern. KI Modelltraining und KI Inferenz. Erhältlich sowohl in luftgekühlter als auch in flüssigkeitsgekühlter Ausführung. Supermicro 'S X14 Die Gaudi 3-Lösung lässt sich problemlos skalieren, um ein breites Spektrum an KI Workload-Anforderungen zu erfüllen.
- GPU: 8 Gaudi 3 HL-325L (luftgekühlt) oder HL-335 (flüssigkeitsgekühlt) Beschleuniger auf OAM 2.0 Basisplatine
- CPU: Dual Intel® Xeon® 6 Prozessoren
- Speicher: 24 DIMMs – bis zu 6 TB Speicher in 1DPC
- Laufwerke: Bis zu 8 Hot-Swap-fähige Laufwerke PCIe 5.0 NVMe
- Netzteile: 8 x 3000 W hocheffiziente, vollständig redundante (4+4) Titan-Netzteile
- Netzwerk: 6 integrierte OSFP 800GbE-Ports für Scale-Out
- Erweiterungssteckplätze: 2 PCIe 5,0 x 16 (FHHL) + 2 PCIe 5.0 x8 (FHHL)
- Arbeitslasten: KI Training und Inferenz
Supermicro Gaudi®2 KI Trainingsserver
Aufbauend auf dem Erfolg des Originals Supermicro Gaudí KI Trainingssystem, das Gaudi 2 KI Der Server priorisiert zwei wichtige Aspekte: die Integration KI Beschleuniger mit integrierten Hochgeschwindigkeitsnetzwerkmodulen zur Steigerung der Betriebseffizienz für die Ausbildung modernster Technologien KI Modelle und die Vorstellung der KI der Branche die Wahlmöglichkeit geben, die sie braucht .
- GPU: 8 Gaudi2 HL-225H Mezzanine-Karten
- CPU: Dual-Prozessor der 3. Generation von Intel® Xeon® Skalierbare Prozessoren
- Speicher: 32 DIMMs – bis zu 8 TB registrierter ECC DDR4-3200 MHz SDRAM
- Laufwerke: bis zu 24 Hot-Swap-Laufwerke ( SATA / NVMe / SAS )
- Leistung: 6 x 3000 W hocheffiziente (54 V + 12 V) vollständig redundante Netzteile
- Netzwerk: 24 x 100GbE (48 x 56Gb) PAM4 SerDes-Verbindungen über 6 QSFP-DDs
- Erweiterungssteckplätze: 2x PCIe 4.0-Schalter
- Arbeitslasten: KI Training und Inferenz
KI Leistung und Effizienz am Netzwerkrand – unterstützt von Intel
Nutzen Sie die Leistungsfähigkeit und Energieeffizienz von Edge-Geräten. KI mit speziell entwickelten Systemlösungen von Intel und Supermicro Die Supermicro Das Portfolio von [Unternehmen] umfasst eine breite Palette fortschrittlicher CPUs und GPUs für hohe Leistung und geringe Latenz. KI Dies führt zu Ergebnissen in beengten und abgelegenen Umgebungen und hilft Unternehmen, datengetriebene Anwendungen mit Zuversicht zu skalieren.
- Leistungsoptimierung durch integrierte CPU-, GPU- und NPU-Architekturen
- Laufen KI Schnellere Inferenz mit OpenVINO
- Setzen Sie auf zuverlässige, energieeffiziente KI branchenübergreifend, beispielsweise im Einzelhandel, im Gesundheitswesen und in der Fertigung.