Edge bezieht sich auf Rechenprozesse, die in der Nähe der Datenquellen an diesen Standorten stattfinden - seien es Sensoren, Geräte oder Endnutzer - anstatt sich auf zentralisierte Systeme zu stützen, die bei der traditionellen KI üblich sind. Dies ermöglicht hyper Erlebnisse wie dynamische Menüempfehlungen in Schnellrestaurants und trägt gleichzeitig zu erheblichen Einsparungen bei der Datenübertragungsbandbreite bei.
Supermicro und NVIDIA liefern KI , die die Bereitstellung durch vorintegrierte Komponenten mit optimierter Hardware und Software für die Echtzeitverarbeitung rationalisieren.
Real-Time
Ob Datenanalyse, Überwachung, vorausschauende Wartung oder Personalisierung, KI at the edge ermöglicht es Ihnen, Ihre Geschäftsanforderungen zu erfüllen, sobald sie entstehen.
Ununterbrochene
Offline-Verarbeitung und -Schlussfolgerungen ermöglichen einen unterbrechungsfreien Betrieb in entfernten oder nicht verbundenen Umgebungen
Personalisierte
Verstehen und Reagieren auf Kundenpräferenzen in einer natürlicheren und ansprechenderen Weise, um innovative Erfahrungen zu schaffen, angetrieben durch generative KI
![YouTube:Supermicro] KI an den Rand bringen](https://img.youtube.com/vi/IQuT2PC2nJ0/maxresdefault.jpg)
Die zwei Hälften der Edge KI
Der Einsatz von KI am Edge kann für zwei unterschiedliche, aber sich ergänzende Zwecke erfolgen: prädiktive und generative KI. Die prädiktive KI ist das analytische Kraftpaket, das historische Daten zur Vorhersage künftiger Ereignisse nutzt.
Die generative KI hingegen ist ein kreativer Katalysator, der die zugrunde liegenden Datenmuster nutzt, um neue Informationen zu synthetisieren und so Innovationen und personalisierte Erfahrungen zu fördern.
Einzelhandel
Vorhersagende KI zur Revolutionierung von Einzelhandelsflächen
- Schutz des Vermögens
- Autonomes Einkaufen
- Nachfrageprognose
- Empfehlungsgeber & Hyper
Im Einzelhandel revolutioniert die prädiktive KI den Vermögensschutz. Durch die Analyse von Mustern und die Identifizierung potenzieller Bedrohungen bieten KI Einzelhändlern präventive Lösungen zur Reduzierung von Verlusten und zur Verbesserung der Ladensicherheit.
Diese Berechnungen müssen am Rande des Netzes stattfinden, um die Echtzeitreaktionen zu ermöglichen, die für eine wirksame Reaktion erforderlich sind.
Produkt Anwendungsfall
SYS-E403-14B-FRN2T
Dieses System im Boxformat ist ideal für KI im Front- und Back-of-Store-Bereich und nutzt die Leistung eines Intel® Xeon® Prozessors der Serie 6 sowie die Unterstützung mehrerer GPU-Karten.
SYS-112B-FWT
Dieses 1U-System ultra Tiefe, das in Umgebungen mit begrenztem Platzangebot eingesetzt werden kann, bietet eine Intel® Xeon® 6-CPU und GPU-Unterstützung für KI im Front- und Back-of-Store-Bereich.
AS -1115S-FWTRT
Dieses 1U-System ultra Tiefe, das in Umgebungen mit begrenztem Platzangebot eingesetzt werden kann, bietet eine AMD EPYC™ 8004-CPU und GPU-Unterstützung für KI im Front- und Back-of-Store-Bereich.
SYS-212B-FN4TP
Ein 2U-Rackmount-System mit geringer Tiefe, das für KI entwickelt wurde und mehrere Eingabeformate verarbeiten kann. Es nutzt eine Auswahl an Intel® Xeon® Prozessoren der Serie 6 und skalierbare PCIe-Konfigurationen.
SYS-322GA-NR
Diese 3U-Plattform ist ein GPU-optimierter Server, der mehrere Inferencing-Workloads gleichzeitig unterstützen kann, z. B. die Analyse von Video-Feeds oder das Rendern virtueller Avatare in Display-Kiosken.
Schnell-Restaurants
Ermöglicht es Restaurants, der Konkurrenz einen Schritt voraus zu sein
- Sprachgesteuerte Lebensmittelkioske
- Lebensmittelqualität und betriebliche Effizienz
- Vorhersage und Bestandsaufnahme
Schnellrestaurants setzen auf generative KI , um ihr Kundenerlebnis zu verbessern. Sprachgesteuerte Essenskioske, die auf generativer KI basieren, bieten personalisierte Interaktionen, die die Vorlieben der Kunden auf natürliche und ansprechende Weise verstehen und darauf reagieren.
Generative KI kann spontan Upsell- und Komplimentvorschläge machen oder einen menschenähnlichen Kundenservice direkt im Kiosk anbieten. Kombiniert mit prädiktiver KI , die aus der Kundenkartenhistorie lernt, können bei jedem weiteren Besuch tiefergehende Anpassungen und angenehmere Interaktionen angeboten werden.
Produkt Anwendungsfall
SYS-E302-12D-4C
Ein leistungsstarker, leichtgewichtiger lüfterloser Server, der sich ideal für Anwendungen in unkontrollierten Räumen, wie z. B. in Küchen, eignet und einen Intel® Xeon® D-Prozessor nutzt.
SYS-E302-12A-4C
Ein leichter, energieeffizienter lüfterloser Server, der sich ideal für Anwendungen in unkontrollierten Räumen, wie z. B. in Küchen, eignet und mit einem stromsparenden Intel® Atom® Prozessor ausgestattet ist.
SYS-E302-13AD
Ein leichter, lüfterloser Server, der sich ideal für Anwendungen eignet, die in unkontrollierten Räumen, wie z. B. in Küchen, eingesetzt werden, und der einen Intel® Core™ Prozessor für Edge-Workloads nutzt.
SYS-E100-13AD-E
Ein kompakter, lüfterloser Server mit einem leistungsstarken Intel® Core™-Prozessor, der sich leicht in Drive-Thru-Modulen und Menütafeln installieren lässt und auch für die routinemäßige Verwaltung von Geschäften geeignet ist.
SYS-112B-FWT
Das 1U-System ultra Tiefe bietet einen leistungsstarken Intel® Xeon®-Prozessor der Serie 6 und GPU-Unterstützung in platzbeschränkten, kontrollierten Umgebungen.
AS -1115S-FWTRT
Das 1U-System ultra Tiefe bietet einen leistungsstarken AMD EPYC™-Prozessor der 8004-Serie und GPU-Unterstützung in platzbeschränkten, kontrollierten Umgebungen.
Herstellung
Rationalisierung von End-to-End-Herstellungsherausforderungen
- Gesundheit und Sicherheit der Mitarbeiter
- Automatisierte Qualitätsinspektion
- Milderung der Abwanderung von Fachkräften
Die Fertigungsindustrie nutzt prädiktive KI , um eine ihrer wichtigsten und teuersten Herausforderungen zu meistern: die Sicherheit am Arbeitsplatz. Unternehmen nutzen Edge KI , um Daten von CCTV, Maschinen und Betriebssoftware zu verbinden und so eine vorausschauende Echtzeitanalyse potenzieller Gefahren zu ermöglichen.
Eine weitere wichtige Anwendung ist die automatisierte Qualitätskontrolle. Durch die kontinuierliche Überwachung einer Produktionslinie für Automobilteile und die Einspeisung der Daten in ein prädiktivesKI ist es beispielsweise möglich, Echtzeit-Einsichten für die Qualitätskontrolle zu liefern und das Risiko von Fehlern erheblich zu verringern.
Produkt Anwendungsfall
SYS-112B-FWT
KI automatisierte Qualitätsinspektion in der Fertigung ist mit diesem System, das eine Auswahl an Intel® Xeon® Prozessoren der Serie 6 und GPU-Unterstützung unterstützt, problemlos möglich.
AS -1115S-FWTRT
KI automatisierte Qualitätsprüfungen in der Fertigung sind mit diesem System, das einen AMD EPYC™-Prozessor der 8004-Serie und GPU-Unterstützung nutzt, problemlos möglich.
SYS-212B-FN4TP
Nutzen Sie Computer Vision und prädiktive KI , um die Sicherheit am Arbeitsplatz mit diesem System zu gewährleisten, das eine Auswahl an Intel® Xeon® Prozessoren der Serie 6 und GPU-Unterstützung unterstützt.
Gesundheitswesen und medizinische Geräte
Unterstützung derjenigen, die anderen helfen, bei der Bereitstellung von Pflegeleistungen höchster Qualität
- Patientensicherheit und Überwachung
- Diagnostische Bildgebung
- Wegweiser
Im Gesundheitswesen wird die prädiktive KI zunehmend in der diagnostischen Bildgebung erprobt, um die Genauigkeit und Effizienz medizinischer Diagnosen zu verbessern, indem geschulte Experten ergänzt werden.
Ein weiteres Beispiel, insbesondere in Krankenhäusern, ist der Einsatz generativer KI für die Wegfindung - eine Anwendung, die das Erlebnis für Patienten und Besucher verbessert. Digitale Kioske und Concierge-Dienste, die von KI unterstützt werden, leiten Menschen durch komplexe Krankenhausanlagen und bieten Wegbeschreibungen und Informationen entweder auf an der Wand montierten Bildschirmen, die den Weg des Besuchers verfolgen, oder auf Aktualisierungen, die direkt auf ein mobiles Gerät übertragen werden.
Produkt Anwendungsfall
SYS-112B-FWT
Das 1U-System ultra Tiefe verfügt über die hohe Leistung und die GPU-Unterstützung, um KI wie z. B. Wegweiser auf digitalen Kiosken zu liefern, die das Erlebnis der Krankenhausbesucher verbessern.
SYS-212B-FN4TP
Das 2U-Rackmount-System mit geringer Tiefe ermöglicht KI wie Patientensicherheit und -überwachung durch die Verarbeitung mehrerer Eingabeformate unter Verwendung einer Auswahl von Intel® Xeon® Prozessoren der Serie 6 und PCIe-Konfigurationen.
SYS-222HE-FTN
Erfüllen Sie die Anforderungen anspruchsvoller Anwendungen wie prädiktive Analytik, Diagnostik und personalisierte Medizin, indem Sie die Rechenleistung eines dualen Intel® Xeon® Prozessors der Serie 6 mit mehreren Erweiterungs- oder GPU-Karten kombinieren
SYS-322GA-NR
Diese 3U-Plattform ist ein GPU-optimierter Server für das Gesundheitswesen und medizinische Anwendungen und unterstützt mehrere Inferenz-Workloads gleichzeitig, einschließlich Diagnose, Bildinterpretation und Risikobewertung.
Intelligente Räume
Verbesserung der Art und Weise, wie Menschen mit anderen Menschen und ihrer Umwelt interagieren
- Verwaltung von Menschenansammlungen und Parkplätzen
- Erhöhung der Sicherheit
- Zugangskontrolle
- Verkehrsmanagement
In intelligenten Räumen wie Veranstaltungsorten und Stadien wird die prädiktive KI für die Verwaltung von Menschenmengen und Parkplätzen eingesetzt. Durch die Analyse von Echtzeitdaten können diese Systeme den Fußgängerverkehr und die Parklogistik effektiv steuern und so das Gesamterlebnis der Kunden verbessern und gleichzeitig die Sicherheit erhöhen.
Produkt Anwendungsfall
SYS-E403-14B-FRN2T
Nutzen Sie eine breite Palette von Einsatzoptionen, einschließlich eines an einem Mast montierten, robusten Außengehäuses, für jede Anwendung, die die Leistung einer Intel® Xeon® 6-Serie und Unterstützung für mehrere GPUs erfordert.
SYS-222HE-FTN
Nutzen Sie die Rechenleistung von zwei Intel® Xeon® Prozessoren der Serie 6 mit Unterstützung für mehrere GPU-Karten, um KI für Sicherheit, Verkehrskontrolle und Parkraummanagement bereitzustellen.
SYS-322GA-NR
Diese 3-HE-Plattform ist ein GPU-optimierter Server für den Unternehmensbereich, der mehrere Inferencing-Workloads gleichzeitig unterstützen kann, wie sie beispielsweise bei großen Veranstaltungen und in dicht besiedelten Gebieten benötigt werden.
Klein
SYS-E300-13AD
| Abmessungen (mm) H × B × T | 43.0 × 264.8 × 225.8 |
|---|---|
| Hauptmerkmale für Predictive | KI Computer Vision für bis zu 8 Streams1 |
| Bis zu ~2.000 automatische Spracherkennungsproben (ASR) pro Sekunde2 | |
| Hauptmerkmale für Generative | LLM bis zu 8 Milliarden Parameter |
| Bild- und Videoerstellung mit Stable Diffusion bei ~1 Bild alle 4-5 Sekunden | |
| GPU-Unterstützung |
|
Mittel
SYS-110D-20C-FRAN8TP3
| Abmessungen (mm) H × B × T | 43.0 × 437.0 × 399.0 |
|---|---|
| Hauptmerkmale für Predictive | KI Computer Vision für bis zu 16 Streams1 |
| Bis zu ~6.000 Samples der automatischen Spracherkennung (ASR) pro Sekunde2 | |
| Hauptmerkmale für Generative | LLM bis zu 24 Milliarden Parameter |
| Bild- und Videoerstellung mit Stable Diffusion bei ~1 Bild alle 2 Sekunden | |
| GPU-Unterstützung |
|
Groß
SYS-E403-14B-FRN2T
| Abmessungen (mm) H × B × T | 117.3 × 266.7 × 406.4 |
|---|---|
| Hauptmerkmale für Predictive | KI Computer Vision für bis zu 32 Streams1 |
| Bis zu 22.000 Samples der automatischen Spracherkennung (ASR) pro Sekunde2 | |
| Hauptmerkmale für Generative | LLM bis zu 48 Milliarden Parameter |
| Bild- und Videoerstellung mit Stable Diffusion bei ~1-2 Bildern pro Sekunde | |
| GPU-Unterstützung |
|
Extra groß
SYS-222HE-(F)TN
| Abmessungen (mm) H × B × T | 88.9 × 436.9 × 574.0 |
|---|---|
| Hauptmerkmale für Predictive | KI Computer Vision für bis zu 48 Streams pro GPU1 |
| Bis zu 32.000 Samples pro Sekunde für die automatische Spracherkennung (ASR) pro GPU2 | |
| Hauptmerkmale für Generative | LLM bis zu 80 Milliarden Parameter |
| Bild- und Videoerstellung mit Stable Diffusion bei ~3 Bildern pro Sekunde | |
| GPU-Unterstützung |
|
- Basierend auf der Verwendung eines Bildklassifizierungsmodells ähnlich EfficientNet-B4, abhängig von der Komprimierung des Videostroms und anderen Arbeitsbelastungen des Systems
- Basierend auf der Verwendung eines ASR-Modells wie QuartzNet
- Weitere Modelle sind SYS-110D-4C-FRAN8TP, SYS-110D-8C-FRAN8TP, SYS-110D-14C-FRAN8TP und SYS-110D-16C-FRAN8TP
Supermicro und NVIDIA: Eine Reihe von Lösungen
Das Herzstück einer jeden Edge KI ist eine robuste und kohärente Architektur, die die Lösung unterstützt. Der gemeinsame Ansatz von Supermicro und NVIDIA bietet genau das - ein umfassendes Framework, das CPUs, GPUs und optimierten Speicher integriert, die alle innerhalb der stabilen Infrastruktur der SupermicroSysteme orchestriert werden.
Der Stack ist so konzipiert, dass er maximale Effizienz und Leistung für den Einsatz von KI in großem Maßstab gewährleistet. Middleware-Lösungen sorgen dafür, dass die Systeme nicht nur leistungsstark sind, sondern auch intelligent koordiniert und leicht in bestehende Arbeitsabläufe integriert werden können.
Sicherheit, Speicherung und Vernetzung sind grundlegende Elemente dieser Architektur, die gewährleisten, dass die Datenintegrität und -übertragung niemals gefährdet sind. Das Ergebnis ist eine skalierbare Lösungsarchitektur, die es den Endnutzern ermöglicht, das volle Potenzial von Edge KI und Edge Computing auszuschöpfen.
