Wegweisende Lösung ermöglicht Echtzeit-Datenanalysen mit KI am Edge

NTT und Red Hat haben gemeinsam mit NVIDIA und Fujitsu im Rahmen der IOWN-Initiative eine wegweisende Lösung entwickelt, die Echtzeit-Datenanalysen mit Künstlicher Intelligenz am Edge erweitert. Diese Lösung ermöglicht es Unternehmen, von den Vorteilen schnellerer und effizienter KI-Analysen zu profitieren. Sie wurde als Proof of Concept anerkannt und bietet zahlreiche Möglichkeiten zur Skalierung und Innovation.

Wegweisende Lösung ermöglicht effiziente KI-Analysen am Edge

Die Bedeutung von KI-Analysen am Edge nimmt aufgrund der steigenden Relevanz von KI, Sensortechnologie und Netzwerkinnovationen kontinuierlich zu. Um die wachsende Anzahl von Datenquellen effizient zu verarbeiten, ist eine schnelle und effektive Implementierung erforderlich. Durch die fortschreitende Entwicklung von Edge-Computing-Fähigkeiten können die KI-Analysen näher an den Sensoren durchgeführt werden, was zu einer Reduzierung der Latenz und einer Erhöhung der Bandbreite führt. Dies ermöglicht eine effiziente und schnelle Verarbeitung von KI-Analysen.

Die Lösung besteht aus einer Kombination des IOWN All-Photonics Networks (APN) und speziellen Technologien, die die Datenpipeline in der IOWN Data-Centric Infrastructure (DCI) beschleunigen. NTTs beschleunigte Datenpipeline nutzt Remote Direct Memory Access (RDMA) over APN, um große Mengen an Sensordaten effizient zu sammeln und zu verarbeiten. Mit Hilfe von Red Hat OpenShift, einer Container-Orchestrierungstechnologie, können Workloads in der beschleunigten Datenpipeline über entfernte und geografisch verteilte Rechenzentren hinweg flexibel verwaltet werden. Diese Lösung ermöglicht eine effiziente Stromnutzung und niedrige Latenz für Echtzeitanalysen mit KI am Edge.

Im Rahmen des Proof of Concept wurde die Echtzeit-KI-Analyse-Plattform in Yokosuka City mit installierten Sensoren und dem entfernten Rechenzentrum in Musashino City evaluiert. Die Latenz bei KI-Inferencing-Workloads konnte um 60 Prozent im Vergleich zu klassischen Methoden reduziert werden. Zudem wurde der Stromverbrauch der KI-Analysen um 40 Prozent im Vergleich zu herkömmlichen Technologien gesenkt. Dank der Skalierbarkeit der GPUs kann die Lösung eine größere Anzahl von Kameras unterstützen, ohne dass die CPU zum limitierenden Faktor wird. Man erwartet, dass der Stromverbrauch bei Verwendung von 1.000 Kameras um weitere 60 Prozent reduziert werden kann.

Effiziente Datenpipeline für KI-Inferencing optimiert Sensordatenverarbeitung und Netzwerkprotokolle

• Die Lösung ermöglicht eine effiziente Verarbeitung großer Mengen Sensordaten und reduziert den Protokoll-Overhead im Netzwerk
• Die Lösung ermöglicht große Echtzeit-KI-Datenanalysen, basierend auf Red Hat OpenShift, und vereinfacht die Implementierung von Hardware-basierten Beschleunigern
• Die Lösung verwendet NVIDIA A100 Tensor Core GPUs und NVIDIA ConnectX-6 NICs zur Durchführung von KI-Inferencing

Effiziente Datensammlung: Weniger Overhead bei großen Datenmengen

• Durch den Einsatz dieser Lösung wird der Aufwand für die Erfassung großer Datenmengen deutlich reduziert
• Durch die verbesserte Datensammlung über verschiedene Standorte hinweg können Unternehmen schnellere KI-Analysen durchführen
• Die Lösung ermöglicht die Nutzung von erneuerbaren Energien wie Solar- oder Windenergie, um den Stromverbrauch zu optimieren
• Durch den Einsatz von Videokameras als Sensoren wird das Gebietsmanagement sicherer

Die Partnerschaft zwischen NTT und Red Hat im Rahmen der IOWN-Initiative hat eine wegweisende Lösung hervorgebracht, die Unternehmen dabei unterstützt, ihre KI-gestützten Technologien nachhaltig zu skalieren. Die Lösung bietet eine effiziente Verarbeitung großer Datenmengen, reduziert Latenz und Stromverbrauch und ermöglicht die flexiblere Verwaltung von Workloads über verschiedene Standorte hinweg. Weitere Informationen zu dieser Lösung können während der Session des IOWN Global Forum auf dem MWC in Barcelona am 29. Februar 2024 erhalten werden.

Effiziente Echtzeit-Datenanalysen: Lösung ermöglicht schnellere und kostengünstigere KI-Analysen

Die Lösung für Echtzeit-Datenanalysen mit KI am Edge ermöglicht Unternehmen eine effiziente Verarbeitung großer Datenmengen, was zu schnelleren und kostengünstigeren KI-Analysen führt. Gleichzeitig wird die Latenz und der Stromverbrauch reduziert, was die Effizienz steigert. Die Lösung bietet zudem Flexibilität bei der Verwaltung von Workloads über verschiedene Standorte hinweg und ermöglicht die Nutzung erneuerbarer Energien. Insgesamt eröffnet die Lösung Unternehmen neue Möglichkeiten für Wachstum und Innovation.