FRAGEN SIE UNS

KI Beschleuniger Karten für das AIoT Edge Computing

Mustang Computing Accellerator Cards for Artificial Intelligence

Das Thema Künstliche Intelligenz ist in aller Munde. In der Industrie spielen KI gestützte Anwendungen eine zunehmende Rolle. In der Produktion wird optische Erkennung in Fertigungsprozessen verwendet, um beispielsweise Produktionsfehler zu erkennen. Industrie PC Systeme, oder sogenannte Inferenzsysteme kommen zum Einsatz, um anhand von Bildern Entscheidungen über den Zustand von Produktionserzeugnissen zu treffen. Diese Inferenzsysteme verwenden vortrainierte Datensätze, sogenannte Trainingsmodelle, die in Hochleistungsrechnern erstellt worden sind. Kommen bei diesen Trainingsservern meist mehrere Grafikkarten Karten zum Einsatz, um das Modell möglichst schnell zu klassifizieren, ist der Einsatz von Grafikkarten an Edge aus unterschiedlichen Gründen nicht sinnvoll oder möglich. Unter anderem spielen Anforderungen wie die physische Größe des Inferenzsystems, der Stromverbrauch und das Preis- Leistungsverhältnis eine Rolle. Diese Anforderungen lassen sich mit GPU basierten Systemen nicht erfüllen.

Mit der Mustang KI Beschleunigerkarten Serie bieten sich neue Möglichkeiten für das Edge Computing beziehungsweise das Artificial Intelligence of Things (AIoT). Es stehen zwei unterschiedliche Mustang Serien zur Auswahl um flexibel und skalierbar KI Anwendungen an der Edge zu realisieren.

 

VPU Beschleunigerkarten

Die VPU basierte Mustang Serie verwendet Intel® MovidiusTM MyriadTM X MA2485 Visual Processing Units. Diese VPUs sind durch die Kombination ihres neuralen Netzwerks mit 16 SHAVE Kernen und ihrer Neural Compute Engine speziell für KI Anwendungen im Vision Bereich ausgelegt.
Neben einer Vielzahl von implementierten Hardwarefunktionen für die Bildverarbeitung, enthält jede VPU eine neue Stereo Depth Block Funktion, die in der Lage ist zwei Streams mit einer Auflösung von 720P bei 180 Hz zu verarbeiten. Native FP16 Berechnungen oder 8bit Festkommaberechnungen aber auch die abstimmbare ISP-Pipeline und die hardwarebasierte Codierung lassen auch anspruchsvolle Bild-oder Videoverarbeitung mit einer Auflösung von bis zu 4K zu. Jeder einzelnen VPU lässt sich dabei eine andere DL-Topologie zuweisen. Grund hierfür ist die Multi-Channel Fähigkeit der VPUs, die eine simultane Ausführung von Berechnungen ermöglicht. So lassen sich unterschiedliche Anwendungen wie Objekterkennung oder Bild- und Videoklassifikation gleichzeitig ausführen.

Auf der PCI Express x4 Bus basierten Mustang-V100-MX8 kommen gleich acht dieser VPUs zum Einsatz und erreichen eine Rechenleistung von einem TOPS. Damit ist die Mustang-V100-MX8 in der Lage mehr als zehn Video Streams gleichzeitig zu verarbeiten. Der Stromverbrauch hält sich dabei in Grenzen. Jede VPU verbraucht nur 2.5W. Im Gesamten verbleibt die Mustang-V100-MX8 unter 30 Watt und eignet sich für anspruchsvolle Low-Power KI-Anwendungen.

Sind weniger als zehn Streams zu verarbeiten kann eine kleinere Variante, wie die Mustang-V100-MX4 mit vier MA2485 VPU Einheiten, verwendet werden. Die Mustang-V100-MX4 basiert ebenfalls auf dem PCI Express Bus benötigt allerdings nur einen x2 Steckplatz und kann in nahezu jeden Kompakt PC verbaut werden.

Für besonders kompakte Embedded PC Systeme die keinen PCI Express Steckplatz bieten, stehen zwei VPU Module zur Auswahl die auf dem M.2 Formfaktor basieren. Die Mustang-M2AE-MX1 mit einer VPU Einheit sowie die Mustang-M2BM-MX2 mit zwei MA2485 VPU Einheiten.

Für Systeme mit älterem Mini-PCI Express Bus eignet sich die Mustang-MPCIE-MX2 mit zwei MyriadTM VPU Einheiten.

 

FPGA Beschleunigerkarten

Stehen Anforderungen an kurze Latenzzeiten im Raum, oder sind höhere Auflösungen bei einer höheren Taktrate zu verarbeiten, bietet sich die Mustang-F100 an. Anders als die Mustang-V100 Serie basiert die Mustang-F100 auf dem Intel® Arria® 10 GX1150 FPGA und ist mit 8GB on-board DDR4 RAM ausgestattet. Ihr kompaktes Profil (170x68x34mm) und standardisiertes PCIe Gen3 x8 Interface sorgen für eine problemlose Integration der KI-Beschleunigerkarte. Das Zuweisen einer individuellen Karten-ID ermöglicht den flexiblen Betrieb von mehreren Mustang-F100 innerhalb eines einzelnen Inferenzsystems. Durch die Parallelität der Datenverarbeitung und dem hohen Konfigurierungsgrad, die dem FPGA zu eigen sind, kann die Mustang-F100 wechselnde Workloads und verschiedene Gleitkommazahlen verarbeiten. Dank integrierter Intel® Enpirion® Power Lösung weist die Mustang-F100 eine hohe Effizienz ( < 60W TDP), Leistungsdichte und Performance (bis zu 1,5 TFLOPs) auf.

 

Softwareunterstützung

Sowohl für die Mustang Serie mit VPU als auch für die Mustang Serie mit FPGA stehen von Intel® Software Development Kits zur Verfügung. Mit dem Intel® MovidiusTM MyriadTM Development Kit (MDK) können eigene Funktionen eingebunden und beliebige Verarbeitungspipelines aufgebaut werden. Es steht ein reichhaltiges Angebot an Bibliotheken für Vision, Bildverarbeitung und Neurale Netze zur Auswahl. Für die Mustang Serie mit FPGA bietet Intel® Entwicklern das FPGA SDK for OpenCLTM, eine Entwicklungsumgebung die einfach auf FPGAs zu implementieren ist, den Platform Designer und den DSP Builder für FPGAs.
Die Mustang Serien V100 und F100 bieten Entwicklern zusätzlich, mit der Kompatibilität zum Open Visual Inference Neural Network Optimization (OpenVINOTM) Toolkit, eine optimierte Integration von Trainingsmodellen ohne aufwändiges Trail and Error. Zusätzlich wird auch die Leistung der Mustang-F100 oder V100 durch die Kompatibilität mit dem Intel® OpenVINOTM Toolkit optimiert. Das OpenVINOTM Toolkit nimmt automatisch eine passende Skalierung auf das jeweilige Zielsystem an der Edge vor. Darüber hinaus wird bereits eine Vielzahl von Topologien wie zum Beispiel AlexNet, GoogleNet V1/V2/V4, Yolo Tiny V1/V2, Yolo V2/V3, SSD300,SSD512, ResNet-18/50/101/152, DenseNet121/161/169/201, SqueezeNet 1.0/1.1, VGG16/19, MobileNet-SSD, Inception-ResNetv2, Inception-V1/V2/V3/V4, SSD-MobileNet-V2-coco, MobileNet-V1-0.25-128, MobileNet-V1-0.50-160, MobileNet-V1-1.0-224, MobileNet-V1/V2 und Faster-RCNN unterstützt. Von der klassischen Objekterkennung über die Video- und Bildklassifikation bis hin zur Gesichtserkennung oder Bildsegmentierung sind anwendungsseitig kaum Grenzen gesetzt.

 

Benchmark

Je nach Topologie empfiehlt es sich den Bitstream der Mustang-F100 anzupassen, um ihre Performance bestmöglich zu optimieren. Je nach OpenVinoTM Toolkit Version stehen unterschiedliche Bitstreams zur Verfügung, die mit dem Toolkit eingespielt werden. Benchmark Tests mit dem im OpenVINOTM Toolkit integrierten Testtool zeigen, dass man durch die Anpassung des Bitstreams an die verwendete Topologie GPU basierten Inferenzmaschinen deutlich den Rang ablaufen kann. Zum Beispiel zeigt die Mustang-F100 eine 87% höhere Performance bei SqueezeNet 1.1 oder 82% bei Yolo Tiny V1 gegenüber einer Nvidia P4 Lösung. Ein kompetenter Partner unterstützt Kunden beim Bitstreamwechsel und erstellt auf Wunsch kundenspezifisch angepasste Bitstreams.

 

Fazit

Die Mustang Serie ist mit ihrer Low Power Architektur und ihrer Skalierbarkeit eine überlegene Alternative zu GPU basierten KI Lösungen. Inferenzmaschinen erhalten durch Verwendung von KI Beschleunigerkarten eine deutliche Performancesteigerung. Die Kompatibilität zum OpenVINOTM Toolkit bietet Entwicklern eine einfache Möglichkeit Trainingsmodelle ohne aufwändige Trial and Error an der Edge zu implementieren.

 

Mustang KI Beschleuniger Karten

Klicken Sie hier, um Google Analytics zu deaktivieren.