Erweiterungskarten für Echtzeit KI Anwendungen

Nachrüstbare und skalierbare KI-Einsteckkarten

Hinter der Bezeichnung MiAi-H8 verbirgt sich eine Neuheit im Portfolio von ICP Deutschland. Die erste PCI Express Einsteckkarte ausgestattet mit Hailo-8™ KI Prozessoren. Ausgelegt ist die MiAi-H8 für den PCI Express Bus der dritten Generation und verfügt über 16 PCIe Lanes. Zwei Versionen mit je zwei Varianten stehen für die Erweiterung von Standard Computer Systemen zur Verfügung. Eine Version mit vier sowie eine Version mit acht Hailo-8™ AI Prozessoren bieten ausreichend Inferenzleistung für KI Anwendungen.

Variante eins mit vier Hailo-8™ Prozessoren erreicht eine Leistung von 104 TOPs, 5.300 FPS Inferenzleistung bei Verwendung von ResNet, und 900 FPS bei YOLO v5m. Bei der Variante zwei mit acht Hailo-8™ Prozessoren verdoppelt sich gar die Leistung. Machine Learning Frameworks wie ONNX, Tensorflow und pyTorcg werden von der MiAi-H8 unterstützt. Ferner bietet die Erweiterungskarte GStreamer, Native C/C++ und ONNX Runtime Unterstützung. Neben dem Dataflow Compiler, der die Modellkonvertierung und -kompilierung ermöglicht, stehen weitere Software Pakete parat. HailoRT als Laufzeitumgebung und Treiber Paket. Model Zoo bietet vortrainierte Modelle. TAPPAS enthält das Development Framework, Vorlagen und Multi-Network Pipelines.

Eine Nachrüstung von Systemen wird erleichtert durch die Kompatibilität zu Linux Ubuntu 22.04, sowie Microsoft Windows 10 Professional oder IoT 2021 und Windows 11 Professional. Zur Skalierung können mehrere Karten in einem System betrieben werden. Für anspruchsvollere Betriebstemperaturen steht eine aktiv gekühlte Variante parat. Die vierfach HailoTM Prozessor Version unterstützt hierbei -40 °C bis 85 °C und die achtfach HailoTM Version -40 °C bis +75 °C. Die Leistungsaufnahme liegt typischerweise zwischen 20 und 30 Watt und erreicht ein Maximum von 74 Watt. Die MiAi-H8 unterstreicht durch ihr Design und den erweiterten Temperaturbereich ihre industrielle Eignung.

Spezifikationen

• ● Hailo-8™ AI Prozessoren
• ● Vier oder acht Prozessoren wählbar
• ● Aktive oder passive Kühlung

Anwendungsbereiche/Applikationen

• ● Industrie 4.0
• ● Smart retail
• ● Smart City
• ● Deep Neural Network Inferencing
• ● Fabrikautomation
• ● Fahrzeug-Überwachung