• Computer-Vision-Systeme bieten ein enormes Potenzial zur Senkung von Betriebskosten.

• Eine Lösung könnte darin liegen, für das Ausführen der Algorithmen auf kostengünstige Edge-Devices zurückzugreifen.

• In bestimmten Anwendungsszenarien sind Hybridlösungen möglich.

Wenn es um Hardware für KI bzw. Computer Vision geht, dann lautet das Motto oft: „Mehr Power“. Viele Algorithmen benötigen eine hohe Rechenleistung, was sich in einer entsprechend komplexen und teuren Infrastruktur niederschlägt. Doch jüngste Fortschritte bei der Architektur von Microcontrollern senken die Einstiegshürde für KI und Computer Vision deutlich – mit Kosten von gerade einmal 20 US-Dollar pro Gerät.

Computer-Vision-Systeme bieten ein enormes Potenzial zur Senkung von Betriebskosten, indem sie beispielsweise Mitarbeiter bei langweiligen oder repetitiven Aufgaben wie beispielsweise bei der Überwachung von Maschinen oder Anlagen entlasten. Allerdings benötigen die aktuellen Deep-Learning-Ansätze für Computer Vision zumeist teure Grafikkarten, wie etwa die NVIDIA Titan V ($3000). Dazu kommt: Die zugrunde liegende Architektur ist zumeist Cloud-basiert. Das kann ein Problem darstellen, sei es aufgrund von Latenzen, wenn es um heikle, besonders schützenswerte Daten geht oder beim Fehlen einer entsprechenden Netzwerkinfrastruktur.

Eine Lösung könnte darin liegen, für das Ausführen der Algorithmen auf kostengünstige Edge-Devices zurückzugreifen. Die jüngsten Fortschritte bei der Architektur für Microcontroller machen Deep Learning auch auf kleineren, günstigeren und energiesparenden Geräten möglich. Kostenpunkt: ab 20 US-Dollar aufwärts. Diese Geräte erlauben Anwendungen beinahe in Echtzeit und laufen über Monate oder sogar Jahre hinweg wartungsfrei. Mögliche Anwendungen hierfür sind etwa Preventive Maintenance, die Qualitätskontrolle an Fertigungsstraßen oder Überwachungsaufgaben, sei es zur Arbeitssicherheit oder zum Werkschutz.

Schon heute ist eine gewisse Vielfalt an Microcontrollern verfügbar, die in der Lage sind, Deep-Learning-Algorithmen auszuführen. Dazu zählen Kombinationen aus Kamera und Microcontroller, wie die OpenMV Camera, Produkte mit Prozessoren bzw. Co-Prozessoren, wie beispielsweise die Kombination ARM Cortex-M55/Ethos-U55 und andere Optionen dazwischen mit unterschiedlichen Peripheriegeräten. Die u.s. Tabelle listet eine (unvollständige) Auswahl auf.

Wichtig: Die oben genannten Optionen sind nur dazu in der Lage, Algorithmen auszuführen! Das Training muss auf einer leistungsstärkeren Hardware erfolgen. Aber die muss nicht zwangsläufig selbst erworben werden!

Die Entwicklung einer Computer-Vision-Anwendung für Edge beginnt genauso wie beim „traditionellen“ Deep-Learning-Ansatz: Zunächst geht es darum, Daten zu sammeln – in diesem Fall Bilder, die unter möglichst praxisnahen Bedingungen aufgenommen wurden. Diese Daten werden dann bereinigt und aufbereitet. Sie sind die Grundlage für das Training eines entsprechenden Algorithmus.

Sobald dieser Algorithmus in einer Testumgebung die erwarteten Ergebnisse liefert, wird er für die Ausspielung auf die Microcontroller vorbereitet. Dieser Optimierungsprozess stellt sicher, dass die Features der jeweiligen Microcontroller optimal genutzt werden. Bei manchen Algorithmen ist es noch möglich, unnötigen Overhead zu reduzieren, damit sie auf kleinen Devices noch effizienter laufen.

Dieser optimierte Algorithmus kann dann auf die Plattform aufgespielt werden, mit der die ursprünglichen Daten gesammelt wurden. Hierbei können auch Benchmarks für den Energieverbrauch ermittelt werden. Abhängig von den Anforderungen lassen sich diese Plattformen auf einen niedrigen Energieverbrauch hin optimieren. Dadurch können sie für eine lange Zeit allein und ohne menschlichen Eingriff mit einer Batterie betrieben werden.

In bestimmten Anwendungsszenarien kann es auch dazu kommen, dass die Microcontroller neue Situationen aufzeichnen, die sie nicht klassifizieren können. Die Lösung kann hier ein Hybrid aus einer Edge-/Server-Architektur sein, wie er auch bei autonomen Fahrzeugen verwendet wird, um gleichzeitig Daten zu sammeln und zu nutzen (siehe auch Mohanbir Sawhney).

Bei diesem Ansatz sammeln die Edge Devices laufend Daten und wenden darauf ihre Algorithmen an. Ein zentraler Server trainiert diese Algorithmen auf Basis der neuen Daten weiter, wodurch die Edge Devices immer besser werden. Wir haben ein solches Setup bereits in einigen Projekten implementiert und festgestellt, dass der Aufwand für die Entwicklung eines ersten Proof of Concept recht überschaubar ist.

Die Entwicklung einer Lösung auf Basis von Microcontrollern kann ein effektiver Ansatz sein, um die benötigte Rechenleistung, den Energieverbrauch und die Kosten für die Hardware zu senken, ohne dafür in größerem Umfang neue Infrastruktur aufbauen zu müssen. Der Prozess ist dabei vergleichbar mit bisherigen Deep-Learning-Ansätzen – ergänzt durch einige Optimierungen, um die Anwendungen auf den kleineren Devices laufen zu lassen. Ein weiterer Vorteil ist dabei, dass diese Lösungen keine Connectivity benötigen, solange keine kontinuierliche Datenerfassung erforderlich ist. Und für diesen Fall ist es möglich, auf Unsupervised Learning zurückzugreifen, wie es mein Kollege Kevin Henrichs in seinem Blogpost skizziert hat.