Edge Devices wie Fahrerassistenz- und Infotainment-Systeme im Auto, medizinische Geräte, Explorations-, Fertigungs- oder Service-Roboter und nicht zuletzt Mobiltelefone verfügen bei weitem nicht über die Ressourcen riesiger Cloud-Rechenzentren, die moderne Anwendungen für maschinelles Lernen benötigen. Die Herausforderung besteht darin, mit beschränkter Rechenleistung, begrenztem Speicherplatz und eingeschränkter Stromversorgung umzugehen.
Aufgrund eingeschränkter Konnektivität an abgelegenen Orten, unter Wasser oder im Weltraum und aufgrund von Sicherheits- oder Datenschutzbedenken, z. B. im häuslichen und industriellen Umfeld, ist es dennoch wünschenswert, dass diese Geräte Daten direkt verarbeiten, anstatt sie in die Cloud zu senden. Edge Computing kann außerdem Energie sparen, die sonst für den Datentransfer aufgewendet werden müsste. Damit die Rechenprozesse auf Edge-Devices schneller, umfangreicher und effizienter ausgeführt werden, kommt das Konzept der „Frugalen KI („Genügsame KI“) zum Tragen.
FAIRe zielt darauf ab, die Bereitstellung von KI-Anwendungen auf mobilen Geräten durch einen innovativen Ansatz zur Reduzierung der Modellgröße und des Rechenaufwands durch Netzwerkquantisierung, Optimierung der Netzwerkarchitektur, Optimierung der Rechenströme und schließlich Netzwerkausführung auf stromsparender Hochleistungshardware (z.B. RISC-V oder FPGA) zu ermöglichen.
FAIRe entwickelt einen umfassenden Ansatz auf allen Abstraktionsebenen einer KI-Anwendung, der die verschiedenen Schichten implementierter, laufender KI-Systeme adressiert: die eigentlichen KI-Algorithmen, die Hardware, auf der sie laufen, und die dazwischen liegende Compiler-Schicht, die dafür verantwortlich ist, KI-Algorithmen so effizient wie möglich für eine bestimmte Hardware zu übersetzen. Um diesen Ansatz in der Praxis zu demonstrieren, führt das Projektteam um Prof. Dr. Christoph Lüth vom DFKI-Forschungsbereich Cyber-Physical-Systems eine Fallstudie zur Mensch-Roboter-Interaktion (HRI), die alle diese Aspekte abdeckt.
Die Fallstudie wird anhand der Interaktion mit einem Menschen verdeutlichen, wie die verschiedenen Abstraktionsschichten zusammenarbeiten und wie robotische Systeme ressourcenbewusst und kontinuierlich lernen können. In diesem Szenario interagiert ein intelligenter Roboter über einen ausgedehnten Zeitraum mit einem Menschen, um ihn kontinuierlich bei spezifischen Aufgaben zu unterstützen. Während dieser Interaktion passt sich der Roboter an unbekannte Kontexte an. Die Ergebnisse der Fallstudie sollen die breite Anwendbarkeit der in FAIRe entwickelten KI-Algorithmen und weisen über das spezifische Szenario hinaus.
Edge-AI-Projekte wie FAIRe tragen dazu bei, KI-Anwendungen auf mobilen Endgeräten weitreichend nutzbar zu machen und eröffnen neue Potenziale für Anwendungen.
Das Projekt wird unter dem Förderkennzeichen 01IS23074 vom Bundesforschungs-ministerium (BMBF) vom 01.11.2023 - 31.10.2026 gefördert.