Das Projekt INSYS beschäftigt sich mit der Interpretierbarkeit von gelernten Modellen und den daraus resultierenden Möglichkeiten zur Selbstüberwachung komplexer Robotersysteme, die mit multimodalen Daten arbeiten. Dazu werden neuartige Ansätze der XAI für multimodale Robotersysteme entwickelt, um die Analyse von Korrelationen von Ursache, in diesem Fall Eingangsdaten, und Wirkung, bzw. Modellausgabe, besser zu verstehen und erklärbar zu machen. Auf dieser Basis können auch allgemeine Zusammenhänge innerhalb der Daten ohne viel Vorwissen analysiert werden. Für Robotersysteme bedeutet dies, dass auf Basis der von verschiedenen Sensoren generierten Daten und deren Konsistenzprüfungen neue Situationen, Anomalien oder Fehlfunktionen erkannt werden können und somit die korrekte Funktion bei der Ausführung verschiedener Aufgaben überwacht werden kann. Gleichzeitig können die gewonnenen Informationen genutzt werden, um der Einsatzleitung die Analysen eines automatischen Systems nachvollziehbar darzustellen, so dass sie im Fehlerfall eingreifen kann. Insofern lässt sich der Überwachungsprozess im Hinblick auf die Konsistenzprüfung in zwei grobe Ebenen aufteilen, die die gesamte Verarbeitungskette von der Sensorik über die Akutatorik bis hin zu tiefen, multimodalen neuronalen Netzen individuell von den Partnern verfolgt wird. Die Universität Bremen verfolgt dabei erklärbare und interpretierbare multimodale neuronale Netze auf der Modellebene, wobei der Fokus auf der Verifikation der Ausgabewerte der gelernten Modelle einzeln oder im Verbund gemäß der Definition von Umweltbedingungen liegt. Das DFKI RIC verfolgt die Implementierung von Monitoring und Konsistenzprüfung von multimodalen Robotersystemen auf der Sensorebene, wobei die Überprüfung von Sensorwerten und/oder einfachen Merkmalen dem aktuell erwarteten Verhalten und den gelernten Erwartungen entspricht.
Partner
Universität Bremen
