Skip to main content Skip to main navigation

Best Student Paper Award für DFKI-Forschung zur Erklärbarkeit von KI

| Image Recognition & Understanding | Lernende Systeme | Preise & Auszeichnungen | Kooperative und Autonome Systeme | Osnabrück / Oldenburg

Auszeichnung auf der ICTAI 2026 in Florida: Forschende des DFKI und der Universität Osnabrück machen sichtbar, welche Rolle vorhandenes Wissen bei den Entscheidungen von KI-Systemen spielt.

Tim Stelzner von der Universität Osnabrück mit der Auszeichnung für das Best Student Paper auf der ICTAI 2026© Andreas Schliebitz
Tim Stelzner von der Universität Osnabrück mit der Auszeichnung für das Best Student Paper auf der ICTAI 2026 in Boca Raton, Florida.

Wie lässt sich feststellen, ob ein KI-System tatsächlich auf vorhandenes Wissen zurückgreift oder seine Entscheidungen vor allem anhand erlernter Muster trifft? Mit dieser Frage beschäftigt sich eine gemeinsame Forschungsarbeit des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) und der Universität Osnabrück, die auf der IEEE International Conference on Tools with Artificial Intelligence (ICTAI) 2026 in Boca Raton, Florida, mit dem Best Student Paper Award ausgezeichnet wurde.

Die Publikation „Explaining Knowledge Utilization in Heterogeneous GNNs for 3D Semantic Scene Graphs“ entstand in Zusammenarbeit von Tim Stelzner, Marian Renz, Felix Igelbrink und Prof. Dr. Martin Atzmüller. Im Mittelpunkt steht die Frage, wie Künstliche Intelligenz räumliche Umgebungen interpretiert und dabei zusätzlich bereitgestelltes Wissen über Objekte und deren Beziehungen berücksichtigt.

Wenn KI vorhandenes Wissen nicht nutzt

Damit KI-Systeme ihre Umgebung verstehen können, müssen sie nicht nur einzelne Objekte erkennen, sondern auch deren räumliche und inhaltliche Beziehungen erfassen. Dafür werden sogenannte semantische 3D-Szenengraphen eingesetzt. Sie bilden beispielsweise ab, welche Gegenstände sich in einem Raum befinden und in welcher Beziehung sie zueinanderstehen.

Spezialisierte Graph Neural Networks (GNNs) können solche Zusammenhänge aus Sensordaten ableiten. Ergänzende Wissensgraphen stellen ihnen weitere Informationen zur Verfügung, etwa über typische Eigenschaften und Beziehungen von Objekten. Bislang ist jedoch nur eingeschränkt nachvollziehbar, ob und wie die KI dieses zusätzliche Wissen tatsächlich für ihre Vorhersagen verwendet.

Genau hier setzt die ausgezeichnete Forschungsarbeit an. Die Forschenden haben bestehende Verfahren der erklärbaren Künstlichen Intelligenz (Explainable AI, XAI) weiterentwickelt und neue Bewertungsmaßstäbe eingeführt. Damit lässt sich systematisch untersuchen, welche Informationen die Entscheidungen eines KI-Modells beeinflussen und welche Rolle das integrierte Wissen dabei spielt.

Neue Erkenntnisse zur Wissensintegration

Die Untersuchungen zeigen, dass die betrachteten KI-Modelle vor allem auf erlernte statistische Zusammenhänge zurückgreifen, anstatt die bereitgestellten semantischen Wissensstrukturen gezielt zu nutzen. Wird die Verwendung dieses Wissens durch Veränderungen an der Modellarchitektur stärker erzwungen, nimmt zwar dessen Einfluss auf die Entscheidungen zu, gleichzeitig verschlechtert sich jedoch die Qualität bestimmter Vorhersagen deutlich.

Die Ergebnisse verdeutlichen, dass die bloße Bereitstellung zusätzlicher Informationen nicht ausreicht, um deren sinnvolle Nutzung durch KI-Systeme sicherzustellen. Zugleich zeigt die Arbeit, wie Methoden der erklärbaren KI eingesetzt werden können, um solche Schwachstellen in der Modellarchitektur sichtbar zu machen und Ansatzpunkte für deren Weiterentwicklung zu identifizieren.

Prof. Dr. Martin Atzmüller, Leiter des Forschungsbereichs „Kooperative und Autonome Systeme“ am DFKI Niedersachsen in Osnabrück

„Diese Erkenntnisse sind insbesondere für die Entwicklung neuro-symbolischer KI-Verfahren von großer Bedeutung. Das gilt auch für die Gestaltung kooperativer und autonomer Systeme: von digitalen KI-Agenten bis hin zu sensorbasierten Systemen wie autonomen Robotern.“

Prof. Dr. Martin Atzmüller, Leiter des Forschungsbereichs „Kooperative und Autonome Systeme“ am DFKI Niedersachsen in Osnabrück

Die Forschungsarbeit wurde durch das Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) im Rahmen der Projekte ExPrIS (16IW23001) und LIEREx (16IW24004) gefördert.

Kontakt:

Pressekontakt:

Maria Santos, M.A.

Communications & Media