Jensen Huang, CEO von NVIDIA, Weltmarktführer für Computer-Grafik und KI-Computing, würdigte im Rahmen der Computer Vision and Pattern Recognition Konferenz (CVPR) in Salt Lake City insgesamt 12 international herausragende Arbeiten auf dem Gebiet des Maschinellen Lernens.
Explainable AI – Neuronale Netze verstehen
Das neuartige Analyseverfahren der DFKI-Forscher erlaubt weitreichende Einblicke in die Eigenschaften und Verarbeitungsprozesse tiefer neuronaler Netze, die sonst weitestgehend undurchsichtig sind. Dabei werden die Vorgänge von außen von einem zweiten neuronalen Netz betrachtet. Ein leistungsstarker Autoencoder erhält Rückmeldung über die Ergebnisse der Analyse und passt die Eingabe entsprechend an, so dass Fehler reduziert werden. Erkennt das Netz beispielsweise ein Motiv auf einem Bild nicht richtig, so wird der Input nach dem Gusto des Netzes angepasst. Hieraus lassen sich Rückschlüsse über die bevorzugten Entscheidungswege der gängigsten Modelle ziehen und diese verständlich visualisieren. Kurzum: Das Verfahren bringt ein neues Licht in die Vorgänge der „Black Box“ des Deep Learning und hilft so, die Prozesse nachvollziehbarer zu machen. Ein zentraler Aspekt, wenn Maschinen Entscheidungen im Sinne des Menschen treffen sollen.
Neben dem DFKI, dem einzigen Preisträger aus Europa, wurden weitere renommierte Institutionen wie die Stanford University, Tsinghua University, University of Toronto, University of Tokyo und University of Washington, Chinese Academy of Science, Peking University, ausgezeichnet.
Prof. Dr. Andreas Dengel, Standortleiter des DFKI in Kaiserslautern und Leiter des Kompetenzzentrums Deep Learning freut sich über die erneute Auszeichnung: „Wir sind sehr stolz über die erneute Würdigung unserer Forschungsarbeit durch den Weltmarktführer für Machine Learning-Plattformen. Ganz besonders möchte ich die Mitarbeiterinnen und Mitarbeiter des DFKI-Kompetenzzentrums Deep Learning beglückwünschen, die regelmäßig für ihre exzellenten Arbeiten ausgezeichnet werden.“
Sebastian Palacio, Wissenschaftler im DFKI-Forschungsbereich Smarte Daten & Wissensdienste, stellte das neue Konzept mit dem Papier „What do Deep Networks Like to See?“ der DFKI-Autoren Sebastian Palacio, Joachim Folz, Joern Hees, Federico Raue, Damian Borth und Andreas Dengel erstmals auf der CVPR Konferenz vor und nahm die Auszeichnung entgegen.
Entwickelt wurde die Technologie im Rahmen des vom Bundesministerium für Bildung und Forschung (BMBF) geförderten Projekt DeFuseNN.
Weitere Informationen:
Link zum Papier
