EINHORN – Dialogorientierte erklärbare KI

KI-gestützte Entscheidungsprozesse nehmen in der industriellen Produktion eine zunehmend strategische Rolle ein. Sie verlagern Entscheidungen von reaktiven, erfahrungsbasierten Vorgehensweisen hin zu datengetriebenen, vorausschauenden und teilweise autonomen Systemen. Voraussetzung für einen produktiven, sicheren und skalierbaren Einsatz ist jedoch die Erklärbarkeit der eingesetzten Modelle. Nur wenn Entscheidungen nachvollziehbar sind, können Unternehmen KI nachhaltig in ihre Produktionsprozesse integrieren.

Das DFKI verfolgt das Ziel, menschzentrierte Systeme für eine dialogorientierte Interaktion mit erklärbarer Künstlicher Intelligenz (XAI) in der industriellen Produktion zu entwickeln. Im Mittelpunkt stehen Verständlichkeit, Transparenz und Nachvollziehbarkeit von KI-gestützten Entscheidungsprozessen, um Vertrauen und Akzeptanz in der industriellen Praxis zu stärken.

Kern des Ansatzes ist eine agentenbasierte Lösung, die Anwenderinnen und Anwendern eine natürlichsprachliche Interaktion mit den zugrunde liegenden KI-Systemen ermöglicht. Dabei können sie Fragen stellen, Begründungen anfordern, Unsicherheiten analysieren sowie Modellentscheidungen nachvollziehen oder gezielt anpassen. Die entwickelte Architektur ermöglicht es, KI-Systeme in der Prozessplanung und -ausführung nicht nur erklärbar zu machen, sondern aktiv in einen wechselseitigen Dialog einzubinden. Entscheidungen werden transparent diskutierbar, Alternativen vergleichbar und Modelle iterativ optimierbar.

Das Ergebnis ist ein interaktives Assistenzsystem zur Entscheidungsunterstützung, das KI nachvollziehbar und kontrollierbar einsetzt und damit das Vertrauen der Nutzenden nachhaltig stärkt. Der Ansatz wurde im vom Bundesministerium für Forschung, Technologie und Raumfahrt geförderten Forschungsprojekt EINHORN entwickelt.