Generative KI-Modelle haben in den letzten Jahren große Fortschritte gemacht und beeindruckende Ergebnisse erzielt. Jedoch sind diese Modelle bisher nur begrenzt von KMUs nutzbar, da sie nicht ausreichend auf die Spezialdomänen der Unternehmen angepasst sind, daher häufiger als in allgemeinen Wissensgebieten fehlerhafte Inhalte produzieren, und der ihnen zugrundeliegende Generierungsprozess für (Laien-) Anwender oft intransparent und nicht nachvollziehbar ist. All diese Faktoren wirken sich nachteilig auf das Vertrauen in die Modelle und deren Ausgaben aus, verringern deren Akzeptanz, und somit auch die Entwicklung optimierter oder neuer Geschäftsprozesse. Vor allem im Medien-, Kultur- und Kreativbereich ist der redaktionelle Arbeitsalltag ist immer noch von aufwändigen Prozessen geprägt, die manuelle Recherche und Integration multimodaler Materialien sowie eine mühsame Prüfung von Qualität und rechtlichen Vorgaben erfordern. Das Ziel des Projekts GenKI4Media ist daher, das innovative Potential generativer KI mit drei neuen generativen KI-Assistenten zur (1) „Generierung multimodaler Medienformate für Kultur, Politik und Bildung“, (2) „Standards und Regelungen im Medienbereich” und (3) „Demonstratoren für den Kreativ-/Kulturbereich“ zu erschließen, um die Redaktionsarbeit effektiv zu unterstützen. Die KI-Assistenten können dynamisch für vielfältige Aufgabenstellungen eingesetzt werden und müssen nicht wie bisher für jede Aufgabe und Zielgruppe einzeln aufwändig programmiert werden. Grundlage für die Assistenten ist eine innovative Weiterentwicklung von KI-Technologien durch Plug-ins zur Wissensorganisation und Transparenz von LLMs.
Das Ziel des DFKI-Teilvorhabens ist die Erforschung und Entwicklung von Methoden und generativen KI-Modellen zur Verbesserung der Transparenz, Nachvollziehbarkeit, und Vertrauenswürdigkeit von KI-generierten Inhalten. Zur Erreichung dieser Ziele konzentriert sich das DFKI-Teilprojekt auf drei komplementäre F&E-Bereiche. Der erste Bereich beschäftigt sich mit der Entwicklung von konversationellen Methoden für erklärbare KI, die es dem Endanwender ermöglichen, Erklärungen in Form eines interaktiven Dialogs zu explorieren. Der zweite Bereich umfasst die Konzeption und Entwicklung von Methoden und Algorithmen, die es ermöglichen, generierte Inhalte automatisch in Bezug zu externen Quellen zu setzen, sie auf Basis dieser Quellen zu validieren und sie ggf. zu korrigieren. Der dritte Bereich umfasst die Konzeption und Erstellung von aufgaben- und domänenspezifischen Testdatensätzen, sogenannten Challenge Testsets, die kritische Fälle bei Generierungsaufgaben rigoros prüfen - zum Beispiel die Vermeidung von fehlerhaften kausalen oder temporalen Schlußfolgerungen, faktischen Fehlgenerierungen (Halluzinationen), sowie die korrekte Verarbeitung von Long Tail bzw. sehr domänenspezifischen Informationen.
Partner
- Condat AG
- 3pc GmbH Neue Kommunikation
- Art+Com GmbH
- FhG FOKUS - Fraunhofer-Institut für offene Kommunikationssysteme
- rbb - Rundfunk Berlin Brandenburg
- dpa Deutsche Presse-Agentur GmbH
