Welche Auswirkungen hat Künstliche Intelligenz auf die Meinungsbildung in unserer Demokratie? Dieser Frage geht ein interdisziplinäres Forscherteam des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) und der Landesmedienanstalt Saarland (LMS) nach. Das gemeinsame Projekt mit dem Namen PABeLA-II fördert die Staatskanzlei des Saarlandes sowie das Ministerium für Wirtschaft, Innovation, Digitales und Energie des Saarlandes mit 160.000 Euro.
PABeLA steht für Prüflabor zur automatisierten Bewertung LLM-basierter KI-Systeme und deren Auswirkungen auf Journalismus und Meinungsbildung.
Das Vorgängerprojekt „PABeLA-I“ hat sich in der Projektlaufzeit der Frage angenommen, wie Prüfmechanismen für diese Art von Diensten konzeptionell gestaltet und technisch implementiert werden können. So konnte innerhalb der Projektlaufzeit nicht nur ein umfassender Prüfkriterienkatalog zur Einhaltung geltender Geset-ze und Normen für diese Art von Diensten geschaffen werden, sondern einige besonders relevante Kriterien, z. B. im Bereich der Erkennung von Diskriminierung, bereits in funktionsfähige Tests überführt und so die Plausibilität und Praxistauglichkeit des Ansatzes validiert werden.
„PABeLA“ soll ein Instrument schaffen, das sowohl Medienaufsicht als auch Medienpolitik langfristig befähigt, Transparenz-, Vielfalt- und Manipulationsrisiken methodisch belastbar einzuschätzen. Dies ist nicht nur für die Sicherung von Meinungs- und Vielfaltssicherung zentral, sondern auch für den Schutz der Bürger:innen vor gezielter KI-basierter Desinformation, etwa durch Deepfakes oder algorithmisch verzerrte Inhalte.
Der Chef der Staatskanzlei des Saarlandes und Bevollmächtigter für Europaangelegenheiten, David Lindemann: „Die transformative Wucht von Künstlicher Intelligenz ist nicht zu unterschätzen. Gleichzeitig wissen wir noch zu wenig über Auswirkungen und Konsequenzen für unsere demokratische Gesellschaft. Hier brauchen wir Forschung, die unmittelbar in der Regulierung nutzbar gemacht werden kann. Genau diesen praxisnahen Ansatz verfolgt das Projekt von DFKI und LMS und leistet damit einen wichtigen Beitrag für den KI-Standort Saarland.“
Ruth Meyer, Direktorin der LMS: „KI-Angebote wie ChatGPT ersetzen zunehmend andere Medienquellen und werden zu der bevorzugten bzw. einzigen Informationsquelle. Deshalb ist die Technik und die Organisation hinter dem KI-Angebot wesentlich für Meinungsvielfalt und Informationsfreiheit. Der Nutzung von Quellen und Trainingsdaten kommt dabei eine besondere Rolle zu. Wir müssen Verantwortlichkeitsstrukturen für KI-generierte Inhalte klären, insbesondere wenn LLMs meinungsrelevante oder journalistisch wirkende Inhalte erzeugen, und verlässliche und öffentlich wertvolle Inhalte sichtbar halten.“
Dazu Prof. Dr. Antonio Krüger, DFKI-CEO und Leiter des Forschungsbereichs Kognitive Assistenzsysteme: „PABeLA-II entwickelt Kriterien für die Überprüfung journalistischer Quellen auf Ausgewogenheit, mit dem Ziel, Informationsfreiheit und journalistische Vielfalt sicherzustellen. Die kritische Prüfung der von KI-Diensten gemachten Angaben zu Quellen ist ein Instrument, um Desinformation vorzubeugen und Rechtskonformität sicherzustellen – nicht nur im medialen Kontext, sondern auch für Verwaltungsaufgaben. PABeLA-II leistet hier Vorarbeit für die Erkennung irreführender oder erfundener Quellen. Herausforderungen sind der Aufbau eines repräsentativen Testdatensatzes und die Entwicklung eines Verfahrens zur systematischen Auswertung anhand zuvor entwickelter Metriken. Zum Einsatz kommen dabei statistische, regelbasierte und LLM-basierte Verfahren.“
Das Forschungsprojekt läuft bis April 2027. Die Ergebnisse sollen in der Praxis der Medienregulierung nutzbar sein.