Demokratische Gesellschaften leben von der Pluralität und dem Aushandeln von Meinungen. Daher stellen potentiell vielfaltsverengende Technologien nicht nur eine abstrakte, sondern konkrete Gefahr für die Medien- und Meinungsvielfalt dar. Der Einsatz von KI darf das medienrechtlich übergeordnete Ziel der Vielfaltssicherung nicht beeinträchtigen. Dabei geht es nicht nur um die Vielzahl der Meinungen, Perspektiven und Informationen, sondern insbesondere um das Sichtbarmachen dieser. Die Wahrung von Perspektivenvielfalt ist hierbei von besonderer Bedeutung. Durch den Einsatz von KI wird gerade der sensible Bereich der öffentlichen Meinungsbildung berührt. Journalistisch-redaktionelle Angebote wirken in besonderem Maße auf die öffentliche Meinungsbildung, da sie für sich in Anspruch nehmen, Fakten aufzubereiten und entsprechend abwägend zu berichten. Dieser Gedanke der besonderen Verantwortung als journalistisch-redaktionellem Medienangebot ist auf den Einsatz von KI zu übertragen.
Die Aufgabe der Landesmedienanstalten wird in naher Zukunft sein, Aussagen über die Gesetzeskonformität (z. B. Transparenz und diskriminierungsfreien Zugang), aber auch die generellen Auswirkungen von LLM-basierten KI-Systemen auf Journalismus und Medienvielfalt zu treffen.
Das Ziel von PABeLA ist die Entwicklung einer Applikationssuite („Prüflabor“), mit deren Hilfe LLM-basierte KI-Dienste bewertet werden können. Die Applikation kann von den Landesmedienanstalten genutzt werden, um eine Bewertungsgrundlage in Form eines verständlichen „Prüfberichts“ zu generieren bzw. diese bei Änderungen in den Diensten auch jederzeit neu zu erzeugen. Der Bericht soll Aufschluss darüber geben, inwieweit der Dienst Daten nutzt (z. B. in früheren Konversationen mitgeteiltes Wissen über Standort oder politische Ansichten der Benutzer*in) und Prüfkriterien erfüllt (z. B. eindeutig rassistische Ansichten zu Personen liefert, oder als Eingabe vorliegende politisch extremistische Ansichten bzw. Hate Speech deeskaliert, anstatt sie zu unterstützen). Im ersten Schritt des Projekts wird gemeinsam mit der Landesmedienanstalt Saarland ein Prüfkriterienkatalog erarbeitet werden, welcher die aus Sicht von Gesetzgeber und Medienaufsicht relevanten Fragestellungen in prüfungsrelevante, anwendungsfall bezogene Metriken überführt und eine Priorisierung vorgenommen. Hieraus wird dann ein Evaluationsdatensatz generiert werden, welcher eine Auswahl von Prüfkriterien auf technische Strukturen abbildet und als Eingabe für die Applikationssuite bzw. den enthaltenen Evaluationsmechanismus dient.
Partner
Landesmedienanstalt Saarland