Medien Triennale Südwest 2026: Wenn das Echte ein Etikett braucht

Die fünfte Medien Triennale Südwest stand unter dem Titel „Europa, KI und die Zukunft der Demokratie“. Die Medienanstalt Rheinland-Pfalz, die Landesanstalt für Kommunikation Baden-Württemberg und die Landesmedienanstalt Saarland fragten in der Kammgarn Kaiserslautern, wie demokratische Resilienz in Zeiten algorithmischer Black Boxes und KI-generierter Fälschungen gelingen kann. Das DFKI war mit einer Keynote, Beiträgen in zwei Podien, zwei Masterclasses, zwei Live-Demonstrationen und einem Stand vertreten.

Bei fünf Videos stimmte das Publikum per Smartphone ab, ob sie echt oder gefälscht sind. Bei der Auflösung am Nachmittag lagen im Schnitt 75 Prozent der Stimmen richtig. In einer Metaanalyse über 56 Studien erkannten Menschen Deepfakes im Schnitt zu 55,5 Prozent richtig (Diel et al., 2024); Raten ergibt 50 Prozent. Maerz nannte die Grenzen des Vergleichs gleich mit: Er habe bewusst unperfekt gefälscht, und beim Scrollen im Feed sei niemand so kritisch wie ein vorgewarnter Saal. 

Die Erkennungsplattform von Gretchen AI, einem Spin-off des DFKI, dessen Gründer zuvor am Labor Berlin des DFKI forschten, lag in Testläufen vor der Veranstaltung bei drei der fünf Videos richtig. Ausgerechnet das echte Pressestatement der Ministerin hielt sie für gefälscht; eine auf einem eigenen Rechner erzeugte Fälschung ließ sie passieren. Technik helfe, so Maerz, ersetze aber nicht das Urteil.

Andreas Dengel, hielt die Keynote „Europa braucht nicht digitale Autarkie, sondern digitale Handlungsfähigkeit“. Handlungsfähig sei Europa, wenn es Technologien verstehe, sie verändern könne und Forschung wirksamer in die Anwendung bringe. Dafür brauche es gemeinsam nutzbare Infrastruktur, von Rechenkapazität und Datenräumen bis zu Testfeldern.

Seit dem 2. August 2026 verlangt die KI-Verordnung der Europäischen Union (EU) unter anderem, Deepfakes zu kennzeichnen; für die maschinenlesbare Markierung bestehender Systeme gilt eine Übergangsfrist bis zum 2. Dezember 2026. Im Podium mit Stefanie Hubig und Benjamin Schiller, Chief Financial Officer von IPAI, bezweifelte Dengel, dass überall auf dieses Recht reagiert werde. Er schlug deshalb ein Umdenken vor: Statt nur KI-generierte Inhalte zu markieren, solle auch authentisches Material gekennzeichnet werden, vergleichbar mit den Wasserzeichen von Druckern.

Am Nachmittag sprach Sebastian Vollmer, Leiter des Forschungsbereichs Data Science und ihre Anwendungen am DFKI, im Podium zur KI-Kompetenz über das Etikett „KI-generiert“: Je weiter KI im Alltag ankomme, desto eher könne ein solches Label bedeutungslos werden. Früher hätten sich die Großeltern gefragt, woher die Kartoffeln kommen; heute wolle man einfach eine gute Kartoffel.