Von der Forschung zum Berliner Wahleinsatz
Der Ursprung liegt in ‚news-polygraph‘, dem größten deutschen Forschungsprojekt zur Verifikation digitaler Medieninhalte. Dort arbeitete der DFKI-Forschungsbereich Speech and Language Technology gemeinsam mit dem Quality & Usability Lab der Technischen Universität Berlin, dem Fraunhofer-Institut für Digitale Medientechnologie IDMT sowie den Medienpartnern rbb und Deutsche Welle. Aus diesem Forschungsumfeld heraus gründeten drei Wissenschaftler des Berliner DFKI-Labs das Unternehmen Gretchen AI.
Erstmals kam das Verfahren bei den Landtagswahlen in Rheinland-Pfalz im März 2026 unter dem Titel „Check First. Vote Smart“ zum Einsatz. Für die Berliner Abgeordnetenhauswahl wurde es nun deutlich weiterentwickelt. Der Check arbeitet dabei in zwei Schritten, die bewusst getrennt bleiben:
- Manipulationsprüfung: Ist das Material synthetisch erzeugt oder nachträglich verändert — und wenn ja, auf welche Weise?
- Einordnung: Was behauptet der Inhalt, und was sagen Quellen, offizielle Informationen und professionelle Faktenchecks dazu?
Der zweite Schritt ist forschungsseitig der schwierigere. Ein Befund ohne Erklärung überzeugt niemanden. Deshalb liefert das System keine Wahrheitsurteile, sondern macht Hinweise, Belege und Quellen transparent nachvollziehbar.
Was im Hintergrund geprüft wird
Für den Berliner Wahleinsatz wurde ein Katalog mit mehr als 200 Manipulationsarten entwickelt – von manipulierten Bildern und Videos über geklonte Stimmen bis hin zu gefälschten Screenshots und Aussagen im falschen Kontext. Technisch setzt die Forschung auf Architekturen aus der aktuellen Deepfake-Erkennungsforschung, darunter Mamba-basierte Modelle wie BiCrossMamba-ST, die spektrale und zeitliche Muster gemeinsam auswerten. In internationalen Benchmarks wie der Environmental Sound Deepfake Detection Challenge (ESDD 2026) erreichen DFKI-Modelle Spitzenplätze — insbesondere bei Fälschungen aus bislang unbekannten genKI-Modellen.
Das Fake-O-Meter Projekt - Forschung läuft weiter
Seit Mai 2026 koordiniert das DFKI das Verbundprojekt Fake-O-Meter, das einen multimodalen KI-Assistenten gegen Desinformation entwickelt. Die wissenschaftliche Leitung liegt beim Berliner Speech and Language Technology Lab, Projektpartner sind die TU Berlin, die Otto-von-Guericke-Universität Magdeburg, die Ernst-Abbe-Hochschule Jena, die Deutsche Welle und die Deutsche Presse-Agentur dpa; sowie Gretchen AI, das die Demonstratorplattform entwickelt. Das Vorhaben wird vom Bundesministerium für Forschung, Technologie und Raumfahrt gefördert und läuft bis Februar 2029.
So funktioniert der Social-Media Check
- Verdächtigen Beitrag auf Instagram, TikTok oder X auswählen
- Über die Teilen-Funktion an den Account „Gretchen_AI_Berlin“ senden
- Das System prüft auf Manipulation und ordnet die enthaltenen Behauptungen ein
- Die Rückmeldung gibt Hinweise und listet Quellen, fällt aber kein abschließendes Urteil