Skip to main content Skip to main navigation

KI-Tool identifiziert Bias in Lernmaterialien - StereOFF bei Ideenwettbewerb „Gemeinsam wird es KI“ ausgezeichnet

| Lernen & Bildung | Preise & Auszeichnungen | Smart Enterprise Engineering | Osnabrück / Oldenburg

StereOFF heißt ein KI-Tool, mit dem geschlechterstereotype Sprache in Lernmaterialen automatisch identifiziert werden kann. Entwickelt wurde die branchenübergreifende Idee StereOFF von Forschenden aus dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Kooperation mit der Didactic Innovations GmbH. Auf der re:publica 2023 in Berlin wurde StereOFF nun beim Ideenwettbewerb „Gemeinsam wird es KI“, den die Civic Innovation Platform der Denkfabrik des Bundesministeriums für Arbeit und Soziales ausgerichtet, ausgezeichnet.

© Thomas Rafalzyk
Lorena Göritz und Daniel Stattkus erhielten die Auszeichnung stellvertretend für den Forschungsbereich Smart Enterprise Engineering entgegen, sowie Jannick Eckle für die Didactic Innovations GmbH (von rechts).

In Vertretung für Bundesminister Hubertus Heil prämierte Staatssekretär Nermin Fazlic in Berlin insgesamt 27 Ideen in drei Themenbereichen. StereOFF zählte zu den Gewinnern in der Rubrik Lehre und Wissen. Lorena Göritz und Daniel Stattkus nahmen die Auszeichnung stellvertretend für den Forschungsbereich Smart Enterprise Engineering entgegen, sowie Jannick Eckle für die Didactic Innovations GmbH. 

Die Europäische Kommission bezeichnet Geschlechterstereotype als eine der Hauptursachen für Geschlechterungleichheiten, da stereotype Rollen und Normen die Wahlmöglichkeiten und Freiheiten von Mädchen und Jungen bzw. Männern und Frauen einschränken, heißt es in der eingereichten Ideenskizze. StereOFF strebe die Geschlechtergleichstellung im Aus- und Weiterbildungsbereich an. „Das Reduzieren von z.B. oft stereotypmännlichen Darstellungen in MINT-Lerninhalten hat das Ziel, mehr Mädchen und Frauen für den MINT-Bereich zu begeistern“, sagt die DFKI-Wissenschaftlerin  Lorena Göritz. Besonders interessant sei die Idee daher für Aus- und Weiterbildungsinstitute sowie Lehrbuchverlage.

Gender-Bias-Lexikon

Die Grundlage der Text-Analysen bilden öffentlich verfügbare sogenannte Text-Corpora wie beispielsweise Filmtranskripte, die Gender-Bias aufweisen, also Verzerrungen, die durch geschlechtsbezogene Stereotypisierungen bzw. Vorurteile geprägt sind. Aus diesen Daten entwickeln die Forschenden mit Techniken des Natural Language Processing datengetrieben ein Gender-Bias-Lexikon. Auf dieser Grundlage können dann beispielsweise Verlage geschlechterstereotype Rollenbilder in Schulbüchern automatisch identifizieren oder Social Media Agenturen in Echtzeit große Mengen an veröffentlichten Texten auf stereotypische Sprache untersuchen.

StereOFF analysiert die Lernmaterialen nicht nur, sondern empfiehlt Alternativvorschläge. Ziel ist es, Branchen wie den MINT-Bereich oder den Beruf von Erzieherinnen und Erziehern ausgeglichener darzustellen, Integration zu erleichtern, Vielfältigkeit zu fördern und so dem Fachkräftemangel zu begegnen. Die im Rahmen von StereOFF entwickelte Software soll zukünftig öffentlich zugänglich gemacht werden.

Zur Seite des Ideenwettbewerbs gelangen Sie über diesen Link

© Thomas Rafalzyk
Staatssekretär Nermin Fazlic übergab die Urkunde an DFKI-Wissenschaftlerin Lorena Göritz.