GenSeC untersucht, wie generative Grundlagenmodelle in sicherheitsrelevanten Betriebskontexten bewertet werden können, in denen Standardannahmen über klare Aufgaben, stabile Grundwahrheiten und harmlose Eingaben nicht gelten. Stattdessen sind solche Umgebungen oft durch unvollständige, mehrsprachige, zeitkritische und potenziell manipulierte Informationen gekennzeichnet. GenSeC basiert auf der Prämisse, dass Bewertungsmethoden diese Bedingungen ausdrücklich widerspiegeln müssen, um aussagekräftig zu sein.
Die Anwendungsfälle in GenSeC dienen eher als strukturierte Forschungsumgebungen denn als isolierte Anwendungsbeispiele. Zusammen umfassen die Anwendungsfälle textuelle, georäumliche und multimodale Szenarien. Dies ermöglicht eine domänenübergreifende vergleichende Analyse und unterstützt die Entwicklung von Bewertungsmethoden, die über eine einzelne Aufgabe oder einen einzelnen Datentyp hinausgehen.
Partners
GAF AG
Prof. Dr. Georg Rehm