CertLab

Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) setzt sich für die Förderung von glaubwürdiger und vertrauenswürdiger Künstlicher Intelligenz ein.

Die übergeordneten Strategien des DFKI für sein Forschungsprogramm und -aktivitäten folgen ethischen Grundsätzen und Werten basierend auf den grundlegenden Menschenrechten. Als wichtiger Bestandteil dieser Strategien unterstützt das DFKI die objektive Bewertung von KI-Systemen mit dem Ziel, die Übereinstimmung mit ethischen Grundsätzen und Werten zu bestätigen. Das KI-Bewertungsprogramm des DFKI wird im neuen Labor für Zertifizierung und Digitale Souveränität konzentriert.

Seit fast 20 Jahren hat das DFKI durchgängig eine Prüfstelle für die Bewertung der Sicherheit von IT-Produkten in kritischen Infrastrukturen betrieben. Basierend auf dieser herausragenden Erfahrung wird das Labor für Zertifizierung und Digitale Souveränität die Entwicklung, Standardisierung und Anwendung von Zertifizierungskriterien für KI-Systeme aktiv vorantreiben. Solche Kriterien werden vorhersehbar den Schutz von Sicherheit (Security), informationeller Selbstbestimmung (Privacy) und Autonomie aller Personen, die von der Verwendung von KI-Systemen betroffen sind, adressieren. Besondere Beachtung wird die Kontrollierbarkeit, Erklärbarkeit, Beständigkeit, Sicherheit (Safety) und Fairness finden.

Das DFKI-Labor für Zertifizerung und Digitale Souveränität strebt die Schaffung eines Center of Excellence für die Zertifizierung von KI-Systemen an, abgestimmt mit technischen und gesellschaftlichen Standards in verschiedenen Kontexten und Rahmenbedingungen. Die Bewertung von Sicherheit (Security), informationeller Selbstbestimmung (Privacy) und Autonomie bereitet den Weg für glaubwürdige und vertrauenswürdige KI-Systeme und fördert die Digitale Souveränität aller Personen, die von der Verwendung von KI-Systemen betroffen sind.