CERTAIN – Ein europäisches Kompetenzzentrum für Trusted AI

Der breite und sichere Einsatz von Künstlicher Intelligenz (KI) in Wirtschaft und Gesellschaft erfordert verlässliche Garantien für Fairness, Transparenz und Sicherheit. Das CERTAIN-Zentrum am DFKI entwickelt Methoden und Standards für eine vertrauenswürdige KI (Trusted AI), die belastbaren Nachweise für die Zuverlässigkeit und Nachvollziehbarkeit dieser Technologie ermöglichen.

CERTAIN ist mehr als ein Forschungsprojekt – es ist ein wegweisendes Zentrum für die Entwicklung und Zertifizierung von KI-Systemen mit starken Garantien. Langfristiges Ziel ist der Aufbau eines europaweit führenden Kompetenzzentrums für hochzuverlässige KI-Technologien, das Forschung, Industrie und Gesellschaft eng vernetzt.

Das DFKI verfolgt diese Ziele, indem es verschiedene Methoden entwickelt, um die Zuverlässigkeit von KI-Modellen nachweisbar zu machen. Dabei stehen vier Hauptstrategien im Fokus:

• Garantien durch Design: KI-Systeme werden von Beginn an mit überprüfbaren Sicherheits- und Fairnessmerkmalen entwickelt.
• Garantien durch Werkzeuge: Systematische Testmethoden gewährleisten die Zuverlässigkeit und Robustheit von KI.
• Garantien durch Einsicht: Simulationen und Visualisierungen ermöglichen Transparenz über kritische Entscheidungsprozesse.
• Garantien durch Interaktion: Menschliches Feedback wird in den Entwicklungsprozess integriert, um KI-Systeme gezielt zu optimieren.

Diese technischen Kernziele von CERTAIN sollen dazu beitragen, KI-Modelle nicht nur effizienter, sondern auch nachvollziehbar und verlässlich zu gestalten. Ein besonderes Augenmerk liegt dabei auf sicherheitskritischen Anwendungen.

Darüber hinaus unterstützt CERTAIN die Vision eines europäischen KI-Zentrums nach dem Vorbild des CERN. Ziel ist es, Forschung, Industrie und Politik zu vereinen, um europäische Standards für vertrauenswürdige KI zu etablieren und Europa als führenden Standort für sichere KI-Entwicklung zu positionieren. Ein wichtiger Aspekt ist dabei die enge Zusammenarbeit mit Standardisierungs- und Zertifizierungsorganisationen wie VDE und TÜV sowie Initiativen wie Mission KI.

Präsentation auf der Hannover Messe

Auf der Hannover Messe wird CERTAIN konkrete Beispiele zeigen, wie die genannten technischen Ziele erreicht werden können. Die Demonstrationen umfassen:

• Daten zum Training von KI-Systemen können durch Content-Checker vorab auf deren Inhalte hin geprüft werden, um Sicherheits- und Fairnessanforderungen zu entsprechen (Garantien durch Design).
• Ausgaben generativer KI-Systeme können durch systematische Testmethoden auf die Zulässigkeit des Inhalts geprüft werden (Garantien durch Werkzeuge).
• Visualisierungen und Erklärbarkeits-Methoden ermöglichen Transparenz über Entscheidungsprozesse von KI-Systemen (Garantien durch Einsicht).
• Optimierungen können durch ein Interface vorgenommen und neue Modellvorhersagen mit geänderten Parametern berechnet werden. (Garantien durch Interaktion).

Neben diesen technischen Präsentationen wird CERTAIN auf der Messe auch die politische Dimension von vertrauenswürdiger KI thematisieren. Dabei wird der Vorschlag eines „CERN für KI“ sowie die Notwendigkeit europäischer Standards und Zertifizierungsverfahren hervorgehoben. Durch diese Kombination aus technischen Demonstrationen und strategischen Visionen soll gezeigt werden, wie CERTAIN dazu beiträgt, vertrauenswürdige KI auf europäischer Ebene zu etablieren und gleichzeitig die Lücke zwischen Forschung und industrieller Anwendung zu schließen.