Projekt | TrustifiAI

Vertrauenswürdige KI-Anwendungen für eine sichere Zukunft

Unter der Federführung der acatech – Deutsche Akademie der Technikwissenschaften verfolgt MISSION KI das Ziel, die Vertrauenswürdigkeit und Zuverlässigkeit von KI-Anwendungen zu stärken. Im Rahmen der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie der Bundesregierung wird ein praxistauglicher, freiwilliger Mindeststandard für KI entwickelt. Dieser soll das Vertrauen der Anwender in KI-Technologien fördern und zugleich Wettbewerbsvorteile für Anbieter schaffen, die sich an diesem Standard orientieren. Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) bringt sich mit drei wesentlichen Schwerpunkten in die Initiative ein:

Entwicklung von Qualitätskriterien und Prüfverfahren

Zur Sicherstellung der Einhaltung des Mindeststandards, insbesondere in Hochrisikoanwendungen, erarbeitet das DFKI spezifische Qualitätskriterien sowie Prüf- und Testmethoden. Diese Verfahren ermöglichen eine frühzeitige Integration von Qualitätssicherung in den Entwicklungsprozess von KI-Software.

Validierung anhand realer Anwendungsfälle

Die entwickelten Methoden werden in fünf praktischen Anwendungsfeldern aus Medizin und Gesundheitswesen erprobt:

• KI-gestützte Erkennung von Hautkrebs anhand dermatoskopischer Bilder
• Identifikation potenzieller Risiken bei präoperativer Intubation mittels medizinischer Videodaten
• Unterstützung der Entscheidungsfindung in der Tumorbehandlung
• Bedarfsprognose und -planung im Rettungsdienst
• Schulung von Therapeutinnen und Therapeuten in psychotherapeutischen Ambulanzen

Betrieb des Innovations- & Qualitätszentrums (IQZ)

Das IQZ Kaiserslautern fungiert als zentrale Anlaufstelle für vertrauenswürdige KI, insbesondere für kleine und mittlere Unternehmen (KMU) sowie Start-ups. Durch ein breites Angebot an Vorträgen, Workshops und Beratungsleistungen unterstützt das IQZ den Wissenstransfer im Bereich vertrauenswürdiger KI und Prüfverfahren und trägt so zur Innovationsförderung bei.

Mit MISSION KI wird ein wichtiger Rahmen für die transparente und sichere Nutzung künstlicher Intelligenz geschaffen. Die Zusammenarbeit unterschiedlicher Akteure ermöglicht es, vertrauenswürdige KI-Anwendungen weiterzuentwickeln und damit die Grundlage für eine verantwortungsbewusste Integration von KI-Technologien in verschiedenste gesellschaftliche und wirtschaftliche Bereiche zu legen.

Partner

Acatech - Deutsche Akademie der Technikwissenschaften