Publication
Deutsche Normungsroadmap Künstliche Intelligenz - Ausgabe 2
Wolfgang Wahlster; Aljoscha Burchardt; Iris Merget; Antonio Krüger; Christian Müller; Georg Rehm; Martin Ruskowski; Dorothea Winter
Normung und Standardisierung, Bundesministerium für Wirtschaft und Klimaschutz, Deutsche Normungsroadmap Künstliche Intelligenz, Vol. 2, 12/2022.
Abstract
Im Auftrag des Bundesministeriums für Wirtschaft und Klimaschutz haben DIN und DKE im Januar 2022 die Arbeiten an der zweiten Ausgabe der Deutschen Normungsroadmap Künstliche Intelligenz gestartet. In einem breiten Beteiligungsprozess und unter Mitwirkung von mehr als 570 Fachleuten aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft wurde damit der strategische Fahrplan für die KI-Normung weiterentwickelt. Koordiniert und begleitet wurden diese Arbeiten von einer hochrangigen Koordinierungsgruppe für KI-Normung und -Konformität. Mit der Normungsroadmap wird eine Maßnahme der KI-Strategie der Bundesregierung umgesetzt und damit ein wesentlicher Beitrag zur „KI – Made in Germany“ geleistet. Die Normung ist Teil der KI-Strategie und ein strategisches Instrument zur Stärkung der Innovations- und Wettbewerbsfähigkeit der deutschen und europäischen Wirtschaft. Nicht zuletzt deshalb spielt sie im geplanten europäischen Rechtsrahmen für KI, dem Artificial Intelligence Act, eine besondere Rolle. Die vorliegende Normungsroadmap KI zeigt die Erfordernisse in der Normung auf, formuliert konkrete Empfehlungen und schafft so die Basis, um frühzeitig Normungsarbeiten auf nationaler, insbesondere aber auch auf europäischer und internationaler Ebene, anzustoßen. Damit zahlt sie maßgeblich auf den Artificial Intelligence Act der Europäischen Kommission ein und unterstützt dessen Umsetzung. Kapitel 1 der Roadmap führt in das Thema ein und stellt die wirtschaftspolitische Bedeutung der Normung sowie Ziele und Vorgehen der Roadmap dar. Das aktuelle Akteurs- und Normungsumfeld für KI ist in Kapitel 3 beschrieben. Dort wird eine Übersicht über relevante innovationspolitische Initiativen, Forschungsprojekte sowie Normungs- und Standardisierungsaktivitäten gegeben. Der Fokus der Normungsroadmap KI liegt auf neun Schwerpunktthemen, die in Kapitel 4 behandelt werden: → Den Ausgangspunkt bilden die Grundlagen wie beispielsweise Terminologien und Begriffsbestimmungen, Klassifizierungen und ethische Fragestellungen. Sie sind die Basis für Diskussionen rund um KI und damit zentraler Kern der Roadmap. → Für eine breite Nutzung von KI-Lösungen spielt die Sicherheit von KI-Systemen eine entscheidende Rolle. Nur eine tiefergehende Betrachtung von Anforderungen
beispielsweise an die Betriebs- und Informationssicherheit kann einen umfassenden Einsatz von KI-Systemen in Wirtschaft und Gesellschaft ermöglichen. → Ein weiteres Schwerpunktthema und Grundlage für einen breiten Markterfolg von KI sind die Prüfung und Zertifizierung. Hierfür braucht es verlässliche Qualitätskriterien und reproduzierbare Prüfverfahren, mit denen sich die Eigenschaften von KI-Systemen überprüfen lassen. Sie sind eine Schlüsselvoraussetzung für die Bewertung der Qualität von KI-basierten Anwendungen und tragen maßgeblich zur Erklärbarkeit und Nachvollziehbarkeit bei – zwei Faktoren, die Vertrauen und Akzeptanz schaffen. → Eine weitere Herausforderung beim Einsatz von KI, insbesondere für kleinere und mittlere Unternehmen, stellt die Integration der KI-Technologien in Organisationen dar. Im Mittelpunkt stehen soziotechnische Aspekte wie die Mensch-Technik-Interaktion, die humane Arbeitsgestaltung sowie Anforderungen an Unternehmensstrukturen und -prozesse, die in der Roadmap untersucht werden. → Die Anwendungsgebiete von KI sind äußerst vielfältig. In nahezu allen Wirtschafts- und Anwendungsbereichen kommen KI-Technologien zum Einsatz und bieten großes Potenzial. Um ein breites Spektrum an Anwendungen abzudecken, werden in der Roadmap neben den oben genannten querschnittlichen Themen insbesondere auch branchenspezifische Herausforderungen für die folgenden fünf Sektoren betrachtet: Industrielle Automation, Mobilität, Medizin, Finanzdienstleistungen sowie Energie / Umwelt.
Die vorliegende Roadmap skizziert für alle neun Schwerpunktthemen die Arbeits- und Diskussionsergebnisse und gibt einen umfassenden Überblick über Status quo, Anforderungen sowie Handlungsbedarfe. Mit mehr als 116 identifizierten Normungs- und Standardisierungsbedarfen zeigt die Roadmap konkrete Potenziale in allen Kernthemen auf und formuliert in Kapitel 2 sechs zentrale Handlungsempfehlungen: → Entwicklung, Validierung und Standardisierung eines horizontalen Konformitätsbewertungs- und Zertifizierungsprogramms für vertrauenswürdige KI-Systeme → Aufbau von Dateninfrastrukturen und Erarbeitung von Datenqualitätsstandards zur Entwicklung und Validierung von KI-Systemen → Betrachtung des Menschen als Teil des Systems in allen Phasen des KI-Lebenszyklus → Entwicklung von Vorgaben für die Konformitätsbewertung von kontinuierlich oder stufenweise lernenden Systemen im Bereich der Medizin → Entwicklung und Einsatz sicherer und vertrauenswürdiger KI-Anwendungen in der Mobilität durch Best Practices und Absicherung → Entwicklung übergreifender Datenstandards und dynamischer Modellierungsverfahren zur effizienten und nachhaltigen Gestaltung von KI-Systemen. Die hohe Dynamik in der KI-Technologieentwicklung und der schnelle Anstieg der industriellen Anwendungen von KI-Systemen stellen auch neuartige Anforderungen an die Normungsprozesse und an die Bereitstellung und Weiterverwertung von Normeninhalten. Um diesen Herausforderungen zu begegnen, erarbeiten die Normungsorganisationen neue Ansätze, die in Kapitel 5 der Roadmap aufgeführt sind. Im Fokus stehen dabei die Überprüfung und Anpassung des Normenbestands, die Analyse von Standardisierungsbedarfen sowie die agile Entwicklung und bedarfsgerechte Bereitstellung von Normen und Standards. Die vorliegende Normungsroadmap gibt den Weg für die zukünftige Normung und Standardisierung im Bereich der Künstlichen Intelligenz vor. Bereits in Ausgabe 1 der Roadmap wurden erste Handlungsbedarfe identifiziert, von denen ein Großteil als Normungs- und Forschungsprojekte angestoßen oder umgesetzt werden konnte. Den aktuellen Stand der Umsetzungsaktivitäten der ersten Ausgabe beschreibt Kapitel 6. Die Veröffentlichung der zweiten Ausgabe der Normungsroadmap stellt den Startpunkt für die Umsetzung der Ergebnisse dar. Auch hier gilt es, Normungs- und Standardisierungsaktivitäten entlang der Handlungsempfehlungen auf den Weg zu bringen und mithilfe der entstehenden Normen und Standards die identifizierten Potenziale zu heben. Normen und Standards werden die deutsche Wirtschaft und Wissenschaft dabei unterstützen, innovationsfreundliche Bedingungen für die Technologie der Zukunft zu schaffen. Insbesondere zur gesellschaftspolitischen Debatte über die Rolle und den Einsatz von KI können die Ergebnisse der Roadmap einen wichtigen Beitrag leisten. Die Normung in Deutschland basiert auf der Mitarbeit fachkundiger Expert*innen aus Wirtschaft, Wissenschaft, öffentlicher Hand und Zivilgesellschaft. Nur ein frühzeitiges Engagement von KI-Fachleuten in den Normungsgremien wird es ermöglichen, deutsche Interessen in internationalen Standards einzubringen und damit einerseits marktgerechte Normen und Standards für KI zu erarbeiten und andererseits die Position Deutschlands als Wirtschaftsnation und Exportland zu stärken.