Defence AI – KI für Sicherheit und Verteidigung
DFKI-Leitlinien für verantwortungsvolle KI-Forschung im Verteidigungs- und Sicherheitsbereich
Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) entwickelt KI-Technologien auf Grundlage europäischer Werte, wissenschaftlicher Exzellenz und gesellschaftlicher Verantwortung. Auch im Verteidigungs- und Sicherheitsbereich orientiert sich unsere Forschung an klaren ethischen, rechtlichen und demokratischen Prinzipien. Ziel ist es, KI-Systeme zu entwickeln, die Menschen unterstützen, Sicherheit fördern und zum Schutz von Gesellschaft, Demokratie und kritischer Infrastruktur beitragen.
Unsere Grundprinzipien
Die Forschung und Entwicklung Künstlicher Intelligenz am DFKI basiert auf fünf übergreifenden Prinzipien:
• Menschzentrierung: KI soll Menschen unterstützen, ihre Fähigkeiten erweitern und unter menschlicher Aufsicht betrieben werden.
• Europäische Verantwortung mit globaler Perspektive: Wir entwickeln KI-Lösungen, die gesellschaftlichen Nutzen stiften und eine vertrauenswürdige europäische KI-Entwicklung stärken.
• Ethik by Design: Ethische Aspekte werden über den gesamten Lebenszyklus eines Systems hinweg berücksichtigt – von der Konzeption bis zur Außerbetriebnahme. Transparenz, Fairness, Nicht-Diskriminierung und Erklärbarkeit sind dabei zentrale Anforderungen.
• Umweltverantwortung: Bei Entwicklung und Betrieb von KI-Systemen werden ökologische Auswirkungen berücksichtigt und Nachhaltigkeitsziele einbezogen.
• Gesellschaftlicher Dialog: Das DFKI fördert den offenen Austausch über Chancen, Risiken und Auswirkungen von KI und unterstützt eine informierte öffentliche Debatte.
KI-Forschung und -Entwicklung am DFKI
Das DFKI entwickelt KI-Systeme, die Menschen und Organisationen bei der Erreichung ihrer Ziele unterstützen. Sicherheit, Verlässlichkeit und menschliche Kontrolle stehen dabei im Mittelpunkt. KI wird nicht als Ersatz menschlicher Verantwortung verstanden, sondern als Werkzeug zur Unterstützung von Entscheidungen und Prozessen.
Unsere Forschung betrachtet KI stets im Kontext des gesamten soziotechnischen Systems aus Menschen, Organisationen und Technologie. Insbesondere in sicherheitskritischen Anwendungsfeldern ist die wirksame Zusammenarbeit zwischen Menschen und Maschine eine zentrale Voraussetzung für verantwortungsvolle Innovation.
Leitlinien für verteidigungs- und sicherheitsbezogene Forschung
Für Projekte im Verteidigungs- und Sicherheitsbereich gelten zusätzlich besondere Anforderungen.
1. Schutz menschlichen Lebens und menschliche Entscheidungsverantwortung
Das DFKI beteiligt sich nicht an der Forschung oder Entwicklung letaler autonomer Waffensysteme. Entscheidungen über den Einsatz tödlicher Gewalt dürfen nicht an autonome Systeme delegiert werden.
2. Verantwortungsvoller Einsatz von KI
Verteidigungsbezogene Forschungsprojekte müssen rechtmäßige, nachvollziehbare und kontrollierbare KI-Systeme fördern. Verantwortlichkeiten müssen klar definiert sein, menschliche Aufsicht muss gewährleistet bleiben und Risiken diskriminierender oder verzerrter Entscheidungen sind zu minimieren.
3. Ethische Prüfung aller relevanten Projekte
Projekte mit militärischem, nachrichtendienstlichem oder vergleichbarem Bezug werden einem strukturierten Bewertungsprozess unterzogen. Dabei werden potenzielle Auswirkungen auf Menschenrechte, gesellschaftliche Sicherheit, Dual-Use-Risiken sowie die Vereinbarkeit mit den Werten und Grundsätzen des DFKI geprüft.
4. Ausschluss bestimmter Anwendungen
Das DFKI entwickelt keine KI-Systeme für öffentliche Massenüberwachung und biometrische Massenidentifikation, Social-Scoring, individuelle oder gesellschaftliche Manipulation und gezielte Diskriminierung.
5. Fokus auf verantwortungsvolle KI für Schutz und Verteidigung
Verteidigungs- und sicherheitsbezogene Forschung am DFKI konzentriert sich insbesondere auf Anwendungsbereiche mit gesellschaftlichem Nutzen, darunter:
• Defensive Cybersecurity: Schutz kritischer Infrastrukturen vor Cyberangriffen, Intrusion-Detection, Anomalieerkennung.
• Logistik und Versorgung: Optimierung von Versorgungs- und Rettungsketten in Krisensituationen, Ressourcenplanung.
• Such- und Rettungssysteme: Autonome oder teilautonome Systeme für Such- und Rettungseinsätze in gefährlichen Umgebungen.
• Minenräumung: KI-gestützte Systeme zur Detektion und Beseitigung von Minen und Kampfmittelrückständen.
• Medizinische Versorgung: Telemedizin, KI-gestützte Diagnostik und Behandlungsunterstützung in Krisengebieten.
• Infrastrukturschutz: Überwachung und Sicherung kritischer Versorgungsinfrastruktur ohne Massenüberwachungscharakter.
• Frühwarnsysteme: Systeme zur Vorhersage und Früherkennung von Bedrohungen für die öffentliche Sicherheit.
Diese Liste ist nicht abschließend. Andere Anwendungsbereiche können nach Prüfung durch den ethischen Bewertungsprozess als ausgeschlossen oder zulässig eingestuft werden.
Unser Anspruch
Das DFKI verbindet wissenschaftliche Freiheit mit gesellschaftlicher Verantwortung. Wir sind überzeugt, dass KI auch im Verteidigungs- und Sicherheitsbereich nur dann nachhaltig Vertrauen schaffen kann, wenn ihre Entwicklung transparent, nachvollziehbar und konsequent an Menschenrechten, demokratischen Werten sowie dem Schutz menschlichen Lebens ausgerichtet ist. Diese Leitlinien für verantwortungsvolle Forschung bilden einen Rahmen, der klare Grenzen setzt und zugleich Innovation fördert.