Skip to main content Skip to main navigation

KI für den Menschen – das Ethik-Team am DFKI

Die zunehmende Performanz von KI-Systemen und vor allem der tatsächliche Einsatz im Alltag vieler Menschen hat die ethische Betrachtung des Einsatzes von KI-Systemen zu einem gesellschaftsrelevanten Thema gemacht, welches inzwischen auch in der breiten Öffentlichkeit wahrgenommen und diskutiert wird.

Das DFKI bezieht ethische Fragestellungen systematisch in seine Forschungsaktivitäten ein. Dabei hängt es sehr vom jeweiligen Projektfokus ab, in welchem Umfang ethische Fragen im Projektkontext berücksichtigt werden können und müssen. In den Projekten arbeitet das DFKI regelmäßig auch mit externen Experten auf dem jeweiligen Gebiet der Ethik zusammen, ggf. ergänzt durch beispielsweise juristische oder psychologische Expertise.

Mit dem Leitspruch „KI für den Menschen“ möchte das DFKI unter anderem betonen, dass die Forschung hier immer dem Wohle des Menschen dienen soll. Dazu gehört auch, den Einsatz von KI-Systemen unter ethischen Gesichtspunkten zu betrachten.    

Am DFKI gibt es ein eingesetztes Ethik-Team, welches den Mitarbeitern in allen Ethik-Fragen als erste Anlaufstelle dienen kann, sei es bezogen auf ein konkretes Projekt oder allgemein die Arbeit am DFKI betreffend. Das Ethik-Team hat eine Handreichung erarbeitet, die zur ersten Orientierung dienen soll. Sie findet sich hier

Das Ethik-Team setzt sich zusammen aus:

Prof. Dr. Paul Lukowicz – Sprecher


Forschungsinteressen:

Coming soon


Warum ist Ethik für dich wichtig?

Coming soon

Iris Merget – Managerin


Forschungsinteressen:

  • Ethische Richtlinien für die Entwicklung von KI-Systemen
  • Vertrauenswürdige KI


Warum ist Ethik für dich wichtig?

Die Komplexität der KI-Technologien nimmt immer größere Ausmaße an, und ihre Integration in unzählige gesellschaftliche Bereiche nimmt ständig zu. In diesem Zusammenhang stellt die Ethik auf europäischer Ebene eine wesentliche Komponente dar, die sicherstellt, dass KI-Systeme auf vertrauenswürdige Weise entwickelt werden, wodurch das Vertrauen in die KI-Technologie und ihre Anwendungen gestärkt wird und die Wahrscheinlichkeit einer breiten Akzeptanz steigt.
Indem wir die Ethik in den Vordergrund der KI-Entwicklung und -Einführung stellen, können wir nicht nur sicherstellen, dass KI-Systeme mit einem klaren ethischen Rahmen entwickelt werden, sondern auch, dass der allgemeine Ansatz der KI-Technologie auf jeder Ebene effektiv und verantwortungsbewusst wird, was ich nachdrücklich unterstütze.
Da KI-Technologien zunehmend komplexer werden und in unser tägliches Leben integriert werden, ist es von entscheidender Bedeutung, dass wir die ethischen Implikationen ihrer Entwicklung und Nutzung berücksichtigen. Sowohl auf europäischer als auch auf weltweiter Ebene wird der Ruf nach ethischen Standards und Sicherheitsvorkehrungen lauter, um sicherzustellen, dass die Auswirkungen der KI auf die Gesellschaft positiv sind. Durch einen kooperativen und grenzüberschreitenden Ansatz bei der Behandlung dieser Fragen können wir sicherstellen, dass Einzelpersonen und Organisationen die Verantwortung für die Auswirkungen ihrer Technologie auf die Gesellschaft übernehmen und gewährleisten können, dass ihr Handeln ethisch vertretbar ist und dem Allgemeinwohl dient.

Mihai Maftei – Wissenschaftlicher Mitarbeiter


Forschungsinteressen:

  • Angewandte Ethik
  • Conversational AI Systems
  • ethische Bewertung


Warum ist Ethik für dich wichtig?

Künstliche Intelligenz erlebt einen beeindruckenden Aufschwung, schafft Problemlösungsfähigkeiten und wird zunehmend in alle gesellschaftlichen Bereiche integriert. Für mich zeigt die Begleitung der aktuellen KI-Expansion durch ständige Forderungen nach angewandter Ethik, dass KI-Ethik nicht nur eine von verschiedenen Behörden auferlegte Anforderung ist, sondern ein wesentlicher Bestandteil der verantwortungsvollen Entwicklung von KI-gesteuerten Technologien und ein wirksames Instrument zur Schaffung eines Mehrwerts für KI-Systeme.

Rosa Esther Martin Peña – Wissenschaftliche Mitarbeiterin


Forschungsinteressen:

  • Datenethik
  • Maschinenethik
  • Erklärbare KI
  • Soziale und emotionale Mensch-Maschine-Interaktion
  • Verantwortungsvolle KI-Entscheidungen
  • Natürliche Intelligenz vs. künstliche Intelligenz
  • Verkörperte Intelligenz


Warum ist Ethik für dich wichtig?

Mein Interesse an Ethik geht über die traditionellen, abstrakten ethischen Rahmenwerke oder Prinzipien hinaus, die oft retrospektiv das menschliche Verhalten oder sogar das Verhalten sogenannter moralischer Maschinen erklären sollen. Ethik und Werte lassen sich vielmehr als Ausdruck der kognitiven und affektiven Dissonanz verstehen, die sich im alltäglichen Verhalten der Mitglieder einer Gemeinschaft manifestiert. Diese Dissonanz zeigt sich besonders in alltäglichen Entscheidungen, die systematisch den Werten widersprechen, die eigentlich als soziale Norm befolgt werden sollten. Mein ethisches Interesse richtet sich darauf, zu erforschen und zu verstehen, warum, wann, wie und zu welchem Zweck Menschen dazu neigen, sich ihrer Verantwortung zu entziehen. Ohne ein Bewusstsein für Verantwortung gibt es keine Möglichkeit, die Vergangenheit zu korrigieren, und jeder Versuch, die negativen Auswirkungen von Handlungen vorherzusehen, wird untergraben.

Die Frage, die sich stellt, lautet also: Welche Lösungen können KI-Systeme bieten, um Menschen besser zu verstehen – so wie sie wirklich sind oder wie wir uns selbst wahrnehmen? Dadurch könnten die aus diesen Mensch-Maschine-Interaktionen entstehenden ethischen Regeln und normativen Systeme besser an unsere tatsächliche Natur angepasst werden, anstatt an das Idealbild, das wir von uns selbst haben.

Darüber hinaus erfordert diese Vision, Technologie als Werkzeug zur Lösung spezifischer ethischer Probleme zu begreifen, ein tieferes Verständnis der menschlichen Entscheidungsfindung. Zudem steht sie im Gegensatz zu den gängigen und zunehmend verbreiteten apokalyptischen Narrativen, die behaupten, dass KI-Systeme den Menschen in vielen Bereichen überflüssig machen werden. Schließlich geht es um KI für Menschen, nicht um KI ohne Menschen.

Samantha Prange – Assistenz


Forschungsinteressen:

  • Ursprünge der KI in der griechischen Philosophie und Mythologie


Warum ist Ethik für dich wichtig?

Menschen werden die KI nicht als Unterstützung annehmen so lange unklar ist, ob die KI nicht doch eine Gefahr darstellen könnte. Daher muss schon bei der Entwicklung von KI-Systemen die Ethik mit „programmiert“ werden.

Lisa-Marie Goltz – Wissenschaftliche Hilfskraft


Forschungsinteressen:

  • Ethik der KI
  • Philosophische Anthropologie (v. a. Helmuth Plessner)
  • normative Ethik


Warum ist Ethik für dich wichtig?

Als Studentin von Philosophie-Neurowissenschaften-Kognition ist Ethik für mich von großer Bedeutung, um zu verstehen, was ein gutes Leben ausmacht. Ich setze mich für eine faire KI ein, die allen Menschen zugutekommt, insbesondere Frauen, Arbeitnehmer*innen, Menschen mit Behinderungen und/oder besonderen Bedürfnissen und Kindern. KI sollte als Werkzeug dienen, das das Leben für alle Menschen, insbesondere für Minderheiten, vereinfacht, anstatt es zu verkomplizieren.

Die Ethik der KI ist von entscheidender Bedeutung, da sie sicherstellt, dass das menschliche Wohlergehen im Vordergrund des technologischen Fortschritts steht. Mein Ziel ist es, sicherzustellen, dass KI der Gesellschaft dient, die Lebensqualität verbessert und Fairness gewährleistet. Der Schutz jedes Einzelnen, sowie der marginalisierter Gruppen, durch ethische Standards in der KI ist entscheidend für ein gutes Leben für alle.

Wenn KI nicht auf moralischen und ethischen Prinzipien aufbaut, kann sie weder fair noch richtig eingesetzt werden.

Kevin Baum - Advisor


Forschungsinteressen:

  • Explainable AI
  • Maschinenethik
  • Trustworthy AI
  • Computerethik
  • Normative Ethik
  • deontische Logik


Warum ist Ethik für dich wichtig?

Was möglich und machbar ist, was tatsächlich geschieht oder welche Folgen etwas haben kann, sind so interessante wie relevante Fragen. Aber Antworten darauf sagen uns nicht, was wir tun sollen. Dafür müssen wird danach fragen, was sein soll und darf. Die Ethik als die Wissenschaft der Moral gibt uns diesbezüglich Antworten für jedenfalls eine gewichtige und primäre Quelle des Normativen. Daher ist die wichtig und deshalb ist sie wichtig für mich.

Dr. Aljoscha Burchardt – Advisor


Forschungsinteressen:

  • Sprach- und Wissenstechnologien


Warum ist Ethik für dich wichtig?

KI-Systeme interagieren mit der Welt und werden von Menschen zunehmend als eine Art von Akteur wahrgenommen. Um die Systeme gut zu gestalten und zu evaluieren, braucht es interdisziplinären Diskurs über Maßstäbe, Erwartungen, Rollenbilder, Ängste und vieles mehr. Dieser Diskurs gewinnt durch ethische Reflexion und wird zum Teil erst durch sie möglich.

Dr. Patrick Gebhard – Advisor


Forschungsinteressen:

Seine Forschungsschwerpunkte liegen auf den Gebieten Emotionen, Empathie, soziale Interaktion sowie soziotechnische Systeme. Dabei werden Fragestellungen aus den Bereichen Gesundheit, Wohlbefinden, soziales Training und Mobilität untersucht. Zu diesem Zweck werden euroexplizite KI-Modelle, interaktive Systeme, Standards und Evaluationsmethoden konzipiert und entwickelt.


Warum ist Ethik für dich wichtig?

Werte und Normen stellen die Grundlage für das soziale Miteinander dar. KI-Modelle über Emotionen, Empathie, soziale Interaktion und soziotechnische Systeme unterstützen die Weiterentwicklung des Konzepts des Menschenbildes. Es gilt, Transparenz bezüglich der Arbeitsweise von KI-Methoden in diesen Gebieten zu schaffen und Diskussionen darüber zu fördern.

Dr. Christian Müller - Advisor


Forschungsinteressen:

Meine Forschungsinteressen konzentrieren sich auf die Entwicklung neuroexpliziter KI für das Autonome Fahren. Dabei geht es um die Entwicklung intelligenter Systeme, die in komplexen Fahrszenarien wahrnehmen, argumentieren und Entscheidungen treffen können. Erreicht wird dies durch die Kombination von symbolischem Denken und anderen Formen expliziten Wissens mit neuronalen Netzen, die es diesen Systemen ermöglichen, aus Daten zu lernen und gleichzeitig Schlussfolgerungen über die Fahrsituation zu ziehen. Durch die Entwicklung dieser Algorithmen wollen mein Team und ich die Sicherheit und Effizienz des Autonomen Fahrens verbessern, um es schließlich für den Alltag nutzbar zu machen. Meine Forschung umfasst die Erforschung der neuesten Fortschritte im Bereich des maschinellen Lernens und der Künstlichen Intelligenz sowie die Entwicklung neuartiger Algorithmen, die die Umgebung genau wahrnehmen, Verkehrsregeln verstehen und auf der Grundlage dieser Informationen Entscheidungen treffen können.


Warum ist Ethik für dich wichtig?

Während ethische Bedenken im Zusammenhang mit Dilemmata und Vorurteilen bei der Entwicklung und dem Einsatz autonomer Fahrsysteme von entscheidender Bedeutung sind, bin ich daran interessiert zu untersuchen, wie Ethik in den gesamten Lebenszyklus dieser Systeme integriert werden kann. Dazu gehört, dass man über die traditionellen ethischen Bedenken von Dilemmata und Vorurteilen hinausgeht und die ethischen Implikationen der Datenerfassung, der algorithmischen Entscheidungsfindung und des Einsatzes berücksichtigt. Durch die Untersuchung dieser umfassenderen ethischen Implikationen möchte ich ethische Rahmenbedingungen entwickeln und fördern, die eine verantwortungsvolle und gerechte Nutzung der Technologie des Autonomen Fahrens gewährleisten.

Dr. Christiane Plociennik – Advisor


Forschungsinteressen:

  • KI und Ethik
  • Digitalisierung und KI in der Kreislaufwirtschaft
  • Mensch-Technik-Interaktion
  • KI in der Fabrik
  • grüne KI
     

Warum ist Ethik für dich wichtig?

KI ist nicht einfach normale Software, die programmiert wird und dann läuft. Bei KI gibt es eine Art “Zwischenschicht” - der Programmierer schreibt quasi Programmcode, der dann wieder Programmcode erzeugt, und dieser wird dann ausgeführt. Durch diese “Zwischenschicht” entstehen ethische Herausforderungen, die bei normaler Software so nicht existieren.

Dr. Tobias Wirth – Advisor


Forschungsinteressen:

  • Faire KI in der Praxis
  • Gerichtsfeste KI
  • KI in der Forensik


Warum ist Ethik für dich wichtig?

Künstliche Intelligenz wird die Welt voranbringen. Damit wir die Potenziale von KI realisieren können in vielen Bereichen, die unsere Gesellschaft betreffen, wie Gesundheit, Wandel im Arbeitsmarkt, Wertschöpfung in der Wirtschaft, Mobilität, Energiewende und Klimawandel, brauchen wir eine transparente und vertrauenswürdige KI. In der Entwicklung von KI-Systemen liegt auch eine große Verantwortung. Wir brauchen einen Design-Ansatz, welcher ethische Überlegungen und Prinzipien über den gesamten Zyklus von der Idee bis zum Produkt miteinbezieht. Klar ist aber auch: KI soll uns Menschen unterstützen, nicht jedoch ersetzen. Wie bei allen großen Technologiesprüngen bergen Anwendungen von KI neben Chancen aber auch Risiken. Um die Chancen von KI bestmöglich zu nutzen, müssen wir neben ethische Prinzipien aber auch rechtlich verbindliche Regeln für KI-Anwendungen setzen.