Publikation
Human-centered AI Systems Engineering: Konzeption und Implementierung von KI-Systemen in menschzentrierten Datenökosystemen
Henrik Kortum-Landwehr
PhD-Thesis, Universität Osnabrück, 9/2023.
Zusammenfassung
Die Entwicklung von KI-Systemen erfolgt oft innerhalb komplexer Datenökosysteme, in denen verschiedene Akteure miteinander interagieren und Daten austauschen. Eine solche akteursübergreifende Entwicklung birgt großes Potenzial, aber auch Herausforderungen, insbesondere wenn der Mensch als zentraler Akteur und Anwender der KI-Systeme im Mittelpunkt steht. In diesem Spannungsfeld nehmen Aspekte wie Nicht-Diskriminierung, Erklärbarkeit, Transparenz und Vertrauen einen hohen Stellenwert ein. KI-Systeme sollten daher auf den Menschen ausgerichtet sein, um ethische Standards zu erfüllen, nicht zuletzt auch, um einer zunehmenden Regulierung durch die Europäische Union zu begegnen, welche die Gestaltung und Nutzung von KI-Technologien in Europa maßgeblich beeinflussen wird. Aus den zuvor skizzierten Sachverhalten erwächst die Fragestellung, wie KI-Systeme in menschzentrierten Datenökosystemen konzipiert, entwickelt und eingesetzt werden können, um einerseits Mehrwerte für die Gesamtheit einer pluralistischen Gesellschaft zu erzielen, andererseits aber auch, um den Bedürfnissen und Rechten jedes Einzelnen Genüge zu tun. Diese Dissertation liefert eine Antwort auf diese Frage, indem sie das Engineering von KI-Systemen in Datenökosystemen untersucht und Ansätze zu deren menschzentrierter Gestaltung hervorbringt.