Publikation
KI in der Medizin und Pflege aus der Perspektive Betroffener, Tagungsbericht zum Runden Tisch mit Patientenvertretungen
Klemens Budde; Karsten Hiltawsky; Elsa Andrea Kirchner; Matthieu-P. Schapranow; Thomas P. Zahn
12/2020.
Zusammenfassung
Ob bei der Prävention oder bei patientenindividuellen Diagnosen und Therapien – KI-basierte
Assistenzsysteme bergen das Potenzial, Patientinnen und Patienten sowie medizinisches
und pflegerisches Personal künftig wirksam zu unterstützen. Mit den verschiedenen Aspekten
der Einführung von KI-basierten Assistenzsystemen im Gesundheitswesen hat sich die
Plattform Lernende Systeme bereits in verschiedenen Publikationen auseinandergesetzt
(vgl. Müller-Quade et al., 2020, 2019; Plattform Lernende Systeme, 2019, Beck et al.,
2019).
Ein zentrales Anliegen der Arbeitsgruppe Gesundheit, Medizintechnik, Pflege der Plattform
Lernende Systeme ist es, die Perspektive von Patientinnen und Patienten bei der Diskussion
von Chancen und Herausforderungen von KI im Gesundheitswesen in den Mittelpunkt
zu stellen. Aus diesem Grund hat die Arbeitsgruppe im Oktober 2019 einen Runden Tisch
mit Vertreterinnen und Vertretern verschiedener Betroffenengruppen veranstaltet, um
deren Wahrnehmung von Chancen und Herausforderungen für den Einsatz von KI-Systemen
im Gesundheitswesen identifizieren und diskutieren zu können.
Die qualitative Befragung von Patientenvertreterinnen und -vertretern zeigt dabei (Kapitel 3),
dass die Wahrnehmung potenzieller Chancen von KI im Gesundheitswesen gegenüber
der Einschätzung von Risiken überwiegt: So erhofft sich die Mehrzahl der teilnehmenden
Patientenvertreterinnen und -vertreter mit Hilfe von KI-Systemen eine stärker personalisierte
Behandlung, eine vernetzte Behandlung mit sektorenübergreifenden Prozessen und
eine umfassendere und schnellere Diagnosefindung.
Von besonderer Bedeutung ist zudem
der Zugriff von Betroffenen auf ihre elektronische Patientenakte. Die darauf gespeicherten
Gesundheitsdaten aus der Regelversorgung werden als wertvolle Datenquelle bewertet,
um einen sinnvollen und qualitativ hochwertigen Einsatz der KI-basierten Assistenzsysteme
in der medizinischen und pflegerischen Versorgung sicherzustellen. Gleichzeitig kann
die Verfügbarkeit von fachlich kompetenten Ansprechstellen, die Informationen aus der
Patientenakte in einen medizinisch fundierten Kontext einordnen und bei Fragen und
Unklarheiten
weiterhelfen können, eine wichtige Ergänzung sein. Die unmittelbare Verfügbarkeit
digitaler Patientenakten wird den Patientinnen und Patienten einfacheren
Zugang zu ihren Gesundheitsdaten ermöglichen: Heute ist hierfür die Anforderung der
analogen Akte erforderlich. So ist zu erwarten, dass die Patientinnen und Patienten das
Angebot häufiger wahrnehmen und damit öfter mit medizinischen Daten konfrontiert
werden, ohne dass diese Daten von einer Ärztin oder einem Arzt in einen medizinischen
Kontext eingeordnet werden.
Als vielversprechend werden auch neue Möglichkeiten der Teilhabe und Inklusion im Behandlungsprozess
eingestuft. Risiken sehen die teilnehmenden Patientenvertreterinnen und
-vertreter dagegen im Datenmissbrauch und der Cyberkriminalität. Fehlerhafte und diskriminierende
Entscheidungen, die auf Basis der KI-Systeme getroffen werden könnten,
sind hingegen ebenso bedenklich wie die Verwendung mangelhafter Datensätze und
schlecht optimierter Algorithmen. Wichtig ist den Vertreterinnen und Vertretern verschiedener
Betroffenengruppen auch die informationelle Selbstbestimmung mit Fragen zu
Zugriffsrechten und Datenbesitz. Befürchtet wird zudem, dass menschliche Interaktionen
eingeschränkt werden und die KI-basierten Medizinprodukte ohne Patientenbeteiligung
entwickelt
werden. Dabei wünschen sie sich eine stärkere Beteiligung von Betroffenen in
Forschung, Entwicklung und Anwendung von KI-Technologien im Gesundheitswesen und
einen Rechtsbeistand sowie Bildungsangebote zu Fragen des Datenschutzes
und der Verwaltung
der Gesundheitsdaten.
Ausgehend von der Analyse des fiktiven Anwendungsszenarios „Mit KI gegen Lungenkrebs“
hat die Patientenvertreterin Barbara Baysal Chancen und Herausforderungen von
KI bei der Krebsvorsorge, -diagnostik und -therapie kommentiert (Kapitel 3.5). Auch hier
liegt der Fokus auf der Transparenz der Entscheidungen von KI-Systemen in der Medizin
und der Selbstbestimmtheit von Patientinnen und Patienten. Mit diesem Whitepaper und
durch den Austausch mit Vertreterinnen und Vertretern verschiedener Betroffenengruppen
will die Plattform Lernende Systeme einen Beitrag zum Dialogprozess zum Thema
KI in der Medizin leisten.