Streitsache: Gibt es ein Recht auf medizinische Behandlung mit KI?

KI-basierte Assistenzsysteme können Ärztinnen und Ärzte künftig bei Diagnose und Behandlung von Krankheiten unterstützen. Müssen sie in Zukunft möglicherweise sogar zu Rate gezogen werden, wenn Patientinnen oder Patienten dies wünschen? Dieser Frage ging die Plattform Lernende Systeme gemeinsam mit der Leibniz Universität Hannover am 22. September in einem fiktiven Gerichtsverfahren nach. Grundlage war ein realitätsnaher Fall, der am Zentrum für Kunst und Medien (ZKM) in Karlsruhe in einer stark vereinfachten Gerichtssituation nachgespielt wurde.

Anton Merk hat Lungenkrebs und strebt die bestmögliche Therapie an. Er wünscht, dass die ihn behandelnden Ärztinnen und Ärzte dabei auf unterstützende medizinische KI-Systeme zugreifen. Die Klinik lehnt dies ab. Sie fürchtet insbesondere die unklare Haftungslage im Falle eines Behandlungsfehlers oder Schadens am Patienten. Darüber hinaus können die Kosten für die Behandlung mit dem KI-System noch nicht von der Krankenkasse übernommen werden. Herr Merk klagt nun vor Gericht. Die Streitsache lautet: Gibt es ein Recht auf Behandlung mit KI? Der Fall orientiert sich an dem in der Plattform Lernende Systeme entwickelten Anwendungsszenario Mit Künstlicher Intelligenz gegen Krebs.

Fachleute der Plattform Lernende Systeme aus den Bereichen Künstliche Intelligenz, Medizin und Ethik schlüpften für das fiktive Gerichtsverfahren in die Rolle der Sachverständigen und tauschten Argumente und Expertise aus. Mathieu Schapranow, Software-Ingenieur vom Hasso-Plattner-Institut, informierte Zuschauer und Gericht über die Chancen des KI-Assistenzsystems.

Während einer Operation assistiert ein KI-basiertes Navigationssystem Herrn Merks Ärztin und warnt zuverlässig, wenn sie etwa in die Nähe von Blutgefäßen gerät – besonders nach langen Schichten eine große Hilfe für eventuell erschöpftes Personal. Das KI-Assistenzsystem kann auch bei der Auswahl der passenden medikamentösen Behandlung unterstützen, indem es auf weltweite Patientendaten zurückgreift, um den Erfolg unterschiedlicher Therapie-Alternativen vorherzusagen.

Gefragt: Kompetenter Umgang mit Empfehlungen des KI-Systems

Klemens Budde, leitender Oberarzt der Charité Berlin, betonte in seiner Rolle als Sachverständiger, dass die Qualität ärztlicher Entscheidungen stark von der Erfahrung der Ärztin oder des Arztes abhänge. Seltene Krankheiten haben die meisten Ärztinnen und Ärzte in der Praxis noch nie behandelt. Deshalb kann ein KI-System ein beratendes Tumor-Board aus medizinischen Fachleuten sinnvoll ergänzen. Am Ende wird es aber Herrn Merks Fachärztin sein, die die Empfehlungen des Assistenzsystems bewertet und über die Behandlung entscheidet. Budde verwies allerdings auf die Gefahr einer „Kochbuch-Medizin“, in der sich Ärztinnen und Ärzte zu sehr auf das KI-System verlassen. Deshalb sei es wichtig, dass Ärztinnen und Ärzte künftig im Umgang mit Empfehlungen des Systems und ihnen zugrunde liegenden Wahrscheinlichkeiten sowie Daten umzugehen wissen – und im Zweifel auch abweichende Entscheidungen zu treffen wagen.

Mit dem Einsatz eines KI-Assistenzsystems stellen sich auch ethische Fragen. Jessica Heesen, Medienethikerin an der Eberhard Karls Universität Tübingen, verwies darauf, dass das KI-System die Kompetenz und Autorität einer Ärztin oder eines Arztes infrage stellen könnte. Wem vertrauen die Menschen schlussendlich mehr – der Technik oder ihrer Ärztin oder Arzt? Wer entscheidet, ob eine ärztliche Entscheidung richtig oder falsch ist?

Angesichts der Chancen der Behandlung mit einem KI-Systeme verwies Hannelore Loskill, Bundesvorsitzende der BAG Selbsthilfe, auf das Recht des Krebspatienten Herr Merk auf die bestmögliche Behandlung und freie Wahl unter den möglichen Behandlungsmethoden. Notwendig sei freilich, dass die Klinik den Patienten über die bestehenden Risiken aufkläre.

Ob es künftig ein Recht auf die Behandlung mit KI geben wird, bleibt abzuwarten. Auf der Bühne des ZKM einigten sich die fiktive Klinik und der Kläger auf einen individuellen Behandlungsvertrag, der die Haftung für die Klinik minimiert und die private Kostenübernahme durch den Patienten regelt.

Über das Format

Ein fiktives Gerichtsverfahren ist ein modernes Format der Wissenschaftskommunikation. In einem exemplarischen Fall werden Fakten, Argumente und bestehende Rechtslage auf lockere und dennoch seriöse Weise in verteilten Rollen präsentiert. Die Veranstaltung richtet sich an interessierte Bürgerinnen und Bürger und setzt weder juristisches noch medizinisches Fachwissen voraus.

Ziel ist, über Möglichkeiten von KI-Systemen aufzuklären, zugleich ihren Einsatz kritisch zu reflektieren und juristische Voraussetzungen zu klären, die ihren Einsatz ermöglichen. Eine Streitsache rund um KI in der Mobilität wird die Plattform Lernende Systeme im Februar kommenden Jahres in einem fiktiven Gerichtsverfahren am Berliner Futurium verhandeln.

Weitere Informationen:

Linda Treugut / Birgit Obermeier
Presse- und Öffentlichkeitsarbeit
Lernende Systeme – Die Plattform für Künstliche Intelligenz
T.: +49 89/52 03 09-54 /-51
M.: +49 172/144 58-47/-39
presse@plattform-lernende-systeme.de