Freitag, 27. November 2020
Navigation öffnen
Anzeige:
Vargatef
Vargatef
JOURNAL ONKOLOGIE – Artikel

17. Oktober 2020 Künstlich Intelligente Kunstfehler

Zwar ersetzt die Verwendung Künstlicher Intelligenz (KI) nicht den Arzt, doch die moderne Medizin verlangt den Einsatz von Therapien, die sich am neuesten Stand der Wissenschaft orientieren. In den Bereichen, in denen der Nutzen einer KI-Technologie nachgewiesen wurde, ist ihr Einsatz für die Zukunft nahezu unumgänglich. Doch was geschieht, wenn der Algorithmus der KI zu einer falschen Diagnose oder einer inadäquaten Therapie führt? Haftet für etwaige Defizite der Entwickler oder der Arzt? 
Der Behandlungsfehler
Der Behandlungsfehler („Kunstfehler“) ist eine „medizinische Behandlung, die nicht den zum Zeitpunkt der Behandlung bestehenden, allgemein anerkannten Standard befolgt, dann, wenn nichts anderes vertraglich vereinbart worden ist“ (1). Sein Charakter ist dualistischer Natur, da er aus einem Tun oder Unterlassen resultiert. Ein Behandlungsfehler liegt also dann vor, wenn der behandelnde Arzt entgegen gesicherter medizinscher Kenntnisse, elementarer medizinischer Grundlagen, Leit- oder Richtlinien oder ausdrücklicher Handlungsanweisungen gehandelt oder die medizinische Handlung unterlassen hat. Dabei muss der Fehler nicht zwingend medizinischer Art sein, auch eine fehlgeschlagene organisatorische Maßnahme oder eine unvollständige oder irreführende oder gar falsche Aufklärung können als Behandlungsfehler gewertet werden.

Die Ursachen für einen Behandlungsfehler sind vielfältig: Fachliche Unzulänglichkeit, mangelnde Kommunikation, Arbeitsüberlastung, Vermeidungsstrategien, Übermüdung, Personalmangel oder auch Unklarheit über die jeweiligen Verantwortlichkeiten. All diese Ursachen sind auf den Arzt beziehungsweise sein organisatorisches Umfeld zurückzuführen.

Mit dem Einsatz von KI in der Medizin tritt nun eine weitere mögliche Ursache hinzu: Ein Algorithmus, der zu einer falschen Diagnose oder nicht optimalen Therapie geführt hat.
KI
Der KI-Begriff umschreibt ein Teilgebiet der Informatik, das sich mit der Automatisierung intelligenten Verhaltens und dem maschinellen Lernen befasst. Obgleich es an einer trennscharfen Definition mangelt – ist doch schon der Begriff „Intelligenz“ schwer fassbar – wird unter KI der Versuch verstanden, menschliche Entscheidungsstrukturen nachzubilden. Im Idealfall ist die KI in der Lage, auf Augenhöhe mit Menschen komplexe Aufgaben zu übernehmen oder konkrete Anwendungsprobleme zu lösen. Außerdem muss sie zwingend die Fähigkeit besitzen, mit Unsicherheit und probabilistischen Informationen umzugehen (2).
KI-Anwendung in der Medizin
In der Medizin kommt KI derzeit hauptsächlich in der bildgebenden Diagnostik (3), automatischen Datenanalyse (4) und Sprachverarbeitung (5) zum Einsatz. Die bildgebende Diagnostik ist besonders in der Onkologie ein etabliertes Entscheidungsstützungssystem, das unter dem Fachbereich „Radiomics“ zusammengefasst wird. Der Name vermischt „radiology“ und „genomics“, zurückzuführen auf die Idee, dass auf der Basis radiologischer Bilddaten statistische Aussagen über Gewebeeigenschaften, Diagnosen und Krankheitsverläufe getroffen werden können, für die sonst das Genom herangezogen würde (6, 7). Die KI extrahiert dabei automatisch eine große Anzahl quantitativer Merkmale, deren Visualisierung und statistische Analyse – mit dem Schwerpunkt, die Korrelation klinischer Endpunkte zu prüfen. Dadurch wird beispielsweise eine präzisere Typisierung maligner Zellen ermöglicht, deren Unterscheidungsmerkmale für das menschliche Auge schwer zu differenzieren sind. Auf dieser Grundlage werden dann zielgerichtete Therapien vorgeschlagen.
Fehler der KI – Wer haftet?
Der Arzt hat in aller Regel kaum Einblick in die Architektur des Algorithmus, der auf Basis falscher Vorannahmen falsche Ergebnisse produzieren kann – falsche Ergebnisse, die im schlimmsten Fall Menschenleben kosten können. Kann also der Arzt haftbar gemacht werden, wenn das KI-System für ihn doch eine Art Blackbox darstellt?

Die Antwort auf diese Frage ist aus juristischer Sicht eindeutig: „Auch wenn der Algorithmus eine falsche Diagnose stellt, bleibt der Arzt oder die Ärztin die letzte Entscheidungsinstanz für die Therapie und haftet demgemäß auch für etwaige Kunstfehler“ (8). Der richtige Umgang mit algorithmischen Systemen einschließlich des Bewusstseins ihrer Grenzen ist daher „von umso größerer Wichtigkeit“ (8). Entscheidet hingegen ein Algorithmus ohne menschliche Zwischeninstanz eigenständig, muss der Anbieter des Systems haftbar gemacht werden können. Daher hat sich der Bundesverband Digitale Wirtschaft (BVDW) auch dafür ausgesprochen, eine nationale Forschungsdatenbank anzulegen, „auf der die Daten beispielsweise von Krebstherapien standardisiert gesammelt werden, wobei eine individuelle Möglichkeit zum Widerspruch bestünde („Opt-out“)“ (8).
Chancen und Risiken
Letztlich muss der Einsatz einer KI und seines Algorithmus – ganz besonders in der Medizin – für unabhängige Experten nachvollziehbar sein und dabei sowohl ethischen als auch juristischen Ansprüchen genügen. Es besteht trotz der Haftungsfrage kein Grund, als Mediziner vor dem KI-Einsatz zurückzuschrecken. Zum einen ist die Entwicklung noch lange nicht so weit vorangeschritten, dass derlei Systeme einem Arzt gleichzusetzen wären geschweige denn ihn ersetzen könnten, zum anderen trägt durchaus auch der Systementwickler Verantwortung.

Diese Einschränkungen sind keine Argumente gegen den KI-Einsatz in der Medizin. Genauso ist aber auch blindes Vertrauen fehl am Platz. Die Künstliche Intelligenz verfügt mitnichten über Superkräfte, mit denen schon bald sämtliche Krankheiten geheilt werden können. Aber sie ist ein wertvolles Werkzeug des Arztes zur Entlastung im Alltag und in der Diagnostik.

(sm)

Literatur:

(1) § 630a BGB
(2) Bostrom N. Superintelligenz. Szenarien einer kommenden Revolution. 2016: 42.
(3) Vial A et al: The role of deep learning and radiomic feature extraction in cancer-specific predictive modelling: a review. Translat Cancer Res 2018;7(3): 803-16.
(4) Darmkrebsvorstufen mit künstlicher Intelligenz erkennen. internisten-im-netz.de vom 8. Oktober 2018.
(5) Corcoran CMF et al. Prediction of psychosis across protocols and risk cohorts using automated language analysis. World Psychiatry 2018;17(1):67-75. ISSN 1723-8617.
(6) Gillies RJ et al. Radiomics. Images Are More than Pictures, They Are Data. Radiology 2016;278(2):563-77.
(7) Lambin P et al. Radiomics. Extracting more information from medical images using advanced feature analysis. Eur J Cancer 2012;48(4):441-446.
(8) BVW. Mensch, Moral, Maschine. Digitale Ethik, Algorithmen und künstliche Intelligenz. https://www.bvdw.org/fileadmin/bvdw/upload/dokumente/BVDW_Digitale_Ethik.pdf


Anzeige:
Xospata
 

Sie können folgenden Inhalt einem Kollegen empfehlen:

"Künstlich Intelligente Kunstfehler"

Bitte tragen Sie auch die Absenderdaten vollständig ein, damit Sie der Empfänger erkennen kann.

Die mit (*) gekennzeichneten Angaben müssen eingetragen werden!

Die Verwendung Ihrer Daten für den Newsletter können Sie jederzeit mit Wirkung für die Zukunft gegenüber der rsmedia GmbH widersprechen ohne dass Kosten entstehen. Nutzen Sie hierfür etwaige Abmeldelinks im Newsletter oder schreiben Sie eine E-Mail an: info[at]rsmedia-verlag.de.


ESMO Virtual Congress 2020
  • Fortgeschrittenes Melanom nach Versagen einer PD-(L)1-Inhibition: Vielversprechende Antitumoraktivität mit Pembrolizumab + Lenvatinib
  • Pembrolizumab + Lenvatinib: Vielversprechende Ansprechraten bei vorbehandelten fortgeschrittenen Tumoren
  • HNSCC: Pembrolizumab als Monotherapie und als Partner einer Platin-basierten Chemotherapie erfolgreich in der Erstlinie
  • Ösophaguskarzinom: Relevante OS- und PFS-Verlängerung durch Pembrolizumab + Chemotherapie in der Erstlinie
  • 5-Jahres-Daten der KEYNOTE-024-Studie bestätigen deutliche Überlegenheit für Pembrolizumab mono vs. Chemotherapie beim NSCLC mit hoher PD-L1-Expression
  • Neuer Anti-ILT4-Antikörper zeigt in Kombination mit Pembrolizumab erste vielversprechende Ergebnisse bei fortgeschrittenen Tumoren
  • Adjuvante Therapie mit Pembrolizumab verlängert auch das fernmetastasenfreie Überleben bei komplett resezierten Hochrisiko-Melanomen im Stadium III
  • HIF-2α-Inhibitor MK-6482 beim Von-Hippel-Lindau-Syndrom: Vielversprechende Wirksamkeit auch bei Nicht-RCC-Läsionen
  • Neuer Checkpoint-Inhibitor: Vielversprechende erste Studiendaten für Anti-TIGIT-Antikörper Vibostolimab in Kombination mit Pembrolizumab