Ärztliche Erfahrung unabdingbar beim KI-Einsatz in der Medizin

Die Einsatzmöglichkeiten von Systemen mit Künstlicher Intelligenz (KI) in der Medizin sind vielfältig. Dabei hat KI das Potential, die Patientenversorgung zu verbessern; sie weckt aber auch Ängste, dass sie sich etwa negativ auf die Arzt-Patient-Beziehung auswirken könnte. Die Zentrale Ethikkommission (ZEKO) bei der Bundesärztekammer hat deshalb eine Stellungnahme zur „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ erarbeitet.

Im Fokus stehen sogenannte „Clinical Decision Support Systems“ (CDSS) – KI-basierte Datenverarbeitungssysteme, die Ärztinnen und Ärzte bei ihrer Entscheidungsfindung unterstützen sollen. In der Stellungnahme werden unter anderem der aktuelle Entwicklungsstand von KI-basierten CDSS skizziert und Fragen aus medizinischer, ethischer und rechtlicher Perspektive beleuchtet, die mit dem Einsatz solcher Systeme für die ärztliche Tätigkeit verbunden sind.

„Die Stellungnahme soll dazu beitragen, für die ethischen Herausforderungen bei der Entwicklung und dem Einsatz von KI-basierten CDSS zu sensibilisieren“, sagt der Vorsitzende der ZEKO, Prof. Dr. jur. Jochen Taupitz. Mit Künstlicher Intelligenz werden enorme Erwartungen für den medizinischen Fortschritt verbunden, insbesondere im Bereich der Diagnostik und der personalisierten Medizin, betont er. Da aber auch KI nicht frei von Fehlern sein werde, weist Taupitz darauf hin, wie wichtig es sei, dass sich Ärztinnen und Ärzte mit den Besonderheiten der KI-gestützten Entscheidungsassistenz befassen.

Die ZEKO begrüßt in ihrer Stellungnahme den Einsatz von CDSS – vorausgesetzt, diese tragen dazu bei, die Qualität und Effektivität der Patientenversorgung zu verbessern. CDSS sollen Ärzten und Patienten darin unterstützen, eine große Menge klinisch-diagnostischer Informationen für den gemeinsamen Entscheidungsprozess zur Verfügung zu stellen, die Individuums-bezogen und fallorientiert durch integrierte Software-Systeme ausgewählt werden. So detektieren CDSS beispielsweise in der radiologischen Bildgebung auffällige Areale und kommen in der Dermatologie bei der Beurteilung der Malignität von Hautläsionen zur Anwendung. „Bereits jetzt können CDSS durch den Einsatz moderner Methoden der Datenverarbeitung bei bestimmten Teilaufgaben Ergebnisse erzielen, die mit denen von Ärztinnen und Ärzten vergleichbar sind oder diese sogar übertreffen“, heißt es in der Stellungnahme.

Ärztinnen und Ärzte sollten sich dennoch darüber bewusst sein, dass CDSS Fehler und Verzerrungen aufweisen könnten. Damit ist die Gefahr fehlerhafter Diagnose- und Therapieempfehlungen verbunden. „Beim Einsatz von KI liegt die Verantwortung und Rechenschaftspflicht für Diagnose, Indikationsstellung und Therapie nach wie vor beim Arzt beziehungsweise bei der Ärztin. Diese Verantwortung kann nicht an ein CDSS abgetreten werden“, hebt Taupitz hervor. Optimale Behandlungsergebnisse würden insbesondere erzielt, wenn CDSS und ärztliches Erfahrungswissen zusammenwirken. „Nur Ärztinnen und Ärzte vermögen das Krankheitsbild gesamtbiographisch zu verorten und auch psychische sowie emotionale Faktoren zu berücksichtigen, die sowohl für die Diagnose Gewicht haben als auch für eine angemessene Therapie ausschlaggebend sein können“, heißt es in der Stellungnahme der ZEKO.

Bundesärztekammer / 23.08.2021