Künstliche Intelligenz in der Medizin: Wie das Recht die Patientenautonomie schützen kann 

Um den sich wandelnden Bedürfnissen der Gesellschaft gerecht zu werden, muss das Recht fortlaufend angepasst werden. Jedoch stellen die Geschwindigkeit und der Umfang des technologischen Fortschritts die Möglichkeit einer solchen Anpassung und damit die Möglichkeit gesetzlicher Regulierung infrage. Diese Auffassung stützt sich auf drei in der Rechts- und Technologieliteratur weit verbreitete Annahmen: (1) Das Recht ist in erster Linie ein Instrument zur Verwirklichung außerrechtlicher, innovationsbezogener Ziele. (2) Rechtliche Lösungen und rechtliches Denken bleiben hinter technologischen Entwicklungen zurück. (3) Außerrechtliche Regulierungsansätze bieten vergleichsweise schnelle und effektive Lösungen.

In diesem Forschungsprojekt untersuche ich die Interaktion zwischen Recht und Innovation am Beispiel einer Technologie, mit der sich viele Gesellschaften erst auseinanderzusetzen beginnen: künstliche Intelligenz (KI) in der Medizin. Ich erörtere die drei Annahmen, hinterfrage sie kritisch und beleuchte in einem vergleichenden Ansatz systematisch die gesetzlichen Regelungen in Großbritannien und Kalifornien, insbesondere im Hinblick auf die jeweiligen Vorschriften zur Patientenaufklärung und -einwilligung (informed consent). Diese Verpflichtung verlangt von medizinischem Fachpersonal, Patientinnen und Patienten ausreichende Informationen offenzulegen, um das Ungleichgewicht der Fachkenntnisse der beiden Seiten auszugleichen. Die zentrale Frage ist: Sind diese Regelungen flexibel genug, um einen angemessenen Schutz der Patientenautonomie zu gewährleisten?

Stand der medizinischen KI

Derzeit wird eine Vielzahl klinischer KI-Systeme entwickelt und für den Einsatz in Gesundheitssystemen zugelassen. KI wird dabei als eine Technologie definiert, die Aufgaben übernehmen kann, die bislang von menschlichen Expertinnen und Experten mithilfe ihres Wissens, ihres Könnens und ihrer Intuition gelöst wurden. Besonders der Ansatz des maschinellen Lernens (ML) hat die Entwicklung klinischer KI mit derartigen Fähigkeiten vorangetrieben.

Meine Forschungsarbeit beschreibt die Eigenschaften solcher intelligenten Systeme und analysiert eine Reihe relevanter Fallstudien. Sie dienen dazu, die verschiedenen Interaktionsformen zwischen KI und Patient zu klassifizieren,  einschließlich der möglichen Automatisierungsgrade. Das Spektrum reicht von intelligenten medizinischen Geräten, die lediglich das Wissen von Fachkräften ergänzen, bis hin zu solchen, die eigenständig Teile des klinischen Entscheidungsprozesses übernehmen können.

Mit ML-gesteuerten medizinischen Geräten sind zudem weitere Besonderheiten verbunden. Dazu gehören: (1) Mängel bei der Leistungsbewertung, (2) ein unvollständiges Verständnis ihrer Funktionsweise in Einzelfällen, das trotz neuer technologischer Lösungen fortbestehen wird, (3) die daraus entstehende Notwendigkeit, dass menschliche Entscheidungsträger ein tieferes Verständnis der Technologie entwickeln, und (4) der Einfluss des Geräts auf die gemeinsame Entscheidungsfindung durch die Ausnutzung unterbewusster menschlicher Vorurteile.

Normative Herausforderung

Eine genaue Analyse dieser Merkmale zeigt, dass der Einsatz von KI in der klinischen Versorgung die Fähigkeit der Patientinnen und Patienten gefährden könnte, Entscheidungen im Einklang mit ihren persönlichen Umständen und Überzeugungen zu treffen. Kurz: Der Einsatz von KI stellt eine potenzielle Bedrohung der Patientenautonomie dar.

Durch die Anwendung eines prozeduralen Autonomiekonzepts identifiziert das Projekt vier spezifische Herausforderungen: (1) Der Einsatz klinischer ML-Systeme erzeugt ein Maß an Unsicherheit, das mit der allgemeinen Unsicherheit bei innovativen Behandlungsmethoden vergleichbar ist. (2) Einige normativ bedeutsame Entscheidungen können von der KI relativ unabhängig getroffen werden, also ohne wesentliche Einbindung der Patienten. (3) Die Fähigkeit der Patienten, im Rahmen des kollaborativen medizinischen Entscheidungsprozesses rationale Entscheidungen zu treffen, kann durch verschiedene Einflüsse erheblich beeinträchtigt werden. (4) Patienten könnten Schwierigkeiten haben, angemessen zu reagieren, wenn nicht offensichtlich ist, dass menschliche Expertise durch KI ersetzt wurde.

Konzeption der rechtlichen Antwort

Um die rechtliche Reaktion auf diese neuartigen Herausforderungen zu antizipieren, analysiere ich den doktrinären Charakter des Autonomiekonzepts und ziehe ihn als Rechtsgrundsatz innerhalb der oben genannten Common-Law-Rechtsprechungen heran. Dieses Prinzip dient der Beurteilung, inwieweit die einzelnen Normen, die der Doktrin der informierten Einwilligung zugrunde liegen, weiterentwickelt werden können, um den spezifischen Herausforderungen durch KI in der Medizin zu begegnen. Dadurch entsteht ein zukunftsorientiertes und differenziertes Bild davon, wie das Recht auf eine sich dynamisch entwickelnde Technologie reagiert.

In beiden Ländern ist absehbar, dass das Autonomieprinzip nur begrenzt in der Lage sein wird, notwendige Änderungen in der Gestaltung und Auslegung spezifischer Normen zu bewirken. Die Anpassungsfähigkeit des Common Law stößt hierbei an ihre Grenzen. Daher untersuche ich, wie eine ergänzende gesetzliche Regelung auf den Erkenntnissen der vorangegangenen Analyse aufbauen könnte, um sowohl dem Grundsatz der Patientenautonomie als auch den besonderen Anforderungen der jeweiligen Rechtssysteme gerecht zu werden.

Neuordnung der Beziehung zwischen Innovation und Recht

Kehren wir zu den anfangs diskutierten drei grundlegenden Annahmen über die Beziehung zwischen Recht und Technologie zurück. Die entwickelte Methodik verdeutlicht die proaktive Dynamik des Rechts, das sich nicht nur an gesellschaftliche Entwicklungen anpasst, sondern diese auch auf vielfältige Weise aktiv mitgestaltet. Es ist ein Missverständnis, das Recht ausschließlich als ein System spezifischer Vorschriften zu begreifen, die entweder strikte Hürden für Innovationen oder auch begrenzte Förderinstrumente darstellen und regelmäßig an neue „Realitäten“ angepasst werden müssen.

Darüber hinaus konnte das Projekt keine vermeintlichen Vorteile außerrechtlicher Lösungen im Kontext der klinischen KI feststellen. Weder ein unmittelbarer Schutz der Patientenautonomie noch eine inhärent schnellere Anpassungsfähigkeit waren Merkmale der untersuchten technologischen Lösungen.