Künstliche Intelligenz und Ethik in der Medizin

Künstliche Intelligenz für die Medizin muss ethisch gut gemacht sein

Prof_Alena_Buyx_Ethik_TU_Muenchen_ONL.jpg
Dr. med. Alena Buyx ist Professorin für Ethik der Medizin und Gesundheitstechnologien an der TU München und seit 2016 Mitglied des Deutschen Ethikrates (Bild: Klaus Ranger)
Anzeige
Um Künstliche Intelligenz in der Medizin sinnvoll zu nutzen, müssen Techniker, Mediziner und Ethiker vermehrt zusammenarbeiten. Auch wenn der grobe ethische Rahmen für neue Technologien in der Medizin steht, sind noch viele Detailfragen zu klären, sagt die Münchner Ethikprofessorin Alena Buyx.

Dr. Birgit Oppermann
birgit.oppermann@konradin.de

Frau Professor Buyx, welche ethischen Fragen stellen sich in der Medizin?

Grundsätzlich geht es in der Ethik um das gute und richtige Handeln – also darum, was wir tun sollen und was nicht und wie wir das begründen. Angesichts der großen Fortschritte auf vielen Gebieten müssen wir uns inzwischen auch oft damit beschäftigen, ob wir in der Medizin alles umsetzen wollen, was wir können.

Wo tauchen diese Fragen in der Medizin auf?

Die Ethik in der Medizin lässt sich grob in drei Bereiche gliedern: Es gibt die klinische Ethik, bei der es zum Beispiel darum geht, welche Behandlung für einen Patienten die beste ist oder was geschehen kann, wenn der Arzt etwas vorschlägt, der Patient aber andere Vorstellungen hat. Am Ende eines Lebens taucht oft die Frage auf, wann es richtig ist, eine Therapie abzubrechen. Die Innovations- und Forschungsethik wiederum beschäftigt sich damit, wie neue Dinge erforscht werden dürfen, welche Risiken Forschungsteilnehmern zugemutet werden dürfen, wie eine klinische Studie ethisch zu gestalten ist – aber zum Beispiel auch damit, ob und welche Manipulationen an Embryonen zulässig sein sollen. Als dritten Bereich gibt es gesellschaftsethische Fragen. Zwei Beispiele dazu sind die gerechte Verteilung begrenzter Ressourcen oder die Zustimmungs- oder Widerspruchslösung bei der Organspende.

Welche Herausforderungen für die Ethik bringen Künstliche Intelligenz und Big Data mit sich?

Was derzeit zur KI in der Gesundheit läuft, befindet sich in einem frühen experimentellen Stadium. Erste Algorithmen sind publiziert, aber es gibt noch keine größeren Studien zu Produkten. Wir stoßen also zunächst auf Fragen der Innovations- und Forschungsethik. Grundsätzlich werden wir viele Erfahrungen, die wir mit modernen Entwicklungen in der Biomedizin gemacht haben, auf die Digitalisierung übertragen können. Allerdings reden wir da eher von einem groben Rahmen. Im Detail wird noch vieles für konkrete Anwendungen diskutiert werden müssen. Bisher einzigartig ist bei der KI tatsächlich die Autonomie mancher Systeme, ihre Möglichkeit, selbst zu lernen – wodurch sie sich der ärztlichen Kontrolle entziehen. Wenn der Mediziner nicht mehr versteht, wie es zu einer Entscheidung kommt, greifen die bisherigen ethischen Grundlagen nicht. Hierfür Antworten zu finden, ist eine Herausforderung und eine sehr spannende Aufgabe.

Wie intensiv haben sich Ethiker mit diesen Themen schon befasst?

Die Digitalisierung gibt es schon seit einigen Jahrzehnten. Es gibt EU-weit und international ethische Konzepte und Vorschläge von verschiedenen Institutionen, Regeln, die Unternehmen wie Google oder Microsoft aufgestellt haben, und auch sehr spezielle, schon ältere Arbeiten etwa über Cyborg-Rechte, die jetzt relevant werden. Erste Leitplanken sind also vorhanden. KI begegnet uns jetzt aber in sehr verschiedenen Ausprägungen. Das kann ein Avatar für die Behandlung einer psychischen Erkrankung sein, ein Algorithmus, der den Chirurgen im OP beratend unterstützt, oder ein Virtual-Reality-Trainingsprogramm für die Ausbildung von Radiologen. Jede Translation einer Technik, die im Umfeld des Krankenbettes eingesetzt werden soll, wirft im Detail andere Fragen auf. Diese zu bearbeiten ist die Aufgabe, die noch vor uns liegt.

Welche Rolle sollte Ethik beim Entwickeln digitaler Medizinprodukte spielen?

Entsprechende Überlegungen sollten von Anfang an mit einbezogen werden. Das müssen die Technik-Fachleute aber nicht allein machen. Es gibt ja Ethiker – fragen Sie uns also gern. Digitale Techniken beeinflussen und verändern unsere Welt in einer bislang nicht gewohnten Tiefe, nicht nur in der Medizin. Daher wünsche ich mir, dass Entwickler und auch Unternehmen noch offener für ethische Fragen werden. Sie zu berücksichtigen, steigert auch die Akzeptanz für die Produkte bei Anwendern.

Wer kann die ethischen Fragen am besten beantworten?

Das können im Grunde nur interdisziplinäre Teams aus Technikern, Medizinern und Ethikern. Alle Seiten sollten so früh wie möglich einbezogen werden, um schon beim Programmieren die richtigen Fragen zu stellen: Welche Parameter darf oder muss ich berücksichtigen? Was passiert, wenn ein Fehler auftritt? Wir arbeiten in München an solchen Vorgehensweisen, die wir als embedded ethics in der Technologieentwicklung bezeichnen. So etwas gab es bisher nicht, und der Prozess ist aufwendig. Er kann uns aber zu Best-Practice-Modellen führen, die wir später auf andere Anwendungen einfacher übertragen können.

Dass eine KI in der Lage ist, die Überlebenswahrscheinlichkeit eines Menschen zu berechnen, wirkt auf den ersten Blick verstörend. Wie sehen Sie solche Entwicklungen?

Mediziner nutzen heute schon so genannte Risiko-Scores vor jeder Operation, um sich der gesundheitlichen Situation eines Patienten bewusst zu sein und für einen Eingriff entsprechende Maßnahmen vorzusehen. Eine KI macht eine solche Einschätzung präziser, kann individueller vorgehen und ist unter Umständen echtzeitfähig: Sie kann also Veränderungen des Risikos im laufenden Prozess berücksichtigen. Ob und wie diese Möglichkeit die Arbeit der Ärzte beeinflusst und ob sie sich so etwas wünschen, untersuchen wir gerade in einem Projekt an der TU München. Aus ethischer Sicht abzulehnen sind aber so genannte hochprädikative Risikoprofile, also eine Art Vorhersage der Lebensdauer für einzelne Menschen, wenn diese zum Beispiel von den gesetzlichen Krankenversicherungen, den GKV, genutzt würden. Der Ethikrat spricht sich wirklich selten für Verbote aus, hat das in diesem Fall aber getan. Auch wenn Krankheitsvorhersagen auf der Basis riesiger Datensätze prinzipiell möglich sind, können sich die Lebensumstände und damit die Risikofaktoren doch schnell wieder ändern. Und eine KI-basierte Risikovorhersage wie „diese oder jene Behandlung des Patienten lohnt sich nicht mehr“, könnte das Solidaritätsprinzip in der Gesundheitsversorgung aushebeln.

Welche Chancen bietet KI?

Das Potenzial, das KI für die Medizin bietet, ist riesig. Dinge quasi vorherzusehen, lässt uns zwar erschauern. Aber im Einzelfall lässt sich daraus die Möglichkeit ableiten, gezielt Prävention zu betreiben und dafür zu sorgen, dass die Vorhersage eben nicht eintritt. Konkret kann man den Vorteil an einer Chemotherapie erläutern: Diese belastende und anstrengende Behandlung sollte man nur auf sich nehmen, wenn sie eine gute Prognose ermöglicht.

Wie gut sind die Anwender – die Mediziner – auf den Einsatz der neuen digitalen Technologien vorbereitet?

Ein Mediziner begegnet ethischen Fragen schon in seiner Ausbildung, und das gesamte Berufsbild mit der Arbeit am verletzlichen, erkrankten Menschen setzt ein verantwortliches Handeln voraus. Der Patient begibt sich in eine Abhängigkeit, es geht um Fragen von Leben und Tod – die vielleicht von einer rechtzeitigen Krebsdiagnose abhängen. Bei der Nutzung neuer digitaler Technologien wäre aber noch mehr Technikkompetenz bei den Ärzten wünschenswert und mehr medizinischethische Kompetenz bei den Ingenieuren. Das ist eine hochschulpolitische Herausforderung.

Im Rahmen des laufenden Wissenschaftsjahres „Künstliche Intelligenz“ hat eine Studie gezeigt, dass zwei Drittel der hiesigen Bevölkerung den Einsatz von KI in der Medizin befürworten. Was meinen Sie, sollen wir uns mehr KI wünschen?

Ja. Künstliche Intelligenz ist ein sehr spannendes Thema, bei dem wir über unsere bisherigen Expertisen hinausgehen. Es macht natürlich Spaß, auf so einem Gebiet zu arbeiten. Aber die KI muss im ethischen Sinn gut gemacht sein. Die Technik hat Potenzial, die Bevölkerung ist offen dafür, was sich auch in der Studie zeigt. Allerdings sollten wir nichts überstürzen, sondern gut überlegt handeln und alle ethischen Fragen abklopfen.


Mehr dazu online

Mehr zur Digitalisierung in der Medizin, zu KI, Big Data und 5G lesen Sie auf der Themenseite Digitalisierung in unserem Online-Magazin.

www.medizin-und-technik.de/themen/digitalisierung/


Big Data darf laut Ethikrat die Datensouveränität des Menschen nicht beeinträchtigen
Bild:issaronow/Fotolia

Über den Deutschen Ethikrat

Im Deutschen Ethikrat arbeiten 26 Sachverständige und befassen sich mit Themen aus verschiedenen Bereichen, die über die Lebenswissenschaften und ihre Anwendung an Menschen Folgen für Individuen haben können sowie für die gesamte Gesellschaft. Betrachtet werden unter anderem naturwissenschaftliche, medizinische und rechtliche Fragen.

Die Mitglieder des Ethikrates werden von der Bundesregierung und dem Bundestag vorgeschlagen. Sie dürfen weder Mitglieder des Parlamentes noch der Regierung sein. Das soll die Unabhängigkeit des Gremiums sicherstellen. Die monatlichen Sitzungen sind öffentlich.

Der Ethikrat fördert die gesellschaftliche Diskussion durch öffentliche Veranstaltungen und erarbeitet Stellungnahmen sowie Empfehlungen für die Politik und den Gesetzgeber. Im Jahr 2017 wurde beispielsweise eine Stellungnahme zu „Big Data und Gesundheit – Datensouveränität als informationelle Freiheitsgestaltung“ veröffentlicht. Darin wurden Chancen und Risiken der Digitalisierung angesprochen. Rechtliche, außerrechtliche und technische Rahmenbedingungen sind gefordert, die sicherstellen, „dass Menschen ihre Datensouveränität wahrnehmen und entfalten können.“

Die Stellungnahme zu Big Data und Gesundheit steht als PDF-Datei zum Herunterladen bereit.

https://bit.ly/2UCJmLk

Über den Ethikrat:

www.ethikrat.org


Forschung zu KI in München

Die Munich School of Robotics and Machine Intelligence (MSRM) unter Leitung vn Prof. Sami Haddadin ist ein integratives Forschungszentrum an der TU München. Dort werden die Grundlagen der Robotik, der Perzeption und der künstlichen Intelligenz erforscht. Mehr als 30 Professoren, auch aus den Bereichen Philosophie, Recht und Ethik, wie Prof. Alena Buyx, stellen hierfür ihre Kompetenzen zur Verfügung, Dieser Ansatz soll eine verantwortungsvolle Technologieentwicklung und Integration in die Gesellschaft sichern.

Wissenschaftliche und technische Ergebnisse zum Beispiel zur Zukunft der Gesundheit, Arbeit und Mobilität, sollen so in die reale Welt überführt werden.

Eine enge Verbindung der MSRM mit Industriepartnern und Gründern von High-Tech-Startups wird im Rahmen des Industriebeirats (industrial advisory board) etabliert.

www.msrm.tum.de

Mehr zum Thema Künstliche Intelligenz in der Medizin

Digitalisierung


Mehr zum Thema Digitalisierung
Anzeige

Aktuelle Ausgabe

Titelthema: Kreislaufwirtschaft

Pile_of_used_syringes,_everyday_drug_therapy

Weniger Plastik-Abfälle sind selbst bei Medizinprodukten machbar

Newsletter

Jetzt unseren Newsletter abonnieren

medicine&technology

Die englische Ausgabe finden Sie hier als PDF.

Sie erscheint 2 Mal im Jahr mit europaweiter Verbreitung.

Alle Webinare & Webcasts

Webinare aller unserer Industrieseiten

Aktuelles Webinar

Multiphysik-Simulation

Medizintechnik: Multiphysik-Simulation

Whitepaper

Whitepaper aller unserer Industrieseiten

Kalender

Termine für die Medizintechnik-Branche

Anzeige
Anzeige

Industrie.de Infoservice

Vielen Dank für Ihre Bestellung!
Sie erhalten in Kürze eine Bestätigung per E-Mail.
Von Ihnen ausgesucht:
Weitere Informationen gewünscht?
Einfach neue Dokumente auswählen
und zuletzt Adresse eingeben.
Wie funktioniert der Industrie.de Infoservice?
Zur Hilfeseite »
Ihre Adresse:














Die Konradin Verlag Robert Kohlhammer GmbH erhebt, verarbeitet und nutzt die Daten, die der Nutzer bei der Registrierung zum Industrie.de Infoservice freiwillig zur Verfügung stellt, zum Zwecke der Erfüllung dieses Nutzungsverhältnisses. Der Nutzer erhält damit Zugang zu den Dokumenten des Industrie.de Infoservice.
AGB
datenschutz-online@konradin.de