Startseite » Digitalisierung » Künstliche Intelligenz »

Ethiker Prof. Manzeschke zu ethischen Fragen bei Medizintechnik und KI

Ethik in der Medizintechnik
Bei Medizinprodukten die ethische Perspektive mit denken

Prof_Arne_Manzeschke_DGBMT_quer.jpg
Prof. Arne Manzeschke ist Professor für Anthropologie und Ethik für Gesundheitsberufe an der Evangelischen Hochschule Nürnberg und leitet den Fachausschuss Medizintechnik und Gesellschaft der Deutschen Gesellschaft für Biomedizinische Technik (DGBMT) im VDE (Bild: EHN)
Anzeige
Der Fachausschuss Medizintechnik und Gesellschaft in der DGBMT beschäftigt sich unter anderem mit ethischen Fragen, die sich aus dem technischen Fortschritt in der Medizintechnik ergeben. Prof. Arne Manzeschke leitet den Fachausschuss und empfiehlt, dass Ingenieure schon bei der Entwicklung von Medizinprodukten wie Robotern oder digitalen Systemen ethische Fragen erkennen und berücksichtigen.

Dr. Birgit Oppermann
birgit.oppermann@konradin.de

Herr Professor Manzeschke, welche ethischen Fragen kann Technik aufwerfen – und warum ist das Thema derzeit wichtig?

Bei der Betrachtung von Technik generell und besonders von Medizintechnik kann es Ambivalenzen geben: Auf der einen Seite helfen uns technische Lösungen, was gut ist. Auf der anderen Seite kann es unerwünschte Nebeneffekte geben. Diese muss man rechtzeitig erkennen. Dann ist es möglich, so zu planen und zu regulieren, dass die Gesellschaft von einer neuen Technologie profitiert. Die Erfahrung hat uns gelehrt, dass es auf jeden Fall besser ist, schon früh alle Effekte zu betrachten und zu bewerten, als sich eines Tages einer fertigen Technologie gegenüberzusehen, die sich dann auch nicht mehr oder nur in eingeschränktem Maße beeinflussen lässt. Bisher war die Technik meistens etwas schneller als die Ethik.

Welche konkreten unerwünschten Nebeneffekte können das sein?

Ein gesellschaftlicher Aspekt, der einem sofort ins Auge fällt, ist der Wegfall von Arbeitsplätzen durch eine wie auch immer geartete Digitalisierung und Automatisierung. Das lässt sich vielleicht durch neue, anders geartete Jobs ausgleichen. Betrachten wir aber zum Beispiel Robotik im Operationssaal und nehmen an, dass viele Aufgaben vom Roboter übernommen werden. Wer arbeitet dann noch im OP? Es fiel schon der Begriff der Solo-Chirurgie, die kaum noch Menschen bei einem Eingriff braucht. Ein Team gibt es dann im Grunde nicht mehr. Unerwünschte Effekte könnten sein, dass sich dieser Umstand negativ auf die Zusammenarbeit von medizinischen Fachkräften, aber auch auf die Kontakte zu Patienten und Angehörigen auswirkt. Ein weiterer Gedanke betrifft das Gesundheitsmonitoring, das als telemedizinische Lösung die Selbstständigkeit von Patienten unterstützen soll, ein selbstbestimmtes Leben daheim ermöglicht. Aber die Technik ist dann allgegenwärtig, misst und erfasst alles. Die vermeintliche Objektivität technischer Daten kann das persönliche Wahrnehmen und Selbsterleben in den Hintergrund drängen. Auch können aus Monitoring-Daten Empfehlungen oder Entscheidungen abgeleitet werden, gegen die sich die Person vernünftigerweise nicht mehr stellen kann. Wie ist es dann aber um die Selbstbestimmung bestellt?

Wessen Aufgabe ist es, diese Fragen aufzuwerfen?

Derzeit sind es Ethiker oder Teams aus Ethikern, Medizinern und Technikern, die sich mit diesen Themen befassen, meist in Forschungsprojekten. Allmählich aber ist zu beobachten, dass die Initiative dazu vermehrt auch aus dem Umfeld der Technik kommt. Anstöße dafür liefern Technologien wie das autonome Fahren. Wenn ein Unfall mit Verletzten und Toten unabwendbar ist, muss in der Gesellschaft diskutiert werden, nach welchen Entscheidungsregeln die Software im Fahrzeug arbeitet, denn daraus ergibt sich, wessen Leben geopfert oder geschont wird. Das muss klar sein, bevor solche Fahrzeuge auf unseren Straßen unterwegs sind. Etwas anders gelagert ist das Problem bei Maschinellem Lernen. Hier entwickeln sich die Algorithmen aufgrund stets hinzu kommender Daten beständig weiter und generieren auf diese Weise tatsächlich so etwas wie `eigene Entscheidungen´. In diesem Fall entsteht eine Verantwortungslücke, in der kein Mensch, sei es der Anwender, Programmierer, Autohersteller oder andere – Einfluss auf die `Entscheidung´ des Systems haben. Dieses ethische Problem haben wir tatsächlich noch nicht gelöst!

Wo liegen weitere Knackpunkte, wenn Technik auf Biologie und Medizin oder gesellschaftliche Regeln trifft?

Heikel sind auch Fragen, die sich durch die Möglichkeit gentechnischer Veränderungen ergeben oder aus der Beeinflussung des menschlichen Stoffwechsels durch technische Geräte wie Implantate, die Parameter messen und zum Beispiel die Herzfrequenz entsprechend steuern. Ein weiterer Punkt, der Techniker zu ethischen Fragen führt, sind militärische Einsatzperspektiven, die eventuell ausgeschlossen werden sollen, oder Eingriffe in die Persönlichkeitsrechte. Eine Gesichtserkennung zum Beispiel kann schnell für Zwecke eingesetzt werden, die der Hersteller so nicht gewollt hat. Der technische Fortschritt steigert also die Sensibilität für ethische Fragen.

Wäre jeder Mensch – einfach aufgrund seines Daseins als menschliches Wesen – in der Lage, die wichtigsten ethischen Fragen zu stellen?

Menschen sind sehr unterschiedlich in ihren Interessen. Es gibt Personen, die sich aus eigenem Antrieb viel mit ethischen Fragen beschäftigen, aber auch andere, die sich davon – vor allem in einem innovativen Umfeld – eher gebremst fühlen und damit so wenig wie möglich zu tun haben wollen. Ich halte es daher für sinnvoll, dass zum Beispiel in einem Unternehmen entschieden wird, dass Ethik eine Rolle spielen soll. Das kann in der Praxis in einem regelmäßig tagenden Ethikbeirat umgesetzt werden oder durch externe Fachleute, die für ein Projekt hinzugezogen werden. Aber auch die Techniker selbst müssen befähigt werden, sich mit ethischen Themen auseinander zu setzen. Wichtig ist, dass die vielen verschiedenen Seiten gehört werden und eine Diskussion stattfindet – und dass jemand, der ethische Fragen stellt, in seiner Organisation nicht einfach vor eine Wand läuft.

Welche Rolle können Ethiker in solchen Runden haben?

Ethiker sind nicht grundsätzlich diejenigen, die Bescheid wissen und auf alle Fragen eine Antwort haben. Aber wir schauen aus unserer Perspektive auf eine Sache. Und diese Perspektive, die eine relevante Sichtweise unter anderen ist, sollte nicht ausgeblendet, sondern einbezogen werden.

Welche Resonanz auf diese Überlegungen bekommen Sie aus der Medizintechnik-Branche?

Ich sehe eine deutliche Bereitschaft, diese Dinge aufzunehmen. Das zeigt sich zum Beispiel daran, dass medizintechnische Fachgesellschaften gerade damit beginnen, ihre Anfang des Jahrtausends entstandenen ethischen Leitlinien zu überarbeiten. Es hat sich durch den wissenschaftlichen und technischen Fortschritt so viel verändert, dass eine neue Betrachtung erforderlich ist. Es reicht nicht mehr nachzuweisen, dass Technik an sich funktioniert. Sie muss das auch im gesellschaftlichen Umfeld, in der Wirklichkeit tun. Ein Computervirus kann heute ein ganzes Krankenhaus derart lahmlegen, dass alle Patienten nach Hause geschickt werden müssen. Wir müssen also die Urteilskraft von Technik-Fachleuten für mögliche gesellschaftliche Fragen schärfen, damit das Ergebnis ihrer Arbeit verantwortbar ist. Das kann übrigens auch heißen, dass dieselbe Entwicklung in einem bestimmten sozialen Kontext funktioniert und also ethisch verantwortbar ist, in einem anderen aber nicht.

Wie lässt sich ein Medizinprodukt nach ethischen Kriterien bewerten?

Dass nur Medizinprodukte auf den Markt kommen, die eine Basis moralischer Ansprüche erfüllen, ist heute schon durch die regulatorischen Vorgaben sichergestellt. Die Produkte müssen sicher sein, einen Nutzen haben und den Patienten nicht schädigen. Eine ethische Bewertung geht über diese Basis hinaus. Vor acht Jahren wurde ein in einem vom Bundesforschungsministerium geförderten Projekt ein Modell zur ethischen Evaluation soziotechnischer Arrangements entwickelt, kurz Meestar genannt. Darin sind eine Reihe von Punkten zusammengefasst, die bei der Bewertung wichtig sein können. Das kann bei Medizinprodukten zum Beispiel die Frage der Gerechtigkeit betreffen: Bekommen das Produkt alle, die es brauchen, oder ist es nur für diejenigen zugänglich, die es sich leisten können? Oder es geht um Sicherheit: Wenn Ihnen ein Assistenzroboter als technisch ausgereiftes, erwiesenermaßen sicheres System gegenübersteht, sind Sie vielleicht begeistert. Doch man muss sich nur hinsetzen, um das Gegenüber vielleicht gar nicht mehr als vertrauenerweckend zu empfinden. Die Entwickler sollen anhand von Meestar idealerweise selbst die Punkte aus dem Modell erkennen können, die für ihr Produkt relevant sind.

Was könnte es für den Markt und für die Entwicklung der Medizintechnik bedeuten, wenn Ethik eine größere Rolle spielt?

Ich glaube nicht, dass sich im Markt viel verändern würde. Sinnvoll wären Zertifikate, um zu belegen, dass ethische Überlegungen in die Entwicklung eines Produktes eingeflossen sind. Natürlich wird es Unternehmen geben, die so etwas im Sinne eines Ethical Greenwashing missbrauchen. Aber ich gehe davon aus, dass diejenigen überwiegen werden, die es ernst damit meinen und wirklich etwas voranbringen wollen. Spannender sind die möglichen Veränderungen in der Aus- und Weiterbildung, die schon ins Curriculum eines Studiums einfließen können. Das würde Ingenieure in die Lage versetzen, ethische Entscheidungen zu begründen und auch zu verantworten.

Wie sehen Sie die Perspektive für die kommenden Jahre?

Die technische Entwicklung wird rasant voranschreiten. Daher wäre jetzt der richtige Zeitpunkt, die ethischen Themen so schnell wie möglich anzugehen. Ein „Laufenlassen“ des technischen Fortschritts wäre im Prinzip auch schon eine Entscheidung: dafür, am Ende mit möglichen Ergebnissen leben zu müssen, die man vielleicht lieber verhindert hätte. Technik funktioniert auch nicht ohne Wirtschaft, und ein renditegetriebenes Unternehmen kommt bei einem Thema wahrscheinlich zu anderen Entscheidungen als ein staatlich gefördertes Forschungsprojekt. Mit diesen verschiedenen Standpunkten ist zu rechnen, damit muss man klarkommen. Nationale, internationale oder gar globale Standards zu entwickeln, wäre eine Möglichkeit, diese Vielfalt an Standpunkten in Bahnen zu lenken.


Über den DGBMT-Fachausschuss Medizintechnik und Gesellschaft

Die Mitglieder des Fachausschusses Medizintechnik und Gesellschaft untersuchen ethische, ökonomische, politische und rechtliche Aspekte der Medizintechnik beziehungsweise der Hochtechnologiemedizin. Der Schwerpunkt liegt darauf, die Wechselbeziehungen mit der Gesellschaft zu betrachten.

Die Erkenntnisse und Problemstellungen werden den Akteuren in der Medizin, der medizintechnischen Forschung, der medizintechnischen Industrie und der interessierten und potenziell betroffenen Öffentlichkeit zugänglich gemacht, über Veranstaltungen und Publikationen.

Bei den Dresdener Palaisgesprächen laufen zwei Stränge im Tandem, einer mit dem Schwerpunkt auf technische Entwicklungen, ein zweiter, bei dem rechtliche, soziale, ethische und historische Fragen im Vordergrund stehen. Im Herbst 2020 erscheint in der Publikationsreihe Health Academy ein Konzeptband zur Ethik. Darin äußern sich Wissenschaftler, Vertreter des Ethikrates sowie von Ethikkommissionen und Fachleute vom VDI und beschreiben ihre Sichtweise auf ethische Fragen. Darüber hinaus werden in eigenen Kapiteln ausgewählte ethische Fragen wie die Folgen von permanentem Monitoring, der Ambivalenz zwischen Assistenz und Bevormundung durch Technik oder der Bedeutung intelligenter Implantate für den Patienten betrachtet.

Auch die Rezeption der Medizintechnik und Hochtechnologiemedizin in der Kunst, vornehmlich der Malerei, der Graphik und der Literatur ist ein Thema, das im Fachausschuss bearbeitet wird.

www.vde.com/de/dgbmt/arbeitsgebiete/fachausschuesse/medizintechnik-gesellschaft

Weitere Informationen

Neuer Sammelband zu den Horizonten Integrierter Forschung für künftige Mensch-Technik-Verhältnisse:

https://www.technik-zum-menschen-bringen.de/service/aktuelles/das-geteilte-ganze

Mehr zum Thema Ethik in der Medizin

Künstliche Intelligenz für die Medizin muss ethisch gut gemacht sein


Mehr zum Thema Digitalisierung
Anzeige
Aktuelle Ausgabe
Titelbild medizin technik 5
Ausgabe
5.2020
LESEN
ABO
Titelthema: Ethik für Medizinprodukte mit KI

Ethische Fragen nicht im Nachhinein betrachten, sondern schon in der Entwicklung berücksichtigen

Newsletter

Jetzt unseren Newsletter abonnieren

Alle Webinare & Webcasts

Webinare aller unserer Industrieseiten

Aktuelles Webinar

Multiphysik-Simulation

Medizintechnik: Multiphysik-Simulation

Whitepaper

Whitepaper aller unserer Industrieseiten

Kalender

Termine für die Medizintechnik-Branche

Anzeige
Anzeige

Industrie.de Infoservice
Vielen Dank für Ihre Bestellung!
Sie erhalten in Kürze eine Bestätigung per E-Mail.
Von Ihnen ausgesucht:
Weitere Informationen gewünscht?
Einfach neue Dokumente auswählen
und zuletzt Adresse eingeben.
Wie funktioniert der Industrie.de Infoservice?
Zur Hilfeseite »
Ihre Adresse:














Die Konradin Verlag Robert Kohlhammer GmbH erhebt, verarbeitet und nutzt die Daten, die der Nutzer bei der Registrierung zum Industrie.de Infoservice freiwillig zur Verfügung stellt, zum Zwecke der Erfüllung dieses Nutzungsverhältnisses. Der Nutzer erhält damit Zugang zu den Dokumenten des Industrie.de Infoservice.
AGB
datenschutz-online@konradin.de