Im April dieses Jahres hatten in den USA bereits 26 KI-Produkte eine Zulassung der FDA, so die Zählungen von Eric Topol, Direktor der US-Forschungseinrichtung Scripps Research Translational Institute. Dazu gehört beispielsweise ein tragbares Messgerät von Current Health, das verschiedene Vitalparameter eines Patienten mit chronisch obstruktiver Lungenerkrankung und Herzinsuffizienz misst und aufzeichnet. Mittels Machine Learning werden in Echtzeit eventuelle problematische Veränderungen in den Daten erkannt. Auch eine App von Viz.ai zur Erkennung eines möglichen Schlaganfalls hat bereits die FDA-Zulassung erhalten.
FDA veröffentlicht Entwurf
Allerdings hat sie nun erst den Entwurf für ein „Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML))-Based Software as a Medical Device (SaMD)“ veröffentlicht. Es geht also um einen Rechtsrahmen, der speziell auf die Entwicklung sicherer und wirksamer Medizinprodukte zugeschnitten ist, die fortschrittliche Algorithmen für künstliche Intelligenz verwenden. Mit der Veröffentlichung dieses Diskussionspapiers macht die FDA den ersten Schritt zur Entwicklung eines neuartigen und maßgeschneiderten Ansatzes, der Entwicklern hilft, Geräte mit künstlicher Intelligenz auf den Markt zu bringen.
Die Technologien für künstliche Intelligenz, für die die FDA bislang eine Genehmigung für das Inverkehrbringen erteilt hat, werden im Allgemeinen als „gesperrte“ Algorithmen bezeichnet, die sich bei jeder Verwendung des Algorithmus nicht kontinuierlich anpassen oder lernen. Gesperrte Algorithmen werden vom Hersteller in Intervallen geändert. Dazu gehört das „Trainieren“ des Algorithmus unter Verwendung neuer Daten, gefolgt von der manuellen Überprüfung und Validierung des aktualisierten Algorithmus.
Besonderes Augenmerk auf adaptive Algorithmen
Daneben gibt es aber auch Algorithmen für maschinelles Lernen, die sich ständig weiterentwickeln und häufig als „adaptive“ oder „kontinuierlich lernende“ Algorithmen bezeichnet werden. Sie müssen nicht manuell geändert werden, um Lernvorgänge oder Aktualisierungen zu integrieren. Adaptive Algorithmen können aus neuen Benutzerdaten lernen, die dem Algorithmus durch reale Verwendung präsentiert werden. Zum Beispiel könnte laut FDA ein Algorithmus Brustkrebsläsionen in Mammographien erkennen, indem er kontinuierlich aus dem tatsächlichen Gebrauch und Feedback lernt. Vor allem hier will die FDA mit ihrem Vorschlag für ein KI-Rahmenwerk sicherstellen, „dass die Vorteile dieser fortschrittlichen Technologien die Risiken für die Patienten überwiegen“.
„Wir suchen nach einem Framework, mit dem Änderungen an Algorithmen vorgenommen werden können, die sich aus dem Lernen und der Anpassung in der Praxis ergeben, während gleichzeitig die Sicherheit und Wirksamkeit der Software als medizinisches Gerät gewahrt bleibt“, so FDA-Kommissar Scott Gottlieb. Ein neuer Ansatz für diese Technologien würde berücksichtigen, dass die Algorithmen in der realen Welt gelernt und angepasst werden müssen. „Es wäre passgenauer als unser bestehendes regulatorisches Paradigma für Software als Medizinprodukt.“
Bei herkömmlicher Software als Medizinprodukt muss ein Sponsor bei Änderungen, die die Sicherheit oder Wirksamkeit des Geräts erheblich beeinträchtigen könnten, einen Nachweis über die Sicherheit und Wirksamkeit der Änderungen erbringen. „Mit künstlicher Intelligenz arbeiten wir daran, ein geeignetes Framework zu entwickeln, das es der Software ermöglicht, ihre Leistung zu verbessern und gleichzeitig sicherzustellen, dass Änderungen unserem Goldstandard hinsichtlich Sicherheit und Effektivität während des gesamten Produktlebenszyklus – vom Design vor dem Markteintritt bis zur Verwendung des Geräts auf dem Markt – entsprechen.“
Die FDA-Ideen seien der erste Schritt zur Entwicklung eines Gesamtansatzes für den Produktlebenszyklus zur Regulierung dieser Algorithmen, die reale Daten zur Anpassung und Verbesserung verwenden.
Lob für konkrete Ansätze im Entwurf
Nach Angaben des Johner Instituts hat die FDA mit dem Papier einen „guten ersten Entwurf vorgelegt“. „Das Konzept der FDA auf Basis von vorab genehmigten Verfahren zu Änderungen der Algorithmen auf eine Neueinreichung gegebenenfalls zu verzichten, hat seinen Charme“, lobt Prof. Christian Johner in seinem Blog. „Soviel Konkretheit sucht man auf Seiten der europäischen Gesetzgeber und Behörden vergeblich.“
Bis Anfang Juni hatten Unternehmen, Institute und andere Interessenvertretungen Zeit, ihr Feedback zu diesem Diskussionspapier abzugeben. Auf der Basis dieser Rückmeldungen will die FDA in einem nächsten Schritt einen Leitlinienentwurf erarbeiten.
Zum FDA-Vorschlag: http://hier.pro/KUW5W
Mehr Artikel zum Thema KI in der Medizin:
KI in der Medizin ( Juni 2019)
Künstliche Intelligenz: Sieht Dr. Algorithmus tatsächlich mehr?
Interview mit Prof. Alena Buyx zu Ethik und KI in der Medizin ( September 2019)
Künstliche Intelligenz für die Medizin muss ethisch gut gemacht sein
