Prüfverfahren, die als Basis für technische Standards und Normen für künstliche Intelligenz dienen können, sollen entwickelt werden: Dafür wurde eine Kooperationsvereinbarung aufgesetzt, die die Entwicklung einer KI-Zertifizierung „Made in Germany“ voranbringen soll. Zusammenarbeiten wollen dazu das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS. Als erstes Vorhaben im Rahmen der Kooperation startet Anfang 2021 das Flagship-Projekt „Zertifizierte KI“ der Kompetenzplattform KI.NRW. Im Projekt legen unter anderem Unternehmen die Bedarfe an Prüfverfahren fest und führen Pilotprüfungen durch.
Wettbewerbsvorteile nur mit vertrauenswürdiger KI
Künstliche Intelligenz (KI) ist heute schon eine wichtige Schlüsseltechnologie. Intelligente Systeme können in nahezu allen Lebensbereichen eingesetzt werden und erledigen viele Aufgaben schneller und zuverlässiger als der Mensch. Damit Unternehmen damit entscheidende Wettbewerbsvorteile erzielen können, sollen KI-Systeme aber vertrauenswürdig sein und verlässlich funktionieren. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen. Auch Anwendern und Verbrauchern sollen sie Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.
Das BSI und das Fraunhofer IAIS ermöglichen mit ihrer Kooperationsvereinbarung die intensive Zusammenarbeit von Expertinnen und Experten, um technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren.
Akzeptierte KI ist das Ziel
„Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung“, sagt Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik BSI in Bonn. KI-Methoden würden zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt. Auch das BSI müsse sich als Gestalter einer sicheren Digitalisierung in Deutschland mit dem Thema befassen. Dabei unterstütze das BSI die Bundesregierung, um den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben.
„Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut“, ergänzt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer IAIS. „Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen.“ Erste Prüfungen mit Unternehmen seien für das kommende Jahr geplant.
Unternehmen an den Vorgaben zur Zertifizierung mit beteiligen
Im Flagship-Projekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird, arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen. Der breite Beteiligungsprozess soll sicherstellen, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln.
Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Experten des Fraunhofer IAIS im vergangenen Jahr im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftlern aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Die Ergebnisse wurden 2019 in dem Whitepaper „Vertrauenswürdiger Einsatz von Künstlicher Intelligenz“ publiziert.
Über das Fraunhofer IAIS
Am Fraunhofer IAS forschern rund 300 Mitarbeiter auf den Gebieten Künstliche Intelligenz, Maschinelles Lernen und Big Data. www.iais.fraunhofer.de/de/forschung/bereiche/kuenstlicheintelligenz/ki-zertifizierung.html
Über das BSI
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) gestaltet Informationssicherheit in der Digitalisierung und ist Cyber-Sicherheitsbehörde des Bundes. Seit der Gründung 1991 hat sich das BSI zu einem Kompetenzzentrum für Fragen der Informationssicherheit entwickelt.
www.bsi.bund.de
Über KI.NRW
Die Kompetenzplattform KI.NRW soll Nordrhein-Westfalen zu einem bundesweit führenden Standort für angewandte Künstliche Intelligenz (KI) machen.
https://www.ki.nrw/
Wissenschaftliche Ansprechpartner:
Dr. Maximilian Poretschkin
E-Mail:maximilian.poretschkin@iais.fraunhofer.de
Mehr zum Thema Digitalisierung in der Medizintechnik
