Für Künstliche Intelligenz (KI) gibt es den weltweit ersten nachprüfbaren Industriestandard, der es ermöglicht, die Sicherheit KI-basierter Systeme zu verifizieren: Die Norm VDE-AR-E 2842–61 „Entwurf und Vertrauenswürdigkeit von autonom/kognitiven Systemen“ ist als erstes detailliertes Framework zur Entwicklung vertrauenswürdiger KI-basierter Systeme konzipiert. Entwickelt wurde sie von der Deutschen Kommission Elektrotechnik Elektronik Informationstechnik (DKE). Beteiligt waren Experten des Forschungsinstituts Fortiss, dem Landesforschungsinstitut des Freistaats Bayern für softwareintensive Systeme.
Künstliche Intelligenz: Sicherheit ist aktuell das Thema
Künstliche Intelligenz gilt als Technologie der Zukunft, kennt bisher jedoch kaum klare Definitionen oder verbindliche Richtlinien. Dabei sind nachweisliche Sicherheit und verlässliche Standards wichtig, um das Vertrauen von Industrie und Verbrauchern in das immense Innovationspotenzial von KI nachhaltig zu stärken. So findet die erste Norm mit der nötigen fachlichen Tiefe bereits internationale Beachtung: In Japan möchte man die Norm unverändert übernehmen.
Neben Software und Hardware bietet KI als dritte digitale Technologiesäule große Potenziale für Innovationen, sei es für Mobilität, Medizin oder Ressourcenschutz. Die Herausforderungen liegen darin, gültige Sicherheitsstandards bereitzustellen und einzuhalten: Entwickler sind zwar in der Lage, ein vollautomatisiertes Auto zu bauen. Nachweisen, dass dieses Fahrzeug unter allen Umständen sicher ist, können sie derzeit aber noch nicht. Dadurch wird der Prozess von der Forschung über die Entwicklung bis hin zur Zulassung in vielen Fällen verlangsamt oder gehemmt.
Verlässlicher Sicherheitsstandard als Referenz für KI-Prüfsiegel
Diese Lücke hat das DKE mit der Anwendungsregel VDE-AR-E 2842–61 nun geschlossen. Die Norm setzt einen verlässlichen Sicherheitsstandard und berücksichtigt dabei den aktuellen Forschungs- und Entwicklungsstand. Die sechsbändige Veröffentlichung plus Anwendungsleitfäden ebnet den Weg für eine strukturierte und nachweislich sichere Entwicklung von KI-basierten Systemen und ist ein Referenz-Standard für KI-Prüfsiegel.
Nach der Veröffentlichung kann der Standard durch Praxisanwendungen und Erfahrungen weiter verbessert werden, auch um die effiziente Nutzung durch kleine und mittelständische Unternehmen zu gewährleisten.
Kontakt zu den Spezialisten:
Dr. Henrik Putzer
Kompetenzfeldleiter Trustworthy Autonomous Systems
Fortiss GmbH
Landesforschungsinstitut des Freistaats Bayern für softwareintensive Systeme
E-Mail: putzer@fortiss.org
