Eine neue Projektausschreibung zur „Forensik intelligenter Systeme“ hat die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) am 8. September 2023 veröffentlicht. Mit dem Forschungsauftrag sollen Manipulationen an sich weiterentwickelnden intelligenten Systemen detektierbar und rechtssicher nachweisbar gemacht werden. Gelingen soll das mithilfe von neuen forensischen Methodiken und Tools.
Künstliche Intelligenz: Forensik ist laut Cyberagentur wichtig
Weil die forensische Untersuchung von KI-Systemen eine hohe Relevanz für die Strafverfolgung in Deutschland hat, sollen Unternehmen und Organisationen im Projekt mitarbeiten können. Das Projektteam um Lars-Martin Knabe als Projektleiter, Olivia Gräupner und Til Weißflog hat Akteure aus IT-Forensik, Künstlicher Intelligenz und Strafverfolgung aufgerufen, einen Teilnahmeantrag abzugeben. Das gemeinsame Ziel: Manipulationen an sich weiterentwickelnden intelligenten Systemen mithilfe von neuen forensischen Methodiken und Tools zu detektieren.
Das Projekt soll über einen Forschungszeitraum von vier Jahren laufen. Interessenten aus Hochschulen, Universitäten, Unternehmen, Start-ups und weiteren Institutionen können ihren Antrag bis zum 25. Oktober 2023 einreichen.
Künstliche Intelligenz für die Medizin muss ethisch gut gemacht sein
Projekt der Cyberagentur: Es geht um Bildverarbeitung, Textverarbeitung und autonome Systeme
Im Projekt betrachten die Beteiligten Anwendungsbereiche wie Bildverarbeitung, Textverarbeitung und autonome Systeme. Die Initiatoren erwarten wissenschaftlich untermauerte und bahnbrechende Ergebnisse innerhalb des Forschungsprojektes. Weiterhin geht es um rechtlich fundierte Erkenntnisse für
- das Aufdecken,
- die Sichtung und
- Analyse
von Spuren in KI-Systemen unterschiedlichster Art sowie die Schaffung von Tools.
Damit sollen im Falle von Manipulationen Tatbestände eines Verbrechens, Vergehens und maliziöser Handlungen etwaiger Täter feststellbar werden und geahndet werden können. Bei Erfolg sind aus den wissenschaftlich gewonnenen Erkenntnissen gesetzliche Rahmenbedingungen sowie Anforderungen und Standards zu formulieren und umzusetzen.
KI in der Medizin: Was Medical Device Regulation und der Artificial Intelligence Act fordern
Partnering ist offen für alle an Forensik und KI Interessierten
Weil diese Fragen zum Thema „Forensik intelligenter Systeme“ komplex sind, ist interdisziplinäre Forschung erforderlich. Sie ist die Grundlage der IT-Forensik. Um die Expertisen zu bündeln, können Interessenten in Konsortien zusammenarbeiten. In einem vorgeschalteten Partnering-Event haben sich schon im April 2023 erste Interessenten kennengelernt und erste Erfahrungen ausgetauscht. Die jetzige Ausschreibung sei aber über die Teilnahme an dem Partnering-Event hinaus offen für alle Interessenten, heißt es.
Durch rechtliche Beweisbarkeit und Nachvollziehbarkeit der KI oder anderer sich selbst weiter entwickelnder Systeme werden die Sicherheitsbehörden und Streitkräfte der Bundesrepublik Deutschland in die Lage versetzt, das Recht zu wahren und umzusetzen, welches die gesamte Breite der Gesellschaft repräsentiert. Die Systeme, die sich im Ergebnis aus dem Projekt entwickeln, könnten von den Polizeibehörden genutzt werden.
Im Supplement zum Amtsblatt der Europäischen Union wurde die Ausschreibung mit der Vergabenummer 2023/S 173–539245 veröffentlicht:
https://www.evergabe-online.de/tenderdetails.html?3&id=536409
Weitere Informationen:
https://www.cyberagentur.de/fis
https://www.cyberagentur.de/partnering-event-zu-unserem-forschungsprojekt-forens…
Über die Cyberagentur
Die Agentur für Innovation in der Cybersicherheit GmbH (Cyberagentur) wurde im Jahr 2020 als vollständige Inhouse-Gesellschaft des Bundes unter der gemeinsamen Federführung des Bundesministeriums der Verteidigung und des Bundesministeriums des Inneren und für Heimat durch die Bundesregierung gegründet. Das Ziel war, einen im Bereich der Cybersicherheit anwendungsstrategiebezogenen und ressortübergreifenden Blick auf die Innere und Äußere Sicherheit einzunehmen.
Vor diesem Hintergrund bezweckt die Arbeit der Cyberagentur maßgeblich eine institutionalisierte Durchführung von hochinnovativen Vorhaben, die mit einem hohen Risiko bezüglich der Zielerreichung behaftet sind, gleichzeitig aber ein sehr hohes Disruptionspotenzial bei Erfolg innehaben können.
Die Cyberagentur ist Bestandteil der Nationalen Sicherheitsstrategie der Bundesrepublik Deutschland.
Der Cyberagentur stehen Prof. Dr. Christian Hummert als Forschungsdirektor und Geschäftsführer sowie Daniel Mayer als kaufmännischer Direktor vor
