In den Räumen des Amtsgerichts Frankfurt am Main wurde am 28. Juni das Urteil in einem sehr speziellen Fall verkündet: Echte Richter, Anwälte und Sachverständige agierten über Monate hinweg in einem simulierten Gerichtsverfahren. Sie verhandelten einen Präzedenzfall, der in Wirklichkeit frühestens in etwa einem Jahrzehnt vor Gericht kommen kann. Das Ziel: Das Beispiel soll zeigen, wie die Parteien bei Verträgen, die KI ohne Menschen schließt, zu ihrem Recht kommen.
In der Zukunft wird künstliche Intelligenz in der Industrie viele alltägliche Abläufe automatisieren. Ersatzteile und Rohstoffe lassen sich automatisch bestellen, wenn die Vorräte zur Neige gehen. Oder die KI beauftragt Unternehmen automatisch, Reparaturen auszuführen. Waren werden autonom ausgeliefert, LKWs smart beladen.
KI schließt Verträge: Was passiert laut Gesetz, wenn etwas schief geht?
Aber dabei werden aller Voraussicht nach auch Dinge schief gehen. Lieferungen kommen zu spät, gar nicht oder werden nicht benötigt. Dinge gehen kaputt, nehmen Schaden – das Spektrum der Möglichkeiten ist ebenso vielfältig wie heute. „Dann braucht die Industrie rechtssichere Lösungen dieser Streitfälle – sonst wird sich die künstliche Intelligenz wegen des hohen Risikos überhaupt nicht erst durchsetzen können“, sagt Prof. Georg Borges. Direktor des Instituts für Rechtsinformatik der Universität des Saarlandes. Er leitet im Projekt „Industrie 4.0 Legal Testbed“ die Simulationsstudie, die der Praxis als Vergleichsfall dient. „Nur wenn es gelingt, reale und virtuelle Welt wieder zusammenzubringen, können wir diese Rechtssicherheit gewährleisten“, so Borges.
(Bild: Iris Maurer/Universität des Saarlandes)
Gesetz und KI: Bei Industrie 4.0 ist die Rechtslage kompliziert
Ein Knackpunkt dabei sind Verträge, die völlig ohne Zutun des Menschen nur von Maschinen ausgehandelt und geschlossen werden. „Vertragsschlüsse mit Maschinen gibt es schon, man denke nur an die Warenautomaten. Allerdings ist in der Industrie 4.0 die Rechtslage ungleich komplizierter.“ Schon heute könnten Maschinen mit Maschinen kommunizieren und selbstständig Entscheidungen treffen, an denen kein Mensch mehr beteiligt sei. „Technisch ist es bereits möglich, dass Maschinen allein miteinander verhandeln, Verträge abschließen und Leistungen erbringen“, sagt der Saarbrücker IT-Rechtsexperte. Verträge könnten künftig durch so genannte Smart Contracts, also Software zur automatisierten Vertragsdurchführung, erstellt werden. In Kombination mit so genannter Blockchain-Technologie könne die Vertragsausführung kryptographisch gesichert und parallel auf mehreren Computer-Servern gespeichert und überwacht werden. Dadurch sei die Vertragsausführung vor Manipulationen sicher, die Rechtssicherheit werde gewahrt.
Aber auch hier wird es zu Rechtsstreiten kommen.
- Wer zahlt, wenn Maschinen irren?
- Wer trägt die Verantwortung für Schäden durch Maschinen?
- Wer haftet?
- Wie können Verträge vollständig automatisch rechtssicher ausgehandelt und abgewickelt werden?
- Wie steht es um IT-Sicherheit, Datenschutz und Nachweisbarkeit?
Einen solchen Fall, der so viel an offenen Fragen wie möglich enthält, hat Georg Borges erdacht. Praktikerinnen und Praktiker in Industrie und Recht sollen daraus besonders viele Erkenntnisse für künftige Rechtsfälle herausziehen können.
Patent Intelligence: Wer digitalisiert was in der Medizintechnik
Richter, Anwälte und Sachverständige stellen KI und Gesetze auf die Probe
In einer Simulationsstudie exerzierten jetzt Richter, Anwälte und Sachverständige diesen Musterfall durch, als sei er echt. Nur, dass hier alles offenliegt und die Thematik heute schon aufgezeigt und dokumentiert wird, samt Sachverständigengutachten und Beweislastproblemen. Für Industrie und Juristen demonstriert, das wie man in Zukunft
- seine Ansprüche, die auf solch smarten Verträgen beruhen, durchsetzen kann,
- wo die Risiken liegen,
- wie die Beweislast-Problematik aussieht
- und vieles mehr.
Solch einen Fall wird es nach Einschätzung der Fachleute „in echt“ erst in Jahren, frühestens wohl erst in einem Jahrzehnt, geben, bis die Technologie für smarte Verträge in der Praxis verbreitet ist. „Ziel dieser Simulationsstudie ist es, heute schon aufzuzeigen und nachvollziehbar zu machen, wie Rechtssicherheit in einer automatisierten und vernetzten Zukunft aussehen kann – ein Labor oder eine Art Sandbox für Industrie und Juristen also“, erklärt Rechtsinformatiker Georg Borges. Es sollen typische Rechtsprobleme aufgezeigt werden, an denen es haken könnte, damit zügig nachgebessert und entwickelt werden kann – und damit die Industrie dieser Technologie vertrauen und sie infolge auch einsetzen kann.
So ist der KI-Prozess dokumentiert
Über Tausend Stunden Arbeit stecken in diesem Projekt. Die Dokumentation umfasst einige Hundert Seiten und eine mehrstündige Filmaufnahme der simulierten Gerichtsverhandlung. Ein zusammenfassender Kurzfilm wird zur Urteilsverkündung gegen Mittag online veröffentlicht auf der Internetseite des Instituts für Rechtsinformatik.
https://www.rechtsinformatik.saarland
Hintergrund zum Projekt Industrie 4.0 Legal Testbed
Das Projekt leitet Georg Borges im Rahmen des Projekts „Industrie 4.0 Legal Testbed“ (legaltestbed.org), das vom Bundeswirtschaftsministerium mit mehreren Millionen Euro gefördert wird. Hier arbeitet ein interdisziplinäres Forschungskonsortium unter anderem an einem Softwareagenten, der vollautomatisiert Verträge abschließt. Beteiligt sind neben dem Institut für Rechtsinformatik der Universität des Saarlandes die Fraunhofer-Institute für Materialfluss und Logistik (IML) sowie für Software und Systems Engineering (ISST) und das Horst Görtz Institut für IT-Sicherheit der Ruhr-Uni Bochum (HGI).
Im Recht-Testbed entwickeln die Partner ein digitales Experimentierfeld für automatisierte Geschäftsprozesse. Das Recht-Testbed dient dazu, Politik und Unternehmen Handlungsempfehlungen für neue rechtliche Standards zu geben.
Alle Geschäftsprozesse im Blick
Die Forscherinnen und Forscher betrachten hierfür sämtliche Geschäftsprozesse und entwickeln technische Agenten, die vom automatisierten Kennenlernen über Vertragsverhandlungen bis hin zu Abschluss und Vertragsausführung alles rechtssicher unter Dach und Fach bringen.
Georg Borges und sein Team am Institut für Rechtsinformatik erarbeiten hierbei Lösungen für vertragliche, haftungsrechtliche und datenschutzrechtliche Aspekte sowie für Beweisfragen der Industrie 4.0 einschließlich der IT-Sicherheit und juristischen Bewertung im Rahmen des Zivilrechts.
Prof. Dr. Georg Borges:
E-Mail: ls.borges@uni-saarland.de
