Die größte Verwundbarkeit ist die Unwissenheit

Über eine gesetzliche Pflicht der Schaffung von Nachvollziehbarkeit künstlich intelligenter Entscheidungen

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

I. Einleitende Worte

In dem Beitrag „Das dritte Ich“ in der Recht innovativ 02/2018 wurde gefordert, dass Entscheidungen künstlich intelligenter Systeme nachvollziehbar sein müssen. Etwas vorhersehbar Unvorhersehbares dürfe nicht verselbständigt in den Rechtsverkehr entlassen werden. Jemand, aber nicht die Maschine selbst, müsse für eventuell schadhafte Folgen haftbar sein. Um Ansprüche an die negativen Folgen von Entscheidungen künstlich intelligenter Systeme zu knüpfen, müssen diese Entscheidungen auf einen Fehler oder ein Fehlverhalten zurückführbar sein, welche wiederum einem Haftungssubjekt zuordenbar sein müssen. Die Herstellung künstlich intelligenter Systeme und das Angebot von Leistungen basierend auf künstlich intelligenten Systemen dürfen nicht der Entziehung oder gar Verschleierung von Verantwortlichkeit dienen, so wie es die Schaffung einer elektronischen Person im Ergebnis erlauben würde. Die Nachvollziehbarkeit der Entscheidungen künstlich intelligenter Systeme ist von gesellschaftlicher Notwendigkeit, denn die fehlende Nachvollziehbarkeit schafft Vulnerabilität von unbekanntem Ausmaß. Künstlich intelligente Systeme werden unsere Zukunft stark beeinflussen, deswegen dürfen sie diese nicht einseitig bestimmen.

Das deutsche Recht bietet bereits einen hinreichenden Rechtsrahmen zur Beurteilung der zivilrechtlichen und strafrechtlichen Haftung. Eine solche Beurteilung ist jedoch überhaupt erst möglich, wenn eine schadenauslösende Entscheidung, basierend auf reinen Rechenvorgängen, einem Verantwortlichen zugeordnet werden kann. Dieser Beitrag soll daher der Frage nachgehen, wie eine konkrete, gesetzliche Pflicht der Herstellung von Nachvollziehbarkeit künstlich intelligent zustande gekommener Entscheidungen umgesetzt werden könnte. Artikel vollständig lesen

Vertragsfragen im Zusammenhang mit KI

Dieser Artikel ist Teil der Artikelreihe „Künstliche Intelligenz”.

I. Einleitung

Anfang des Jahres 2017 warf ein Vorfall bei der Verwendung von Amazons „Echo“ die Frage nach der Verantwortlichkeit von über virtuelle Assistenten ausgeführte Bestellungen auf: Ein Nachrichtensprecher erzählte von einem Kind, das mit „Alexa“ sprach und dabei versehentlich ein Puppenhaus und dänische Butterkekse bestellte. Seine Beschreibung dieses Vorgangs führte wiederum in den Haushalten, die das Echo verwendeten und die Nachrichtensendung verfolgten, dazu, dass Alexa auch dort versuchte, ein Puppenhaus zu bestellen.

Automatisiert agierende, virtuelle Assistenten wie „Alexa“ helfen uns, unkompliziert und sprachgesteuert Bestellungen im Netz zu tätigen. Stärker automatisierte Systeme, wie der „Instant Ink“ Tinten-Lieferservice von HP, nehmen Bestellungen sogar ohne konkrete menschliche Interaktion vor, agieren dabei aber jedenfalls noch nach voreingestellten Bedingungen. Gänzlich autonom agierende Systeme werden aller Voraussicht nach künftig auch ohne derartige Voreinstellungen in der Lage sein, Entscheidungen für ihren Inhaber zu treffen. So wird dem autonomen Kühlschrank zwar auch ein Ziel vorgegeben. Er wird allerdings nicht aufgrund vorherig festgelegter, deterministischer Parameter tätig, sondern gibt sich eigene Regeln. Der autonome Kühlschrank, der mit den restlichen Smart Devices seines Inhabers vernetzt ist, kann den digital geführten Kalender abrufen und bei dort vermerkten Ereignissen durch die Bildung eigener Algorithmen entsprechend reagieren. Auf diese Weise ermittelt der Kühlschrank, welche Lebensmittel er wann in welcher Menge ordern muss, prüft deren Verfügbarkeit bei verschiedenen Online-Lieferservices, vergleicht Preise und Lieferzeiten und tätigt die Bestellung.

Künstliche Intelligenz und maschinelles Lernen bilden die technischen Grundlagen, die es einem System erst erlauben, automatisiert oder autonom zu agieren. Die rechtlichen Grundlagen, die die Einbindung automatisiert oder autonom agierender Systeme in Rechtsgeschäfte ihrer Inhaber konkretisieren, stehen weitestgehend noch zur Diskussion. Der vorliegende Artikel wirft einen Blick auf Vertragsfragen im Zusammenhang mit KI. Artikel vollständig lesen