Intelligente Agenten und das Strafrecht

Abstract

I. Intelligente Agenten-Potential und Risiko "Schuld ist der Algorithmus", meinte die Presse 1. Die Ehefrau eines früheren Bundespräsidenten hatte sich rechtlich dagegen zur Wehr gesetzt, dass ihr Name, wenn man ihn bei "google-search" eingab, automatisch mit Begriffen wie "Prostitution" oder "Escort Service" verbunden wurde. Diese Ergänzungen, die die Klägerin als beleidigend empfand, beruhten allerdings nicht auf individuellen Entscheidungen von Personen im Bereich der beklagten Firma, sondern auf den Funktionen "google-bot" und "google-autocomplete", die nach allgemein festgelegten Handlungsvorschriften Nutzeranfragen verarbeiten 2. Beide sind Beispiele für so genannte Intelligente Agenten 3 : Die Funktionen operieren nach bestimmten vorgegebenen Regeln, aber sie verarbeiten die Informationen (das Suchverhalten der Nutzer von Google) in jedem Einzelfall selbständig. Intelligente Agenten werdenin ihren unterschiedlichen Formen 4dort eingesetzt, wo die rasche Verarbeitung sehr vieler Informationen präzise Kombination und schnelle Reaktion erfordert, oder auch dort, wo der Einsatz physischer Kräfte gefordert ist, die die Möglichkeiten von Menschen übersteigen. Intelligente Agenten gibt es heute schon in vielen Lebensbereichen: Sie bestimmenin der recht einfachen Form eines Softwareagentenals Suchmaschinen im

Haftung für autonome Systeme

“…9 Das Verhalten der künstlichen Intelligenz lässt sich anders als früher bei "deterministischer" Software 10 nicht mehr genau vorhersagen. 11 Allerdings existieren in Ge stalt der Explainable AI durchaus Bestrebungen, das Verhalten von KI-Sys 2.1 temen zu erklären: 12 Damit soll der Lernvorgang des Systems selbst erklärt und nachvollzogen werden können, so dass auch die Vorhersage eines be stimmten Outputs durch das System wahrscheinlicher ist. 13 Damit rückt eine grundlegende juristische Frage in den Mittelpunkt des Interesses, nämlich ob angesichts der anthropozentrischen Sichtweise des Rechts, das auf Willensentschlüsse und Kognition abstellt, den offen bar "intelligenten" Systemen ein eigener Rechtsstatus zuerkannt werden muss.…”

Primer on an ethics of AI-based decision support systems in the clinic

“…With regard to evaluating the outputs of AI-DSS, there are thus informational asymmetries between patients and clinicians, and between clinicians and AI-DSS. Such black box issues make it almost impossible to assess risks adequately ex ante as well as to prove e x post which wrongful action has led to specific damage, thus hindering legal evaluation 37. This threatens to result in a form of ‘black-box medicine’38 in which the basis for a given output is not always sufficiently clear and thus complicates its evaluation in view of potential errors and biases of the system, arising, for example, from the quality and breadth of data it has been trained with.…”

“…Such black box issues make it almost impossible to assess risks adequately ex ante as well as to prove e x post which wrongful action has led to specific damage, thus hindering legal evaluation. 37 This threatens to result in a form of ‘black-box medicine’ 38 in which the basis for a given output is not always sufficiently clear and thus complicates its evaluation in view of potential errors and biases of the system, arising, for example, from the quality and breadth of data it has been trained with. On the one hand this is problematic from a legal point of view, as this could potentially lead to inadequate discrimination, 39 for example, when AI-DSS lead to varying levels of service quality for different populations.…”

Rechtliche Antworten auf die Künstliche Intelligenz im Mediensektor

“…Die Erscheinungsformen Künstlicher Intelligenz und ihre strategischen Ziele sind zu heterogen, um allein aus allgemeinen Überlegungen heraus Schlussfolgerungen für den Einzelfall zu ziehen. Stattdessen ist für die rechtliche Untersuchung nach den verschiedenen Ausprägungen schwacher KI zu differenzieren (Oster 2018b) Gleß & Weigend 2014, Denga 2018. Soweit die konkrete Reaktion des Programms hingegen bereits im Algorithmus determiniert ist, so ist von einem "automatischen" System zu sprechen (DIN 19233).…”