If Robots cause harm, Who is to blame? Self-driving Cars and Criminal Liability

Abstract

The fact that robots, especially self-driving cars, have become part of our daily lives raises novel issues in criminal law. Robots can malfunction and cause serious harm. But as things stand today, they are not suitable recipients of criminal punishment, mainly because they cannot conceive of themselves as morally responsible agents and because they cannot understand the concept of retributive punishment. Humans who produce, program, market, and employ robots are subject to criminal liability for intentional crime if they knowingly use a robot to cause harm to others. A person who allows a self-teaching robot to interact with humans can foresee that the robot might get out of control and cause harm. This fact alone may give rise to negligence liability. In light of the overall social benefits associated with the use of many of today’s robots, however, the authors argue in favor of limiting the criminal liability of operators to situations where they neglect to undertake reasonable measures to control the risks emanating from robots.

Issues relating to trust in care agents for the elderly

“…This is further complicated by the fact that the user may have limited cognitive function and may not understand the capabilities of the agent or have fully consented to its installation. This question somewhat mirrors issues around responsibility and liability in the self driving car industry [12,13].…”

Maschinenethik und strafrechtliche Verantwortlichkeit

“…Den heute vorherrschenden Vorstellungen folgend ist das nicht möglich, da Maschinen nicht als verantwortliche Agenten begriffen werden und daher nicht Adressaten einer Strafe sein können (vgl. Gless et al 2016). Wie lange sich diese traditionelle Annahme noch behaupten kann, ist allerdings fraglich, ist doch der Schuldvorwurfwie die zunehmende Verbreitung der Unternehmensstrafbarkeit in vielen Rechtsordnungen (wenn auch nicht in Deutschland) zeigtnicht ausschließlich Menschen vorbehalten .…”

“…Ist man beim Personenbegriff der idealistisch-philosophischen Annahme verpflichtet, dass nur als Person gelten könne, wer sich seiner Freiheit bewusst und reflexionsfähig sei, und sich ferner selbst als Entität mit Vergangenheit und Zukunft verstehen könne, muss schnell zum Schluss kommen, dass eine persönliche Verantwortung von Maschinen auszuschließen ist (vgl. Gless und Weigend 2014;Gless et al 2016). Diese Auffassung vernachlässigt allerdings den Umstand, dass sich auch der Personenbegriff alleine in der sozialen Wirklichkeit konstituiert.…”

“…Solche Vorsatztaten dürften wenig problematisch sein: Der Mensch dahinter bleibt strafrechtlich verantwortlich. Es handelt sich hierbei schlicht um einen bewussten Missbrauch intelligenter Agenten für kriminelle Zwecke (Günther 2015;Seher 2016;Gless et al 2016;. Schwieriger sind diejenigen Fälle, bei denen eine Maschine die Straftat "begeht", weil sie fehlerhaft programmiert wurde.…”

Smart Products: Liability, Timing of Market Introduction, and Investments in Product Safety

“…8 Galasso and Luo (2018a) discuss some general legal challenges for tort law in the age of AI. Moreover, Douma and Palodichuk (2012), Colonna (2012), Marchant and Lindor (2012), Schellekens (2015) and Gless et al (2016) contain legal discussions in the context of AVs in the United States. Moreover, the European Parliament has adopted a resolution containing suggestions how to establish legal rules for tort cases with AI tortfeasors (European Parliament, 2017).…”