Sobre a eficiência da ética como ferramenta de governança da inteligência artificial

Abstract

A 4ª Revolução Industrial é o culminar da era digital. Atualmente, tecnologias como robótica, nanotecnologia, genética e inteligência artificial prometem transformar nosso mundo e a maneira como vivemos. O campo da Segurança e da Ética da Inteligência Artificial (IA) são áreas de pesquisa emergentes que vêm ganhando popularidade nos últimos anos. Diversas organizações de cunho privado, público e não governamentais têm publicado diretrizes propondo princípios éticos para a regulamentação do uso e desenvolvimento de sistemas inteligentes autônomos. Meta-análises do campo de pesquisa em Ética da IA apontam uma convergência sobre certos princípios éticos que, supostamente, governam a indústria da IA. Entretanto, pouco se sabe sobre a eficiência desta forma de “Ética”. Neste estudo, gostaríamos de realizar uma análise crítica do atual estado da Ética da IA, e sugerir que essa forma de governança baseada em diretrizes éticas principialista não é suficiente para normatizar a indústria da IA e seus desenvolvedores. Acreditamos que drásticas mudanças sejam necessárias, tanto nos processos de formação de profissionais das áreas ligadas ao desenvolvimento de software e sistemas inteligentes quanto no aumento da regulamentação desses profissionais e sua indústria. Para tanto, sugerimos que o Direito se beneficie das contribuições recentes da Bioética, de forma a explicitar em termos legais as contribuições da Ética da IA para a governança.

Ethics in AI: how software development companies in Brazil deal with the ethical implications of AI technologies

“…Based on the ART framework proposed by [Vakkuri et al 2019] and on previous research on AI ethics governance (e.g. [Piteira et al 2019, Carrillo 2020, Rossetti and Angeluci 2021, Corrêa et al 2022), we proposed a questionnaire to be applied to AI software development companies in Brazil. We examined the current state of ethics implementation, considering the lack of laws and responsible regulatory bodies in Brazil.…”

“…Building on the ART framework and on previous research on AI ethics governance, such as [Piteira et al 2019, Carrillo 2020, Corrêa et al 2022, we prepared a questionnaire aiming to deepen our understanding of the principles of accountability, responsibility and transparency in companies of software development in Brazil.…”

“…Although there are codes of ethics with general guidelines for professional software developers, such as the documents proposed by ACM 4 and IEEE 5 , and there is an extensive literature indicating the ethical aspects that must be taken into account when developing AI systems (e.g. [Larson et al 2016, Etzioni and Etzioni 2017, McNamara et al 2018, Piteira et al 2019, Vakkuri et al 2019, Garcia 2020, Rossetti and Angeluci 2021, Corrêa et al 2022, the gap between research and practice in the area remains a challenge, as revealed by the case study carried out by [McNamara et al 2018], that indicates the lack of importance of these ethical codes in ethical decision making.…”

“…In Brazil, specifically, little is known about software development practices in the context of AI implications, as empirical research in the area are currently scarce. In addition, due to the lack of regulation in software developer profession, studies such as [Corrêa et al 2022] suggest that the existing development codes of ethics do not have effect on the decision-making of developers and stakeholders, since these practices are not supervised by any regulatory body.…”

Living well with AI: Virtue, education, and artificial intelligence

“…While consequentialist ethics have some defenders, principlist approaches are dominant in technology ethics (q.v. Corrêa et al, 2022; Kohno et al, 2023). Given the length of this article, and the dominance of principlist approaches in professional ethics (e.g.…”