Expectations of artificial intelligence and the performativity of ethics: Implications for communication governance

Abstract

This article draws on the sociology of expectations to examine the construction of expectations of ‘ethical AI’ and considers the implications of these expectations for communication governance. We first analyse a range of public documents to identify the key actors, mechanisms and issues which structure societal expectations around artificial intelligence (AI) and an emerging discourse on ethics. We then explore expectations of AI and ethics through a survey of members of the public. Finally, we discuss the implications of our findings for the role of AI in communication governance. We find that, despite societal expectations that we can design ethical AI, and public expectations that developers and governments should share responsibility for the outcomes of AI use, there is a significant divergence between these expectations and the ways in which AI technologies are currently used and governed in large scale communication systems. We conclude that discourses of ‘ethical AI’ are generically performative, but to become more effective we need to acknowledge the limitations of contemporary AI and the requirement for extensive human labour to meet the challenges of communication governance. An effective ethics of AI requires domain appropriate AI tools, updated professional practices, dignified places of work and robust regulatory and accountability frameworks.

Social network analysis: New ethical approaches through collective reflexivity. Introduction to the special issue of Social Networks

“…With the recent boom in artificial intelligence (AI), tech companies have sparked the proliferation of ethical principles and guidelines. These emerging discourses surrounding 'ethical AI', 'unbiased algorithms' or 'privacy-preserving' data collection are, according to several analyses, performative in nature, as they fail to acknowledge the limitations of contemporary AI and the requirement to comply with strict accountability frameworks (Kerr, Barry and Kelleher, 2020). Especially high profile initiatives, such as Facebook's 2019 'Supreme Court' for content moderation (Ingram, 2020), have been criticised as examples of ethical washing mainly aimed at avoiding state regulation (Ochigame, 2019).…”

Sähköä ja alkemiaa: Tekoälydiskurssit Yleisradion verkkoartikkeleissa

“…Lisäksi nykyteknologioiden sulkeutunut luonne tekee vaikeaksi tunnistaa sen, mitkä käyttämämme sovellukset hyödyntävät tekoälyä ja mitkä eivät (Long ja Magerko 2020, 598). Ihmiset nimeävätkin itselleen tutuimmiksi pääosin sellaisia tekoälysovelluksia (itseohjautuvat autot, autonomiset robotit), joista heillä ei ole ensikäden kokemuksia (Kerr, Barry ja Kelleher 2020). Täten on perusteltua väittää, että yleinen käsitys tekoälyn luonteesta ja mahdollisuuksista muodostuu huomattavissa määrin sen perusteella, millaisena tekoäly kuvataan julkisessa keskustelussa (ks.…”

“…2008) mukaan miehet toimivat naisia useammin asiantuntijoina mediassa ja tämä pätee myös Suomeen: Niemen ja Pitkäsen (2017, 360) tutkimuksessa alle 30 prosenttia median käyttämistä asiantuntijoista oli naisia. Aiemman tutkimuksen perusteella tekoälyasiantuntijoina mediassa esiintyvät niin ikään pääsääntöisesti miehet (Fast ja Horvitz 2016;Kerr, Barry ja Kelleher 2020;Piikkilä 2020).…”

“…Esimerkiksi hallitusten, tutkimuslaitosten sekä teknologiakonsulttien medialausunnoissa tekoäly kuvataan usein myönteisessä valossa (Brennen ym. 2020;Kerr, Barry ja Kelleher 2020). Tämä havainto saa vahvistusta Ching-Hua Chuanin ja kollegoiden (2019) tutkimuksesta, jonka mukaan talouden näkökulmasta aihetta käsittelevät artikkelit antavat tekoälystä muita teemoja huomattavasti useammin yksipuolisen myönteisen kuvan.…”

“…Kuten artikkelin taustoituksessa esitimme, tekoälystä käytävä julkinen keskustelu vaikuttaa rakentuvan varsin kapeasti määritellyn asiantuntijaposition varaan (Brennen ym. 2017;Fast ja Horvitz 2016;Kerr, Barry ja Kelleher 2020;Piikkilä 2020). Niin ikään tekoälyn vaikutuksia kuvaavissa diskursseissa korostuvat spektaakkelinomaiset tulevaisuusvisiot (Cave ja Dihal 2019; Fast ja Horvitz 2016; Johnson ja Verdicchio 2017), joissa kuvatulla laajalla tekoälyllä ei ole aina paljoakaan yhteistä niihin suppeisiin tekoälymuotoihin, joiden kanssa ihmiset ovat päivittäin tekemisissä.…”