Big Data et quantification de soi : La gouvernementalité algorithmique dans le monde numériquement administré

Abstract

This article aims to discuss, from a critical theory perspective, the apparent paradox between the ability to monitor and control made possible by Big Data and the belief in the latter’s emancipatory potential. The goal is to assess to what extent the data, tools and methods characteristic of Big Dataconstitute self-regulation processes that are similar to a dynamics of governance and surveillance. We will analyze this phenomenon on the basis of two concepts inherited from the critical tradition in social science, namely that of the administered world as formulated by the Frankfurt School theorists, and that of governmentality as developed by Michel Foucault.Cet article a pour objectif de discuter, du point de vue de la théorie critique, de cet apparent paradoxe entre les capacités de contrôle et de surveillance rendues possibles par le Big Data et la croyance en son potentiel émancipateur. Il s’agit d’évaluer dans quelle mesure les données, outils et méthodes caractéristiques du Big Data constituent des processus d’autorégulation qui s’assimilent à une dynamique de gouvernance et de surveillance. Nous allons analyser ce phénomène à partir de deux notions héritées de la tradition critique en science sociale, soit celle de monde administré formulée par les théoriciens de l’École de Francfort, et celle de gouvernementalité développée par Michel Foucault.

From panopticon to heautopticon: A new form of surveillance introduced by quantified‐self practices

“…Ouellet et al () apply the Frankfurt School's administered world theory and Foucault's concept of governmentality to discuss the conflict between the emancipatory potential of QS and governmental institutions' desire to control people. The administered world theory offers a general critique of capitalist societies that views governments as coercive instruments of production and consumption behaviour.…”

“…Conversely, the governmentality concept captures governmental policies' intrusiveness into social life. Ouellet et al () argue that QS technologies increase governments' power by allowing surveillance and data collection.…”

“…Research points out a digitised individual (Matt, Trenz, Cheung, & Turel, ), a kind of data double (Haggerty & Ericson, ) that leaves traces every time the person uses the technology (Kunst & Vatrapu, ; Poster, ). Thus, researchers also view the QS as a threat to privacy (Lanzing, ; Lupton, ; Ouellet, Ménard, Bonenfant, & Mondoux, ). As Jensen and Draffan (, p. 56) state, “The transformation of living beings to numbers, or rather our own transformation from people who perceive others as willful beings with unique identities to subjects who perceive others as objects—whether through science, economics, or the issuing of identity numbers—is all about control.” Moreover, “the less control one has, the less empowered one is” (Tengland, , p. 35).…”

Éthique de l’intelligence artificielle et ubiquité sociale des technologies de l’information et de la communication : comment penser les enjeux éthiques de l’IA dans nos sociétés de l’information ?

“…Soulignons également que l'interprétation politique de la position informationaliste de l'EIA s'articule autour de quatre idées : une nouvelle définition du pouvoir, la déterritorialisation, la séparation de l'identité et de la cohérence ainsi que la remise en question continuelle du consentement (Floridi, 2015, p. 51). De telles considérations politiques, qu'il est impossible de développer ici davantage, font écho à l'approche des capabilités technologiques (Brey, 2010 ;Costa, 2016 ;Oosterlaken et van den Hoven, 2012 ;Stahl, 2007 ;Zheng et Stahl, 2011), mais aussi à la perspective critique politique, notamment par les analyses critiques des nouveaux pouvoirs algorithmiques (Ananny et Crawford, 2016 ;Andrejevic, 2013 ;Bucher, 2018 ;De Grosbois, 2018 ;Dean, 2009 ;Freitag, 2003 ;Morozov, 2013 ;Nissenbaum, 2010 ;Rouvroy et Berns, 2013 ;Susskind, 2018 ;Taylor 2014 ;Whittaker, 2019), les approches en théorie critique de la technologie (Feenberg, 1991(Feenberg, , 2010 et en théorie critique des TIC (George et Kane, 2015 ;Mondoux, 2011 ;Mondoux et Ménard, 2018 ;Ouellet, 2016 ;Ouellet et al, 2015). La position informationaliste sur les enjeux politiques de l'IA est complémentaire à la perspective critique politique.…”