« Pardonnez cette platitude » : de l’intérêt des ethnographies de laboratoire pour l’étude des processus algorithmiques

Jaton, Florian

doi:10.3917/zil.005.0315

Cited by 13 publications

(5 citation statements)

References 0 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Machine learning (ML) algorithms—computerized methods of calculation that infer rules of computation from sets of data to make predictions and support decision-making tasks—are now powering many commonly used devices such as Web search engines (Richardson et al., 2006), social media applications (Hazelwood et al., 2018), online purchasing platforms (Portugal et al., 2018), and surveillance systems (Chokshi, 2019). In reaction to the growing ubiquity of these statistical methods of computation—that have greatly participated in the resurrection of artificial intelligence (AI)—scholars in Science and Technology Studies (STS) 1 have accounted for some of their constitutive relationships (Bechmann and Bowker, 2019; Crawford, 2021; Grosman and Reigeluth, 2019; Jaton, 2017, 2019, 2021; Neyland, 2019). By providing fine-grained depictions of ML algorithmic systems, these works have effectively acted as provisional countermeasures to the promotional rhetoric of AI over-enthusiasts and provided seminal means for greater governance of algorithmic systems (Radfar, 2019; Shellenbarger, 2019).…”

Section: Introductionmentioning

confidence: 99%

Assessing biases, relaxing moralism: On ground-truthing practices in machine learning design and application

Jaton

2021

Big Data & Society

Self Cite

View full text Add to dashboard Cite

This theoretical paper considers the morality of machine learning algorithms and systems in the light of the biases that ground their correctness. It begins by presenting biases not as a priori negative entities but as contingent external referents—often gathered in benchmarked repositories called ground-truth datasets—that define what needs to be learned and allow for performance measures. I then argue that ground-truth datasets and their concomitant practices—that fundamentally involve establishing biases to enable learning procedures—can be described by their respective morality, here defined as the more or less accounted experience of hesitation when faced with what pragmatist philosopher William James called “genuine options”—that is, choices to be made in the heat of the moment that engage different possible futures. I then stress three constitutive dimensions of this pragmatist morality, as far as ground-truthing practices are concerned: (I) the definition of the problem to be solved (problematization), (II) the identification of the data to be collected and set up (databasing), and (III) the qualification of the targets to be learned (labeling). I finally suggest that this three-dimensional conceptual space can be used to map machine learning algorithmic projects in terms of the morality of their respective and constitutive ground-truthing practices. Such techno-moral graphs may, in turn, serve as equipment for greater governance of machine learning algorithms and systems.

show abstract

Section: Introductionmentioning

confidence: 99%

Assessing biases, relaxing moralism: On ground-truthing practices in machine learning design and application

Jaton

2021

Big Data & Society

Self Cite

View full text Add to dashboard Cite

show abstract

“…Berne : OFSP. 6 Ces problèmes sont proches de ceux qui ont motivé le projet des ethnographies de laboratoire pour étudier la science « en train de se faire » (Latour, 2005) ou, plus récemment, la constitution des algorithmes (Jaton, 2019) ou le travail des experts (Granjou et Barbier, 2010). conséquent, ces recherches passent à côté d'une prise nécessaire pour débattre des modalités de la production de l'éthique.…”

Section: Un Objet (Cependant) Encore Peu éTudiéunclassified

Observer l’éthique en train de se faire pour une approche pragmatique des commissions d’éthique de la recherche

Gouilhers¹,

Riom²

2019

rac

View full text Add to dashboard Cite

Distribution électronique Cairn.info pour S.A.C.. © S.A.C.. Tous droits réservés pour tous pays.La reproduction ou représentation de cet article, notamment par photocopie, n'est autorisée que dans les limites des conditions générales d'utilisation du site ou, le cas échéant, des conditions générales de la licence souscrite par votre établissement. Toute autre reproduction ou représentation, en tout ou partie, sous quelque forme et de quelque manière que ce soit, est interdite sauf accord préalable et écrit de l'éditeur, en dehors des cas prévus par la législation en vigueur en France. Il est précisé que son stockage dans une base de données est également interdit. Powered by TCPDF (www.tcpdf.org) Document téléchargé depuis www.cairn.info ---44.224.250.200 -07/07/2020 22:46 -© S.A.C. Document téléchargé depuis www.cairn.info ---44.224.250.200 -07/07/2020 22:46 -© S.A.C. Revue d'anthropologie des connaissances -2019/2 503 Dossier : « Éthique De la recherche » observer l'Éthique en train De se faire Pour une approche pragmatique des commissions d'éthique de la recherche solène GOUILHERS loïc RIOM RÉSUMÉLes commissions d'éthique de la recherche (CER) focalisent une part importante des débats sur l'éthique de la recherche. Pourtant, peu de travaux ethnographiques se sont intéressés à leur travail. En développant une approche pragmatique des CER, cet article cherche à reconsidérer la manière d'appréhender ce débat en pensant l'éthique de la recherche comme un processus en train de se faire. Il s'appuie pour cela sur une enquête ethnographique menée auprès de la CER d'un canton suisse. Dans un premier temps, l'article s'intéresse aux modalités du travail de la CER. Celle-ci fonctionne comme une agence collective d'évaluation des projets de recherche soumis. Elle mobilise différents équipements qui lui donnent prise sur ces projets. Dans un deuxième temps, l'article s'attache à qualifier le travail de la CER. Pour produire des décisions robustes, elle articule une pluralité d'appuis parfois en friction. En conclusion, nous revenons sur les apports d'une approche pragmatique pour saisir et comprendre le travail de production de l'éthique de la recherche, mais également pour mettre en discussion ses modalités. Mots clés : éthique de la recherche, pragmatisme, recherche scientifique, commission d'éthique de la recherche, ethnographie

show abstract

“…For about ten years, inquiries in Science & Technology Studies (STS) have documented the constitutive relationships of machine learning or artificial intelligence (AI) algorithms, which are probabilistic models that infer calculation rules from sets of data (e.g. Hoffmann, 2017; Jaton, 2019 ; Lee, 2021 ). Among these social inquiries, some have focused on the material infrastructure required for the constitution of new algorithms ( Crawford, 2021 ; Jaton, 2021a ), especially in terms of data work and annotation ( Gray & Suri, 2019 ; Tubaro et al, 2020 ).…”

Section: Introductionmentioning

confidence: 99%

Groundwork for AI: Enforcing a benchmark for neoantigen prediction in personalized cancer immunotherapy

Jaton

2023

Soc Stud Sci

Self Cite

View full text Add to dashboard Cite

This article expands on recent studies of machine learning or artificial intelligence (AI) algorithmsthat crucially depend on benchmark datasets, often called ‘ground truths.’ These ground-truth datasets gather input-data and output-targets, thereby establishing what can be retrieved computationally and evaluated statistically. I explore the case of the Tumor nEoantigen SeLection Alliance (TESLA), a consortium-based ground-truthing project in personalized cancer immunotherapy, where the ‘truth’ of the targets—immunogenic neoantigens—to be retrieved by the would-be AI algorithms depended on a broad technoscientific network whose setting up implied important organizational and material infrastructures. The study shows that instead of grounding an undisputable ‘truth’, the TESLA endeavor ended up establishing a contestable reference, the biology of neoantigens and how to measure their immunogenicity having slightly evolved alongside this four-year project. However, even if this controversy played down the scope of the TESLA ground truth, it did not discredit the whole undertaking. The magnitude of the technoscientific efforts that the TESLA project set into motion and the needs it ultimately succeeded in filling for the scientific and industrial community counterbalanced its metrological uncertainties, effectively instituting its contestable representation of ‘true’ neoantigens within the field of personalized cancer immunotherapy (at least temporarily). More generally, this case study indicates that the enforcement of ground truths, and what it leaves out, is a necessary condition to enable AI technologies in personalized medicine.

show abstract

« Pardonnez cette platitude » : de l’intérêt des ethnographies de laboratoire pour l’étude des processus algorithmiques

Cited by 13 publications

References 0 publications

Assessing biases, relaxing moralism: On ground-truthing practices in machine learning design and application

Assessing biases, relaxing moralism: On ground-truthing practices in machine learning design and application

Observer l’éthique en train de se faire pour une approche pragmatique des commissions d’éthique de la recherche

Groundwork for AI: Enforcing a benchmark for neoantigen prediction in personalized cancer immunotherapy

Contact Info

Product

Resources

About