Digital Personae and Profiles as Representations of Individuals

Roosendaal, Arnold

doi:10.1007/978-3-642-14282-6_18

Cited by 5 publications

(4 citation statements)

References 6 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Several scholars have demonstrated how the technique of algorithmic profiling may undermine individual autonomy and self‐determination, and may risk subverting or antagonizing civil and political rights, such as the right to freedom from unfair discrimination (Ferraris et al ). Yet because profiling involves inferring a set of characteristics (typically behavioral) about an object of interest (Bygrave ), these profiles do not necessarily relate to any specific individual (Roosendaal ; Hildebrandt ) . Rather, they are algorithmic constructions, abstractions of an individual made up of fragments of correlated variables identified from a match between some of her attributes with the profiles inferred from masses of attributes from masses of individuals, which Amoore () calls “data derivatives.” In addition, the profiled individual is typically oblivious to how she is being profiled (or indeed that she is being profiled at all), and has no opportunity to understand the basis upon which assessments about her are made.…”

Section: The New Surveillance and The Rise Of Algorithmic Powermentioning

confidence: 99%

Algorithmic regulation: A critical interrogation

Yeung

2017

Regulation & Governance

302

200

View full text Add to dashboard Cite

Innovations in networked digital communications technologies, including the rise of “Big Data,” ubiquitous computing, and cloud storage systems, may be giving rise to a new system of social ordering known as algorithmic regulation. Algorithmic regulation refers to decisionmaking systems that regulate a domain of activity in order to manage risk or alter behavior through continual computational generation of knowledge by systematically collecting data (in real time on a continuous basis) emitted directly from numerous dynamic components pertaining to the regulated environment in order to identify and, if necessary, automatically refine (or prompt refinement of) the system's operations to attain a pre‐specified goal. This study provides a descriptive analysis of algorithmic regulation, classifying these decisionmaking systems as either reactive or pre‐emptive, and offers a taxonomy that identifies eight different forms of algorithmic regulation based on their configuration at each of the three stages of the cybernetic process: notably, at the level of standard setting (adaptive vs. fixed behavioral standards), information‐gathering and monitoring (historic data vs. predictions based on inferred data), and at the level of sanction and behavioral change (automatic execution vs. recommender systems). It maps the contours of several emerging debates surrounding algorithmic regulation, drawing upon insights from regulatory governance studies, legal critiques, surveillance studies, and critical data studies to highlight various concerns about the legitimacy of algorithmic regulation.

show abstract

Section: The New Surveillance and The Rise Of Algorithmic Powermentioning

confidence: 99%

Algorithmic regulation: A critical interrogation

Yeung

2017

Regulation & Governance

302

200

View full text Add to dashboard Cite

show abstract

“…Dadurch entsteht das Risiko, dass die Profilierung von Heranwachsenden eher den "Schnappschuss" eines Stadiums der Persönlichkeitsentwicklung zu einem bestimmten Zeitpunkt und in einem bestimmten Kontext darstellen, der zügig durch neue oder erweiterte Selbstkonzepte oder Kontextveränderungen abgelöst wird und damit nicht mehr valide ist. Durch die Zementierung digitaler Abbildung aber entstehen Formen digitaler Personae -"Datenschatten" -, die nur zum Teil selbst kreiert sind, sondern durch externe Beobachtung ermittelt, berechnet und profiliert wurden (Roosendaal 2010). Die personalisierten Dienstleistungen entsprechen so nicht der tatsächlichen jeweiligen Persönlichkeit, sondern produzieren Ergebnisse auf Grundlage eines früheren, unscharfen Abbilds der Persönlichkeitsfacetten und Interessen der jeweils berechneten Person; sie sind zeitlich und kontextuell desintegriert.…”

Section: Reichweite Informationeller Privatheit Bei Der Digitalen Mediennutzung Heranwachsenderunclassified

Recht auf mein Selbst – Schutzräume kindlicher Entwicklungsphasen in der digitalen Gesellschaft

Dreyer¹

2021

Aufwachsen in Überwachten Umgebungen

View full text Add to dashboard Cite

Die digitale Gesellschaft datafiziert unweigerlich auch die Kindheit. Doch was bedeutet das für die gesetzliche Einhegung dieser besonderen Entwicklungsphase? Der Beitrag zeigt, dass das grundgesetzliche Recht auf freie Persönlichkeitsentwicklung kindbezogene Schutzräume (auch) im Digitalen umfasst. Dabei werden die Schutzgehalte eines spezifischen Kinderrechts auf Privatsphäre aus dem Recht auf freie Persönlichkeitsentwicklung und -entfaltung hergeleitet und dessen Besonderheiten und Ausprägungen in digitalen Medienumgebungen aufgezeigt. Durch den Abgleich verfassungsrechtlich erwünschter digitaler Schutzräume mit empirischen Einblicken in die datenschutzbezogenen Kenntnisse, Sorgen und Wünsche von Kindern und Jugendlichen zeigt der Beitrag bestehende Regelungslücken, aber auch die Herausforderungen bei ihrer gesetzlichen Ausfüllung auf. Denn die mögliche Umsetzung der Pflicht zur Schaffung gesetzlicher Schutzräume für Kinder im Digitalen weist strukturelle Herausforderungen und Spannungsfelder auf, etwa Datenschutz-oder Geheimnisinteressen der Minderjährigen, das Erziehungsrecht der Eltern sowie die begrenzte Steuerungsmacht sanktionsbewehrter Normen. Freie Persönlichkeitsentfaltung: Das Recht, sich selbst zu gehören Die Freiheit des Einzelnen wurde mit der Schaffung des Art. 2 Abs. 1 GG von einem vorgesetzlichen Naturrecht in eine positivrechtliche Form gegossen, die die Garantie der Menschenwürde aus Art. 1 Abs. 1 GG mit einer programmatischen Gewährleistung ergänzt: der prinzipiellen Freiheitsvermutung. Menschsein und Freiheit haben Vorrang vor staatlich verordnetem Dasein (Di Fabio 2019). Die Freiheit, die Art. 2 Abs. 1 GG garantiert, ist die freie Entfaltung der Persönlichkeit. Sie bezieht sich zum einen auf die Ebene der physischen Handlungsfreiheit, das heißt, jede Person darf prinzipiell tun und lassen, was sie will. Sie enthält aber auch eine psy-1.

show abstract

“…Bouzeghoub and Kostadinov make a distinction between profiles and queries: a profile being a "user model" "defined by a set of attributes" and a query being an "on-demand user need" [13]. Roosendaal offers an additional, distinction, namely one between "digital personae", which are representations of known individuals in the real world and "digital profiles" which are sets of characteristics about persons that can be used as inputs for algorithmic decision making [14].…”

Section: Personalisation Technologies As Adaptive Mirrors Of Personhoodmentioning

confidence: 99%

“…Roosendaal leaves the user relatively close to the world of action though the "profiling" of a user [14], in which types of persons defined by measurable variables invoke certain responses of a system abstracted from the world of action. For instance, the automated adjustment of credit ratings based on certain profiles (containing for example gender, ethnicity and occupation), is an example of personalised abstraction for it detaches the generated process from the world of action of a particular person.…”

Section: A Framework Of Narrative Personalisation Technologiesmentioning

confidence: 99%

Narrative Ethics of Personalisation Technologies

Reijers

Gordijn

O’Sullivan

2016

IFIP Advances in Information and Communication Technology

View full text Add to dashboard Cite

Personalisation of digital content is becoming one of the major focus areas of contemporary research in human-computer interaction. Interactions between humans and computer systems such as information retrieval operations, digital learning and self-monitoring are "tailored" to the needs of the human user. In this paper, we aim to increase our philosophical understanding of personalisation and of its ethical implications. We utilise a framework of ethics of narrative technologies that is based on the narrative theory of Paul Ricoeur to explicate how personalisation processes shape the person and interpersonal relations. We argue that personalisation processes can actively configure the narrative understanding of a person they interact withby which they can implicitly change or re-enforce a person's normative worldview. Also, personalisation processes can abstract from the world of action by means of profilingwhich can have significant risks with regards to the consistency of a person's character.

show abstract

Digital Personae and Profiles as Representations of Individuals

Cited by 5 publications

References 6 publications

Algorithmic regulation: A critical interrogation

Algorithmic regulation: A critical interrogation

Recht auf mein Selbst – Schutzräume kindlicher Entwicklungsphasen in der digitalen Gesellschaft

Narrative Ethics of Personalisation Technologies

Contact Info

Product

Resources

About