Do Algoritmo ao Preconceito: um balanço literário

Abstract

Introduc ¸ãoO avanc ¸o da tecnologia e o crescimento do uso da Internet trouxeram mudanc ¸as significativas, principalmente em relac ¸ão ao acesso das informac ¸ões. Autores afirmam estarmos na época do Dataísmo [1], que é um termo que pode ser definido como a utilizac ¸ão dos dados influenciando o modo de pensar e filosofar. [2,3] A importância dos dados é tanta que conceitos referentes à própria esfera são reconhecidos pelo público que não está diretamente ligado a ela. Pesquisadores, ONG'S, ministérios, empresas, e toda a esfera público-privada utilizam o universo dos dados (Big Data, Iot e Machine Learning) com o objetivo de aumentar ou agregar valor na tomada de decisão. [5] O corac ¸ão do Machine Learning são os algoritmos, que podem ser entendidos como um uma sequência de execuc ¸ões que visam resolver um problema. [4,5] De forma simples, os algoritmos são programados para captar modelos de comportamento e, por serem replicadores de padrões, os algoritmos podem absorver padrões discriminatórios e como consequência replicar como uma "verdade objetiva"A este, que é o de efeito replicar comportamentos indesejáveis, como o racismo, a misoginia e a homofobia dá-se o nome de viés algorítmico. [6-8]Estas atitudes podem ser desde simples erros em detecc ¸ões faciais, até a condenac ¸ão de um indivíduo por algoritmos jurídicos baseado em suas características raciais.Os diferentes vieses algorítmicos podem ser englobados em um só termo: a Discriminac ¸ão Algorítmica, que é um termo recente para a academia e que vem tendo cada vez mais importância e literatura e diante da importância da discussão, o presente estudo tem como objetivo expor o referencial teórico da discriminac ¸ão algorítmica à fim de buscar os principais construtos e fatores relacionados.