Inteligência Artificial, empatia e inclusão: um problema de Design

Abstract

A Inteligência Artificial vem sendo estudada, proposta e utilizada numa série de situações cotidianas. Seja na avaliação de aprendizagem, concessão de pensões ou monitoramento de produtividade no trabalho, já se começa a ver seres humanos tendo questões cruciais de suas vidas decididas por algoritmos matemáticos. A Inteligência Artificial promete uma avaliação e resolução de questões mais precisa, rápida, pervasiva e livre do "viés humano". Porém, este artigo parte das premissas da Interação Humano-Computador e do Design Socialmente Responsável para questionar: como é a interação dessas pessoas com essas ferramentas? Como é e será a experiência dos avaliados por Inteligências Artificiais? Esse processo será positivo para eles e para os avaliadores? O dito "viés humano" é necessariamente negativo? Como ficam as questões calcadas em empatia e inclusão quando se tem decisões tomadas por máquinas?