Discriminación algorítmica e ilusoria neutralidad. Actuales desafíos ante el fortalecimiento de tradicionales desigualdades en materia de violencia contra la mujer

Abstract

El empleo de herramientas de inteligencia artificial aplicadas a diversos ámbitos constituye una realidad patente, conforme su uso crece exponencialmente con carácter general en múltiples ámbitos de la vida. Al respecto, se presenta aquí un análisis sobre aquellas cuestiones más alarmantes en materia preventiva e intervencionista, con especial vinculación al ámbito de la violencia de género. Entre otras, las que derivan de encontrarnos ante un sistema significativamente opaco, pero sobre el que se confía cierta neutralidad que puede convertirse en un instrumento capaz de obstaculizar la igualdad, a través de la proliferación de tradicionales discriminaciones enmascaradas en ilusorias neutralidades promovidas por herramientas generadas a partir de una base sesgada y excluyente. Con ello, lejos de combatir este fenómeno delictivo, estaremos fomentando sus bases patriarcales desigualitarias a través de la creación de herramientas tecnológicas teóricamente neutrales pero discriminatorias en la práctica. Al respecto, sin ánimo de desarrollar una postura negacionista ante la evolución tecnológica en este texto, lo que se realiza aquí es un estudio sobre aquellos aspectos que deben atenderse para que dicho avance evite el crecimiento de discriminaciones y violencias simbólicas, base de la violencia contra las mujeres, enmascaradas en una suerte de inteligencia artificial, neutral, que realmente esconda marcados sesgos de género