Com a crescente utilização da IA em diferentes áreas do conhecimento, urge a adoção de métricas e ferramentas que auxiliem na construção de modelos explicáveis, transparentes e éticos, especialmente no contexto educacional. Assim, não é suficiente que um modelo possua um bom desempenho, mas é necessário saber como o modelo está classificando um indivíduo e identificar possíveis vieses na classificação. Esse trabalho propõe um sistema que auxilia nessa atividade, a fim de identificar o risco de evasão dos estudantes no ensino superior. Os atributos dos discentes são utilizados para construir modelos de classificação explicáveis e justos. Assim, além de gráficos que explicam como o estudante foi classificado, as métricas de desempenho também são apresentadas por grupos como gênero ou raça a fim de identificar vieses algorítmicos.