No abstract

Os modelos de aprendizado de máquina têm possibilitado soluções inteligentes em vários setores e aplicações da sociedade devido suas capacidades de predições robustas provenientes de seus processos de aprendizagem. Dessa maneira, entender decisões de modelos complexos torna-se essencial para a confiança nos resultados. Assim este artigo destaca uma revisão com o objetivo de analisar o uso de frameworks de interpretabilidade em modelos de caixas pretas. Os resultados obtidos de após a análise de 143 estudos confirmam que a interpretabilidade em modelos vem consolidando-se por meio de frameworks como o LIME e SHAP que conseguem mapear possíveis fatores que implicam nos resultados preditivos.