Explicabilité en Intelligence Artificielle ; vers une IA Responsable - Instanciation dans le domaine de la santé

Abstract

Essentielle pour une adoption efficace comme pour une utilisation avisée et objective de l'Intelligence Artificielle (IA), l'explicabilité est un véritable verrou de l'évolution de ces technologies, en particulier concernant l'apprentissage automatique et profond. Sans une réelle explicabilité des algorithmes proposés, ces technologies resteront une boîte noire pour les professionnels de santé (et pas seulement), chercheurs, ingénieurs, techniciens -qui assument (et vont continuer à assumer) la pleine responsabilité de leurs actes. De plus en plus, les ingénieurs exploitants et concepteurs d'outils d'IA devront donc faire preuve de responsabilité, en fournissant des algorithmes permettant de garantir l'explicabilité des modèles proposés. Cet article présente les motivations d'une IA explicable, les principales caractéristiques du paysage conceptuel de l'explicabilité en IA, les grandes familles de méthodes pour l'explicabilité -avec un focus sur quelques méthodes parmi les plus courantes, pour finir sur un aperçu des opportunités, challenges et perspectives de ce domaine passionnant de l'interaction homme-machine. En effet, c'est uniquement par une bonne compréhension des challenges associés à cette révolution technologique que nous pourrons la transformer en atout pour nos entreprises ainsi que pour l'ensemble de nos acteurs, partenaires et clients humains.

Deep Learning Using Images of the Retina for Assessment of Severity of Neurological Dysfunction in Parkinson Disease

“…To overcome this problem, GradCAM++ and its variant XGrad-CAM were designed, with the former using second-order gradients to obtain activations that are independent of the object size, and the latter scaling the gradients by the normalized activation maps. 7 Thus, in this study, the results and application of DL, as well as explainable steps, are encouraging. However, there needs to be further consolidation in future experiments to establish the potential of this fast, noninvasive tool for routine applications in a clinical context as well as in-depth analysis to verify the explainable features as deter- mined by the DL model using techniques such as GradCAM++ or XGradCAM.…”

“…Another consequence is that the localization often does not correspond to the whole object, but to parts of it. To overcome this problem, GradCAM++ and its variant XGradCAM were designed, with the former using second-order gradients to obtain activations that are independent of the object size, and the latter scaling the gradients by the normalized activation maps . Thus, in this study, the results and application of DL, as well as explainable steps, are encouraging.…”

Automated segmentation by deep learning of neuritic plaques and neurofibrillary tangles in brain sections of Alzheimer’s Disease Patients

“…From a technical point of view, one major disadvantage of commercial software is the user's lack of traceability, interpretability, and explainability on the trained deep learning models [29]. Therefore we started testing in-house traceable tools for NFT and NPs segmentation and detection [13].…”