Intelligence Artificielle Explicable : Concepts, applications, défis de recherche et visions

Résumé

Le développement de théories, de cadres et d'outils pour l'IA explicable (XAI) est un domaine de recherche très actif ces jours-ci, et l'articulation de toute sorte de cohérence sur une vision et des défis est en soi un défi. Au moins deux fils conducteurs, parfois complémentaires et contradictoires, ont émergé. Le premier se concentre sur le développement d'outils pragmatiques pour accroître la transparence des modèles de prédiction appris automatiquement, par exemple par apprentissage profond ou par renforcement. Le second vise à anticiper l'impact négatif des modèles opaques avec la volonté de réguler ou de contrôler les conséquences des prédictions incorrectes, notamment dans des domaines sensibles comme la médecine et le droit. La formulation de méthodes permettant de compléter la construction de modèles prédictifs par des connaissances du domaine peut aider à produire des explications compréhensibles par l'homme pour les prédictions. Cela va de pair avec les préoccupations réglementaires en matière d'IA, comme le règlement général sur la protection des données de l'Union européenne, qui fixe des normes pour la production d'explications à partir de la prise de décision automatisée ou semi-automatisée. Bien que toute cette activité de recherche soit la reconnaissance croissante que le sujet de l'explicabilité est essentiel, il est important de rappeler qu'il fait également partie des domaines les plus anciens de l'informatique. En fait, les premières IA étaient retraçables, interprétables, donc compréhensibles par et explicables aux humains. L'objectif de cette recherche est d'articuler les grandes idées et leur rôle dans l'avancement du développement des systèmes XAI, de reconnaître leurs racines historiques et de souligner les plus grands défis pour aller de l'avant.