RANCC : Rationalisation des réseaux neuronaux par regroupement de concepts

Résumé

Nous proposons un nouveau modèle auto-explicatif pour les tâches de classification de textes du traitement du langage naturel (TLN). Notre approche construit des explications en même temps que la formulation des prédictions de classification. Pour ce faire, nous extrayons une explication du texte, puis l'utilisons pour prédire un concept d'intérêt comme prédiction finale. Nous fournissons trois types d'explications : 1) l'extraction de la justification, 2) une mesure de l'importance des caractéristiques, et 3) le regroupement des concepts. En outre, nous montrons comment notre modèle peut être compressé sans appliquer de techniques de compression compliquées. Nous démontrons expérimentalement notre approche d'explicabilité sur un certain nombre d'ensembles de données de classification de textes bien connus.