Les mots comme une fenêtre : Utilisation de l'intégration des mots pour explorer les représentations apprises par les réseaux de neurones convolutifs.

Résumé :

Lorsque les architectures de réseaux neuronaux profonds minimisent les pertes, elles accumulent des informations dans une hiérarchie de représentations apprises qui servent finalement l'objectif final du réseau. Les différentes architectures abordent ce problème de manière légèrement différente, mais toutes créent des espaces de représentation intermédiaires destinés à informer leur prédiction finale. Nous montrons ici que des réseaux neuronaux très différents, formés à deux tâches très différentes, construisent des représentations de connaissances qui présentent des modèles sous-jacents similaires. Plus précisément, nous montrons que les espaces représentationnels de plusieurs modèles sémantiques distributionnels présentent une ressemblance remarquable avec plusieurs architectures de réseaux neuronaux convolutionnels (CNN) (formés pour la classification d'images). Nous utilisons cette information pour explorer le comportement des réseaux CNN (1) dans les modèles pré-entraînés, (2) pendant l'entraînement, et (3) pendant les attaques adverses. Nous utilisons ces résultats pour motiver plusieurs applications visant à améliorer la recherche future sur les CNN. Notre travail illustre le pouvoir de l'utilisation d'un modèle pour en explorer un autre, donne un nouvel aperçu de la fonction des modèles CNN, et fournit un cadre pour que d'autres puissent effectuer des analyses similaires lors du développement de nouvelles architectures. Nous montrons qu'un modèle de réseau neuronal peut fournir une fenêtre pour en comprendre un autre.