Série de séminaires AI 2023 : Ehsan Imani

Le AI Seminar est une réunion hebdomadaire à l'Université de l'Alberta où les chercheurs intéressés par l'intelligence artificielle (AI) peuvent partager leurs recherches. Les présentateurs comprennent à la fois des conférenciers locaux de l'Université de l'Alberta et des visiteurs d'autres institutions. Les sujets peuvent être liés de quelque manière que ce soit à l'intelligence artificielle, qu'il s'agisse de travaux théoriques fondamentaux ou d'applications novatrices de techniques d'IA à de nouveaux domaines et problèmes.

Le 17 février, Ehsan Imani,doctorant à l'université d'Alberta, a présenté "Representation Alignment in Neural Networks" (alignement des représentations dans les réseaux neuronaux) lors du séminaire sur l'intelligence artificielle.

Il est désormais courant d'entraîner les représentations des réseaux neuronaux sur de vastes ensembles de données accessibles au public et de les utiliser pour résoudre de nouveaux problèmes. Les raisons pour lesquelles les représentations de réseaux neuronaux ont connu un tel succès pour le transfert ne sont toutefois pas encore totalement comprises.

Imani montre qu'après l'entraînement, les représentations des réseaux neuronaux alignent leurs vecteurs singuliers supérieurs sur les cibles. Il étudie ce phénomène d'alignement des représentations dans une variété d'architectures de réseaux neuronaux et constate que (a) l'alignement émerge à travers une variété d'architectures et d'optimiseurs différents, avec plus d'alignement provenant de la profondeur (b) l'alignement augmente pour les couches plus proches de la sortie et (c) les CNN profonds existants à haute performance présentent des niveaux élevés d'alignement.

La présentation souligne ensuite pourquoi l'alignement entre les vecteurs singuliers supérieurs et les cibles peut accélérer l'apprentissage et montre, dans un problème de transfert synthétique classique, que l'alignement des représentations est en corrélation avec un transfert positif et négatif vers des tâches similaires et dissemblables.

Regardez la présentation complète ci-dessous :

Vous voulez savoir comment donner un coup de fouet à votre carrière dans l'IA ? En savoir plus sur l'accélérateur de carrière d'Amii pour en savoir plus.