Séminaire sur l'IA - Alex Murphy
En ligne
En ligne
Présentateurs : Alex Murphy, Université de Birmingham
Titre: Cerveau + NLP > NLP ? Vers l'incorporation des données du cerveau humain dans le traitement du langage naturel
Résumé : Les techniques modernes d'apprentissage automatique ont montré qu'elles pouvaient coder/décoder avec succès des informations linguistiques à partir de signaux cérébraux. Il semble donc naturel d'utiliser les données neurolinguistiques dans les modèles ML comme un flux d'entrée supplémentaire pour de nombreuses tâches NLP. Dans le domaine de la vision, il a été démontré qu'en forçant les modèles à prédire les données neuronales (ainsi que les représentations de similarité apprises à partir des signaux cérébraux), les modèles peuvent devenir plus robustes et faire des "erreurs meilleures / plus naturelles". On peut donc se demander si cet effet est transposé au domaine du langage / PNL avec des données humaines. Ce flux d'entrée supplémentaire offre de nombreuses propriétés souhaitables, car le processus de modélisation est moins sensible aux idiosyncrasies d'une seule modalité d'entrée (par exemple, le décalage des covariables, les exemples contradictoires et la non-robustesse). Au cours de cet exposé, je raconterai comment j'ai abordé ces questions au cours de mon doctorat, en utilisant des modèles pour décoder des informations linguistiques et semi-linguistiques à partir de données EEG à un seul essai. Ce travail est au cœur de ma récente communication à l'ACL 2022 intitulée "Decoding PoS from Human EEG". Un thème clé présent tout au long de cet exposé est l'effet de confusion qui se produit lorsque l'on travaille avec des données linguistiques, à la fois en termes de statut linguistique des stimuli (qui génèrent également de fortes réponses neuronales), mais aussi de confusion biologique telle que les mouvements oculaires, dont l'interférence peut être encore plus prononcée dans les données EEG. Je résumerai ensuite certains des principaux problèmes qui, selon moi, se posent encore et je réfléchirai à la manière dont ils pourraient être surmontés en utilisant les développements récents des réseaux multimodaux Transformer et de l'apprentissage de représentation basé sur la prédiction dans l'apprentissage par renforcement. Ces techniques nous offrent un pont dans lequel les neurosciences cognitives et l'apprentissage automatique peuvent bénéficier conjointement des avancées à l'intersection des deux domaines.
Bio : Alex a récemment terminé son doctorat à l'université de Birmingham (Royaume-Uni) en neurosciences cognitives et PNL. Il s'intéresse à de nombreux sujets variés tels que la (neuro)linguistique, les neurosciences cognitives, l'apprentissage automatique et le traitement du langage naturel. Il est titulaire d'une licence en linguistique (Université de Bangor, Pays de Galles), ainsi que de maîtrises en technologie du langage (Université d'Islande) et en informatique et cognition (Université de Copenhague, Danemark). Pendant son doctorat, il a été stagiaire technique au sein de l'équipe linguistique de Google Brain (Londres), où il a travaillé à l'analyse des données cérébrales à l'aide de modèles d'apprentissage profond de pointe. Il s'intéresse à la manière dont les données neuronales (humaines) peuvent être intégrées dans les applications de traitement du langage naturel et, plus largement, dans d'autres domaines de l'intelligence artificielle.
Le séminaire sur l'intelligence artificielle (IA) de l'Université de l'Alberta est une réunion hebdomadaire où les chercheurs (y compris les étudiants, les développeurs et les professeurs) intéressés par l'IA peuvent partager leurs recherches actuelles. Les présentateurs comprennent des conférenciers locaux de l'Université de l'Alberta et de l'industrie ainsi que d'autres institutions. Les séminaires abordent un large éventail de sujets liés de près ou de loin à l'intelligence artificielle, depuis les travaux théoriques fondamentaux jusqu'aux applications innovantes des techniques d'IA à de nouveaux domaines et problèmes d'intérêt. Pour en savoir plus, consultez le site Web du séminaire sur l'IA et inscrivez-vous à la liste de diffusion!
Vous cherchez à renforcer les capacités en matière d'IA ? Vous avez besoin d'un conférencier pour votre événement ?
Participez à l'écosystème croissant de l'IA en Alberta ! Les demandes de conférenciers, de parrainage et de lettres de soutien sont les bienvenues.