Série de séminaires sur l'IA 2022 : Ning Shi

Le AI Seminar est une réunion hebdomadaire à l'Université de l'Alberta où les chercheurs intéressés par l'intelligence artificielle (AI) peuvent partager leurs recherches. Les présentateurs comprennent à la fois des conférenciers locaux de l'Université de l'Alberta et des visiteurs d'autres institutions. Les sujets peuvent être liés de quelque manière que ce soit à l'intelligence artificielle, qu'il s'agisse de travaux théoriques fondamentaux ou d'applications novatrices de techniques d'IA à de nouveaux domaines et problèmes.

Le 23 décembre, Ning Shi, étudiant en doctorat à l'Université de l'Alberta, a présenté "Cognitively Inspired Natural Language Processing" au séminaire sur l'IA.

Abstract :

De nombreuses percées dans un domaine sont inspirées par d'autres. Par exemple, les réseaux neuronaux s'inspirent de la structure et du fonctionnement du cerveau humain, et les mécanismes d'attention empruntent l'idée à la psychologie. Shi présente des découvertes récentes dans le traitement du langage naturel inspirées par les lois de la cognition humaine, telles que la fusion des connaissances, la généralisation systématique et l'apprentissage par imitation. Dans le premier cas, il propose un cadre plug-in appelé RoChBert pour construire un modèle de langage plus robuste explicitement pour le chinois. En incorporant des connaissances adverses, il montre comment fusionner les informations phonétiques et glyphiques nécessaires dans des représentations pré-entraînées pour renforcer la robustesse. Dans le suivant, il étudie dans quelle mesure les réseaux neuronaux peuvent faire la même chose que les humains pour généraliser systématiquement d'anciens concepts à de nouveaux. Il revisite ce sujet controversé sous l'angle de l'apprentissage significatif, un concept issu de la psychologie de l'éducation. Les résultats expérimentaux indiquent que les modèles conventionnels de séquence à séquence peuvent réussir à généraliser d'un coup à de nouveaux concepts et à de nouvelles compositions grâce à des relations sémantiques partagées, que ce soit de manière inductive ou déductive. Dans le dernier, il reformule l'édition de texte comme un jeu d'imitation en utilisant le clonage comportemental. Plus précisément, il convertit des données standard de séquence à séquence en démonstrations d'état à action et propose d'entraîner un agent à imiter la façon dont les humains révisent les textes de façon itérative, où l'espace d'action peut être aussi flexible que nécessaire. Dans l'ensemble, il espère que cette présentation encouragera et éclairera les études futures à la jonction de plusieurs domaines.

Regardez la présentation complète ci-dessous :

Tenez-vous au courant de la série de séminaires sur l'IA en vous inscrivant à la liste de diffusion.

Découvrez comment Amii fait progresser la recherche de pointe en matière d'intelligence artificielle et d'apprentissage automatique : visitez notre site Web. Recherche page.