Série de séminaires sur l'IA 2023 : Hongyuan Mei

Le AI Seminar est une réunion hebdomadaire à l'Université de l'Alberta où les chercheurs intéressés par l'intelligence artificielle (AI) peuvent partager leurs recherches. Les présentateurs comprennent à la fois des conférenciers locaux de l'Université de l'Alberta et des visiteurs d'autres institutions. Les sujets peuvent être liés de quelque manière que ce soit à l'intelligence artificielle, qu'il s'agisse de travaux théoriques fondamentaux ou d'applications novatrices de techniques d'IA à de nouveaux domaines et problèmes.

Le 28 novembre, Hongyuan Mei, professeur assistant de recherche au Toyota Technological Institute de Chicago, a présenté "Language Models as Lego Blocks of Reasoning" lors du séminaire sur l'IA.

Résumé :
Ces dernières années, les modèles de langage (LM) sont apparus comme des outils transformateurs dans le domaine de l'intelligence artificielle. Ils font preuve d'une grande capacité de compréhension et de raisonnement du langage, ce qui offre une multitude de possibilités pour résoudre des problèmes difficiles. Cependant, leur déploiement en tant qu'outils indépendants de résolution de problèmes - même avec des techniques d'incitation sophistiquées - aboutit souvent à des résultats insatisfaisants.  

Dans cet exposé, Mei présente une approche alternative, qui incorpore les LM dans un cadre plus large pour le raisonnement complexe. Ici, les LM proposent des solutions ou des voies logiques, qui sont ensuite analysées et utilisées par le cadre. Ils présentent deux problèmes difficiles traités efficacement à l'aide de ce paradigme. Le premier est le raisonnement logique basé sur le texte, dans lequel il faut déterminer la valeur de vérité d'une déclaration à partir d'un ensemble de règles et de faits, exprimés en langage naturel humain. Le second est la prédiction d'événements, qui consiste à raisonner sur des événements futurs en fonction du passé. Pour les deux problèmes, les cadres LM-in-the-loop apprennent à fournir des résultats de haute qualité au-delà de ce qu'un LM peut offrir en tant qu'outil autonome de résolution de problèmes.

Mei esquisse quelques pistes de recherche futures pour améliorer les capacités de raisonnement fondamentales des LM, y compris l'intégration d'un LM dans un cadre d'apprentissage par renforcement pour développer des modèles de monde de base.

Regardez la présentation complète ci-dessous :

Vous voulez savoir comment donner un coup de fouet à votre carrière dans l'IA ? En savoir plus sur l'accélérateur de carrière d'Amii pour en savoir plus.