Série de séminaires AI 2023 : Brett Daley

Le AI Seminar est une réunion hebdomadaire à l'Université de l'Alberta où les chercheurs intéressés par l'intelligence artificielle (AI) peuvent partager leurs recherches. Les présentateurs comprennent à la fois des conférenciers locaux de l'Université de l'Alberta et des visiteurs d'autres institutions. Les sujets peuvent être liés de quelque manière que ce soit à l'intelligence artificielle, qu'il s'agisse de travaux théoriques fondamentaux ou d'applications novatrices de techniques d'IA à de nouveaux domaines et problèmes.

Le 12 mai, Brett Daley, étudiant en doctorat à l'université de l'Alberta, a présenté "Trajectory-Aware Eligibility Traces for Off-Policy Reinforcement Learning" lors du séminaire sur l'IA.

L'apprentissage hors politique à partir de retours multi-étapes est crucial pour un apprentissage par renforcement efficace sur le plan de l'échantillonnage, mais il est difficile de contrecarrer le biais hors politique sans exacerber la variance. Classiquement, le biais hors politique est corrigé par décision : les erreurs de différence temporelle passées sont repondérées par le ratio d'échantillonnage d'importance instantané après chaque action via les traces d'éligibilité. De nombreux algorithmes hors politique s'appuient sur ce mécanisme, ainsi que sur différents protocoles de découpage des ratios IS pour lutter contre la variance de l'estimateur IS. Malheureusement, une fois qu'une trace a été entièrement coupée, l'effet ne peut être inversé. Cela a conduit au développement de stratégies d'attribution de crédits qui tiennent compte de plusieurs expériences passées à la fois. Ces méthodes tenant compte de la trajectoire n'ont pas fait l'objet d'une analyse approfondie et leur justification théorique reste incertaine.

Dans cet exposé, M. Daley propose un cadre unificateur pour les méthodes de prise en compte des décisions et des trajectoires, et établit les premières conditions générales de convergence pour la prise en compte des trajectoires dans le cadre tabulaire. Il présente également un nouvel algorithme appelé Recency-Bounded Importance Sampling (RBIS), qui tire parti de la prise en compte de la trajectoire pour obtenir des résultats robustes en fonction des hyperparamètres dans plusieurs tâches de contrôle hors politique.

Regardez la présentation complète ci-dessous :

Vous voulez savoir comment donner un coup de fouet à votre carrière dans l'IA ? En savoir plus sur l'accélérateur de carrière d'Amii pour en savoir plus.