Séminaire AI - Cynthia Rudin
En ligne
En ligne
Titre : Les modèles plus simples existent et comment les trouver ?
Résumé : Alors que la tendance dans l'apprentissage automatique est à la complexification des espaces d'hypothèses, il n'est pas évident que cette complexité supplémentaire soit toujours nécessaire ou utile pour de nombreux domaines. En particulier, les modèles et leurs prédictions sont souvent rendus plus faciles à comprendre en ajoutant des contraintes d'interprétabilité. Ces contraintes réduisent l'espace d'hypothèses, c'est-à-dire qu'elles rendent le modèle plus simple. La théorie de l'apprentissage statistique suggère que la généralisation peut également s'en trouver améliorée. Cependant, l'ajout de contraintes supplémentaires peut rendre l'optimisation (exponentiellement) plus difficile. Par exemple, il est beaucoup plus facile en pratique de créer un réseau de neurones précis qu'un arbre de décision précis et clairsemé. Nous abordons la question suivante : Pouvons-nous montrer qu'un modèle d'apprentissage automatique simple mais précis pourrait exister pour notre problème, avant de le trouver réellement ? Si la réponse est prometteuse, il serait alors intéressant de résoudre le problème d'optimisation contraint plus difficile pour trouver un tel modèle. Dans cet exposé, je présente un calcul facile pour vérifier la possibilité d'un modèle plus simple. Ce calcul indique que des modèles plus simples mais exacts existent en pratique plus souvent qu'on ne le pense. Si le temps le permet, je présenterai ensuite un bref aperçu de nos progrès dans la résolution du problème difficile de la recherche d'arbres de décision épars optimaux.
Lien : Lesia Semenova, Cynthia Rudin et Ron Parr. Une étude des courbes et des volumes de Rashomon : Une nouvelle perspective sur la généralisation et la simplicité des modèles dans l'apprentissage automatique. En cours, 2020.
https://arxiv.org/abs/1908.01755
Une discussion supplémentaire portera également sur cet article : Generalized and Scalable Optimal Sparse Decision Trees. ICML, 2020.
Jimmy Lin, Chudi Zhong, Diane Hu, Cynthia Rudin, Margo Seltzer
https://arxiv.org/abs/2006.08690
Biographie : Cynthia Rudin est professeur d'informatique, d'ingénierie électrique et informatique, et de science statistique à l'Université Duke. Auparavant, le professeur Rudin a occupé des postes au MIT, à Columbia et à NYU. Elle est diplômée de l'Université de Buffalo et de l'Université de Princeton. Elle a remporté trois fois le prix INFORMS Innovative Applications in Analytics Award. Elle a fait partie de comités pour INFORMS, les National Academies, l'American Statistical Association, le DARPA, le NIJ et l'AAAI. Elle est membre de l'American Statistical Association et de l'Institute of Mathematical Statistics. Elle a été conférencière Thomas Langford à l'université Duke en 2019-2020.
Le séminaire sur l'intelligence artificielle (IA) de l'Université de l'Alberta est une réunion hebdomadaire où les chercheurs (y compris les étudiants, les développeurs et les professeurs) intéressés par l'IA peuvent partager leurs recherches actuelles. Les présentateurs comprennent des conférenciers locaux de l'Université de l'Alberta et de l'industrie ainsi que d'autres institutions. Les séminaires abordent un large éventail de sujets liés de près ou de loin à l'intelligence artificielle, depuis les travaux théoriques fondamentaux jusqu'aux applications novatrices des techniques d'IA à de nouveaux domaines et problèmes.
Vous cherchez à renforcer les capacités en matière d'IA ? Vous avez besoin d'un conférencier pour votre événement ?
Participez à l'écosystème croissant de l'IA en Alberta ! Les demandes de conférenciers, de parrainage et de lettres de soutien sont les bienvenues.