Les dangers d'apprendre avant d'optimiser

Résumé : La formulation de problèmes d'optimisation dans le monde réel commence souvent par la réalisation de prédictions à partir de données historiques (par exemple, un optimiseur qui vise à recommander des itinéraires rapides repose sur des prédictions de temps de trajet). Typiquement, l'apprentissage du modèle de prédiction utilisé pour générer le problème d'optimisation et la résolution de ce problème sont effectués en deux étapes distinctes. Des travaux récents ont montré comment de tels modèles de prédiction peuvent être appris de bout en bout en différenciant la tâche d'optimisation. De telles méthodes produisent souvent des améliorations empiriques, qui sont typiquement attribuées au fait que le bout à bout fait de meilleurs compromis d'erreur que la fonction de perte standard utilisée dans une solution en deux étapes. Nous affinons cette explication et caractérisons plus précisément quand le bout à bout peut améliorer les performances. Lorsque les cibles de prédiction sont stochastiques, une solution à deux étapes doit faire un choix a priori sur les statistiques de la distribution de la cible à modéliser - nous considérons les attentes sur les cibles de prédiction - tandis qu'une solution de bout en bout peut faire ce choix de manière adaptative. Nous montrons que l'écart de performance entre une approche en deux étapes et une approche de bout en bout est étroitement lié au prix du concept de corrélation dans l'optimisation stochastique et nous montrons les implications de certains résultats de POC existants pour le problème de prédiction et d'optimisation. Nous considérons ensuite un cadre nouveau et particulièrement pratique, où plusieurs cibles de prédiction sont combinées pour obtenir chacun des coefficients de la fonction objectif. Nous donnons des constructions explicites où (1) les performances du système à deux étapes sont infiniment plus mauvaises que celles du système de bout en bout ; et (2) le système à deux étapes est optimal. Nous utilisons des simulations pour quantifier expérimentalement les écarts de performance et identifier un large éventail d'applications du monde réel issues de la littérature dont les fonctions objectives reposent sur des cibles de prédiction multiples, ce qui suggère que l'apprentissage de bout en bout pourrait apporter des améliorations significatives.