Une approche d'apprentissage de fonctions implicites pour la régression modale paramétrique

Résumé

Pour les fonctions à valeurs multiples, par exemple lorsque la distribution conditionnelle des cibles compte tenu des entrées est multimodale, les approches de régression standard ne sont pas toujours souhaitables car elles fournissent la moyenne conditionnelle. Les algorithmes de régression modale résolvent ce problème en trouvant plutôt le(s) mode(s) conditionnel(s). La plupart d'entre eux, cependant, sont des approches non paramétriques et peuvent donc être difficiles à mettre à l'échelle. De plus, les approximateurs paramétriques, comme les réseaux neuronaux, facilitent l'apprentissage de relations complexes entre les entrées et les cibles. Dans ce travail, nous proposons un algorithme de régression modale paramétrique. Nous utilisons le théorème de la fonction implicite pour développer un objectif, pour apprendre une fonction conjointe sur les entrées et les cibles. Nous démontrons empiriquement sur plusieurs problèmes synthétiques que notre méthode (i) peut apprendre des fonctions multivaluées et produire les modes conditionnels, (ii) s'adapte bien aux entrées à haute dimension, et (iii) peut même être plus efficace pour certains problèmes uni-modaux, en particulier pour les fonctions à haute fréquence. Nous démontrons que notre méthode est compétitive dans un problème de régression modale du monde réel et dans deux ensembles de données de régression régulière.