Construire une IA digne de confiance
Sur des thèmes allant de la confidentialité à la robustesse, en passant par l'explicabilité et la causalité, avec un accent particulier sur les applications offrant des garanties rigoureuses.
Mathias travaille sur l’IA fiable, abordant des thèmes tels que la confidentialité, la robustesse, l’explicabilité et la causalité, en mettant particulièrement l’accent sur les applications offrant des garanties rigoureuses. Parmi ses récentes contributions marquantes, on peut citer : la première défense évolutive contre les exemples adversaires (de légères modifications des données d’entrée pouvant influencer les prédictions des modèles d’IA et être utilisées pour contourner les restrictions de l’IA) avec des garanties démontrables ; une technique permettant de mesurer efficacement l’influence des données d’entraînement sur le comportement des modèles d’IA ; une méthode d’audit des fuites de données personnelles provenant de modèles d’IA à partir d’un simple accès à l’API ; et un système permettant des mesures fédérées et respectueuses de la vie privée des performances publicitaires, qui sert désormais de modèle à une future norme visant à réduire le suivi par des tiers sur le Web.
Son travail a été salué par des présentations en vedette et des exposés oraux lors de conférences de premier plan, par un prix Google Scholar, ainsi que par sa nomination au Conseil de recherche de l'Institut canadien pour la sécurité de l'IA (CAISI) au CIFAR.
Trois de ses axes de recherche ont eu un impact particulièrement important :
Robustesse certifiée : il a conçu la première défense évolutive — qui reste aujourd’hui la plus répandue — contre les exemples adversaires (de légères modifications apportées aux données d’entrée permettant de contrôler les prédictions des modèles d’IA et pouvant être utilisées pour « déjouer » ces derniers), assortie de garanties démontrables. Il a ainsi contribué au développement du domaine de la robustesse certifiée et à la création du domaine de recherche du « lissage aléatoire ».
Normes garantissant la confidentialité : il a mis au point des systèmes permettant de mesurer, de manière fédérée et dans le respect de la vie privée, les performances publicitaires. Ces systèmes servent désormais de modèle à un projet de normalisation du W3C qui, s'il aboutit, concernera des centaines de millions d'appareils utilisateurs.
Prévision causale : ses travaux sur la prévision causale des séries chronologiques sont mis en œuvre pour la tarification des billets auprès de plusieurs compagnies aériennes et ferroviaires (notamment au Canada), ce qui permet d'optimiser les décisions tarifaires portant sur des milliards de dollars de chiffre d'affaires.
Publications à la une
Kazmi, M., Lautraite, H., Akbari, A., Tang, Q., Soroco, M., Wang, T., … & Lécuyer, M. (2024). Panoramia : audit de confidentialité des modèles d'apprentissage automatique sans réentraînement. Advances in Neural Information Processing Systems, 37, 57262-57300.
Lyu, S., Shaikh, S., Shpilevskiy, F., Shelhamer, E. et Lécuyer, M. (2024). Lissage aléatoire adaptatif : robustesse certifiée face aux attaques adversaires pour les défenses en plusieurs étapes. Advances in Neural Information Processing Systems, 37, 134043-134074.
Tholoniat, P., Kostopoulou, K., McNeely, P., Sodhi, P. S., Varanasi, A., Case, B., … & Lécuyer, M. (novembre 2024). Cookie monster : gestion efficace des ressources sur appareil pour les systèmes de mesure publicitaire à confidentialité différentielle. Dans : Actes du 30e symposium ACM SIGOPS sur les principes des systèmes d'exploitation (pp. 693-708).
Lin, J., Zhang, A., Lécuyer, M., Li, J., Panda, A. et Sen, S. (juin 2022). Évaluation de l’effet des données d’entraînement sur les prédictions issues de l’apprentissage profond à l’aide d’expériences aléatoires. Dans International Conference on Machine Learning (pp. 13468-13504).
Lecuyer, M., Atlidakis, V., Geambasu, R., Hsu, D. et Jana, S. (2019). « Robustesse certifiée face aux exemples adversaires grâce à la confidentialité différentielle ». Dans : Symposium 2019 de l'IEEE sur la sécurité et la confidentialité (SP) (pp. 656-672).