En savoir plus sur les recherches et les travaux de Bailey Kacsmar, l'un des derniers boursiers à avoir rejoint l'équipe de chercheurs de classe mondiale d'Amii. Bailey est professeur adjoint au département d'informatique de l'université d'Alberta.
Ses recherches portent sur le développement et l'évaluation de solutions techniques en matière de protection de la vie privée, y compris l'utilisation de mécanismes de protection de la vie privée pour l'analyse des données. Elle se concentre actuellement sur l'apprentissage automatique centré sur l'homme et préservant la vie privée.
Découvrez sa conversation avec Adam Whitedirecteur des opérations scientifiques d'Amii, où elle parle de l'importance de la protection de la vie privée dans l'apprentissage automatique, de l'évolution du paysage juridique de la protection de la vie privée et du problème du "paradoxe de la protection de la vie privée".
[Cette transcription a été modifiée pour des raisons de longueur et de clarté. Pour voir l'intégralité de la conversation, regardez la vidéo ci-dessus].
Adam White :
C'est vraiment un plaisir de vous avoir parmi nous ce matin, Bailey. Je suis très heureux de vous parler de vos recherches aujourd'hui, et je vous souhaite la bienvenue chez Amii.
Bailey Kacsmar :
Je vous remercie. Je suis très heureux d'être ici.
Adam White :
D'accord, entrons dans le vif du sujet et parlons de votre recherche.
Bailey Kacsmar :
Très bien.
Adam White :
Il suffit de m'expliquer en 30 secondes ou en une minute en quoi consiste votre recherche.
Bailey Kacsmar :
Dans le cadre de mon travail, je m'efforce de veiller à ce que, lorsque nous construisons des systèmes techniques de protection de la vie privée pour l'analyse des données, ce qui inclut des éléments tels que l'apprentissage automatique, nous soyons très conscients des aspects humains de la question. Nous pouvons donc construire un certain nombre de systèmes techniques et nous pouvons donner des garanties formelles en termes de "nous promettons que, avec une certaine probabilité, ces informations n'iront pas au-delà de l'endroit où nous avons dit qu'elles iraient".
Mais il reste à savoir si cela rend les gens plus à l'aise pour partager leurs informations ou les voir utilisées de cette manière. Il s'agit donc en quelque sorte d'assembler ces deux éléments pour développer de meilleures versions de ces protocoles de protection de la vie privée, axées sur l'être humain.
Adam White :
Vous avez dit qu'avec une certaine probabilité, nous pouvons garantir cette chose. Pourquoi ne pouvons-nous pas l'affirmer avec une certitude absolue ? S'agit-il de raisons mathématiques ou de quelque chose que vous pouvez nous transmettre aujourd'hui ?
Bailey Kacsmar :
Tout dépend donc de la manière dont on construit le système. Dans certains cas, nous pouvons garantir que personne ne pourra obtenir ces informations. Si nous utilisons une cryptographie basée sur la théorie de l'information, tout va bien. Si nous nous appuyons sur une cryptographie moderne plus conventionnelle basée sur des garanties informatiques, notre promesse repose sur le fait que "vous n'avez pas d'ordinateurs infinis" ou "vous n'avez pas d'ordinateur quantique, ce qui poserait un problème". Mais dans d'autres cas, nous donnons des garanties statistiques parce que nous utilisons un système statistique.
Adam White :
Qu'est-ce qui vous a amené à vous intéresser à votre domaine ? Comment avez-vous atterri dans ce domaine et pourquoi y restez-vous ?
Bailey Kacsmar :
Au début, je suis tombé par hasard sur la cryptographie en particulier. J'aimais beaucoup les mathématiques et il s'agissait d'un cadre utile et appliqué pour les mathématiques qui pouvaient avoir un impact réel. Il s'agit d'un domaine qui s'étend à l'univers. Que nous en soyons conscients ou non, nous interagissons constamment avec des systèmes utilisant la cryptographie. C'était vraiment génial, et une fois que j'ai commencé à travailler dans ce domaine, je me suis aventuré à me demander : "D'accord, nous utilisons ces outils, mais quelles sont leurs implications en matière de protection de la vie privée ? Et j'ai continué à poser de plus en plus de questions sur la manière d'améliorer ces outils pour en faire un système appliqué et déployé.
Nous devons réfléchir à la direction que prendront les choses, car la possibilité d'offrir des garanties en matière de protection de la vie privée, dans le sens technique formel que nous aimons, dépend fortement de la manière et du lieu d'utilisation. Je voulais donc savoir comment créer ces systèmes de manière à ce qu'il soit plus facile de les utiliser dans ce contexte final, où ils aident des personnes réelles ou sont utilisés dans des organisations réelles. Là où il y a moins de risques de se tromper et de ne pas obtenir ces garanties de protection de la vie privée.
Adam White :
C'est formidable. Si nous nous projetons dans cinq ou dix ans, où pensez-vous que votre domaine va évoluer ? À quoi ressemblera-t-il dans cinq ans et sera-t-il différent de ce qu'il est aujourd'hui ?
Bailey Kacsmar :
Le domaine a connu de nombreuses avancées. En 2015-2016, l'Europe a adopté le GDPR. Récemment, la loi californienne sur la protection des consommateurs (Consumer Protection Act) est entrée en vigueur et une nouvelle version est en cours d'élaboration au Canada. Nous avons le nouveau projet de loi C27 qui est en cours d'examen et qui améliore la réglementation en matière de protection de la vie privée, et une partie de ce que nous voyons, c'est de la recherche comme celle que j'ai effectuée, qui aide à orienter ces travaux.
Mais nous voyons aussi de plus en plus d'entreprises et d'organisations qui voient maintenant ces lois et réalisent qu'elles vont devoir trouver comment s'assurer qu'elles répondent effectivement aux exigences de ces nouvelles lois et réglementations. Comme en 2015 avec le GDPR, où tout le monde a reçu un million de courriels annonçant la mise à jour de notre politique de confidentialité, les entreprises canadiennes commencent à s'y intéresser. Les entreprises canadiennes commencent à s'inquiéter de savoir si elles peuvent utiliser des systèmes d'IA d'une manière qui soit conforme à ces nouvelles lois. Certaines de ces entreprises essaient d'être proactives à ce sujet, mais d'autres ne savent pas vraiment quoi faire. Elles s'adressent donc aux chercheurs pour leur demander comment s'assurer qu'elles respectent ces lois et comment faire ce qu'elles pensent devoir faire tout en offrant des garanties à leurs clients.
Adam White :
Quel est donc le problème le plus important dans votre domaine qui n'a pas encore été résolu ?
Bailey Kacsmar :
Selon moi, le problème ouvert le plus important à l'heure actuelle est de savoir dans quelle mesure nous pouvons réellement apporter des garanties concrètes en matière de protection de la vie privée lors de l'apprentissage d'un modèle d'apprentissage automatique. Car l'un des aspects les plus intéressants de l'apprentissage automatique est qu'il nous permet de prendre un tas de données dont nous ne comprenons pas vraiment toutes les relations, de les soumettre à un algorithme de notre choix et d'en tirer des conclusions, des classifications ou autres.
Mais dans le domaine de la vie privée, nous aimons vraiment savoir quelles sont les relations entre les données et donc, actuellement, si vous vous rendez à une conférence sur la sécurité et la vie privée, vous verrez tous ces différents documents présentés sur les attaques contre la vie privée et l'apprentissage automatique parce que nous ne cessons de trouver de nouvelles façons de montrer que cette information n'est pas en fait enfermée là. Il est possible d'apprendre des choses que vous ne voulez pas qu'une entité adverse apprenne. et donc nous n'avons pas vraiment de réponse concrète sur ce que cela pourrait être ou sur les garanties que nous ne pouvons pas faire.
Si nous voulons que l'apprentissage automatique soit déployé dans des contextes vraiment sensibles, comme les soins de santé ou la recherche en santé, nous devons résoudre ce problème. Compte tenu de la prolifération de l'apprentissage automatique dans toutes ces disciplines différentes et de la popularité qu'il suscite, les gens sont enthousiastes à l'idée de le déployer immédiatement. Je dirais que c'est le plus gros problème, car si nous ne le résolvons pas, le risque de résultats négatifs est énorme.
Adam White :
Il y a une prolifération de gens qui utilisent ChatGPT pour des choses. Que pensez-vous de tout cet intérêt dans le domaine de la santé pour l'utilisation de grands modèles de langage pré-entraînés comme ChatGPT afin d'aider les médecins à travailler avec les médecins ? Y voyez-vous un problème majeur ?
Bailey Kacsmar :
Je ne pense pas avoir vu suffisamment de cas d'utilisation de ChatGPT dans les soins de santé, ou de grands modèles de langage. Je pense que cela dépendra vraiment de la façon dont ces systèmes ont été formés et de la façon dont ils sont utilisés. Ainsi, s'ils sont formés sur un tas d'informations que je peux relier à d'autres patients, c'est évidemment mauvais.
Si nous essayons de faire en sorte que ChatGPT ou un grand modèle de langage fasse des recommandations sans qu'un médecin humain ne les vérifie, cela peut être problématique. Car, comme nous le savons, ChatGPT et d'autres grands modèles de langage peuvent dire beaucoup de bonnes choses, mais ils n'ont pas toujours raison. Nous devons être très prudents si cela peut avoir un impact sur la vie et la santé des gens.
Adam White :
Tout à fait. On parle beaucoup de la protection de la vie privée et de l'IA, de leur interaction. Quelles sont les idées fausses les plus répandues à ce sujet ?
Bailey Kacsmar :
Il s'agit d'un problème au sein de la vie privée et de la recherche sur la vie privée en termes de motivation, car même si la vie privée semble être un bien social, nous nous heurtons souvent à ce que l'on appelle le "paradoxe de la protection de la vie privée".
Il y a donc cet argument selon lequel les gens ne se soucient pas vraiment de la vie privée parce qu'ils agissent constamment à l'encontre de leurs besoins et de leurs souhaits en matière de protection de la vie privée. Mais je pense qu'il s'agit là d'une fausse dichotomie. Par exemple, vivez votre journée et voyez combien de fois vous devez prendre des décisions pour accepter que vos informations aillent quelque part - qu'il s'agisse d'accéder à une page web, à votre compte bancaire pour payer vos factures, à toutes ces choses différentes, puis choisissez-en une et essayez de le faire de manière à ce que vos informations n'aillent pas plus loin que cela.
Vous constaterez rapidement que l'un des problèmes que nous rencontrons n'est pas que les gens expriment le souhait de bénéficier de certains aspects de la vie privée dans leur vie et dans la manière dont ils interagissent avec les applications, les appareils et les entreprises, mais que c'est tout simplement trop difficile et trop long pour eux de passer par là à chaque fois. Même si vous dites "Je ne veux pas partager mes cookies", la plupart du temps vous devez cliquer sur quatre étapes différentes pour simplement dire "Ne me suivez pas sur Internet". Donc, si vous êtes occupé et que vous essayez simplement de vivre votre vie, c'est tout simplement trop difficile. Même si je travaille dans le domaine de la protection de la vie privée, il m'arrive parfois d'accéder à mon compte bancaire en ligne et de me dire : " Très bien, prenez les cookies, j'ai juste besoin de payer cette facture et ensuite je dois aller donner un cours ".
Cette fausse perception selon laquelle les gens ne se soucient pas de la vie privée ou que la vie privée n'a pas d'importance, alors qu'en réalité il est vraiment très difficile, dans la façon dont notre société numérique s'est développée, d'avoir une protection de la vie privée sur vos données. C'est vraiment agréable d'entendre comment notre recherche peut réellement avoir une importance dans la vie quotidienne des gens et comment elle affecte leurs décisions et ce qu'ils font tout au long de la journée. C'est donc très agréable.
Adam White :
Merci beaucoup de vous être joints à nous aujourd'hui. J'ai été ravie d'entendre parler de vos recherches et je me réjouis de travailler avec vous dans les années à venir.
Bailey Kacsmar :
Merci, ça devrait aller !