Le débat mondial sur l'intelligence artificielle (IA) est complexe, multiforme et nuancé. Il ne s'agit pas d'une discussion sur un seul sujet, mais d'un débat qui touche une variété de domaines interconnectés avec des implications de grande portée. Dans ce contexte d'exploration permanente, la confiance et la sécurité en matière d'IA restent une priorité.

En novembre 2024, le Canada a fait un investissement audacieux dans la sécurité de l'IA en créant l'Institut canadien pour la sécurité de l'IA (CAISI). Ce lancement témoigne d'une reconnaissance claire du fait que la confiance et l'adoption dépendent de l'intégration de la sécurité au cœur du développement de l'IA. Il a également permis au Canada de se positionner au sein d'un réseau international d'instituts de sécurité en pleine expansion, qui fait progresser la sécurité de l'IA pour les systèmes d'IA les plus avancés du monde.

La confiance et la sécurité chez Amii

Amii est fière de participer à cet effort de premier plan. En janvier 2025, nous avons accueilli Alyssa Lefaivre Škopac en tant que premier directeur de la confiance et de la sécurité de l'IA afin de construire un portefeuille qui fait progresser l'excellence de la recherche d'Amii et élargit notre impact dans ce domaine critique.

"Ce qui me passionne le plus dans ce travail, c'est la possibilité de tirer parti des percées et des effets positifs que j'ai déjà constatés, tout en prenant les risques au sérieux. La sécurité de l'IA est souvent présentée comme étant en tension avec l'innovation, comme si nous devions choisir entre faire avancer le progrès ou assurer la sécurité. Les deux sont importants, et c'est le travail que nous faisons ici. En dépassant ce faux binaire, nous pouvons instaurer la confiance et réaliser de véritables progrès."

En plus de diriger l'équipe Trust & Safety d'Amii, Alyssa Škopac représente Amii au sein du conseil de recherche pour le programme de recherche de l'Institut canadien de sécurité de l'IA (CAISI) au CIFAR, aux côtés de Geoffrey Rockwell, boursier d'Amii et titulaire de la chaire d'IA du CIFAR. Le programme a récemment attribué ses premières subventions de catalyseur d'IA aux boursiers Amii et aux chaires d'IA du CIFAR Matthew Taylor, Mi Jung Park et Randy Goebel.

Ces projets s'appuient sur les forces de recherche des boursiers de l'Amii, qui couvrent desdomaines techniques tels que l'explicabilité, l'équité, l'évaluation et la protection de la vie privée, ainsi qu'une expertise dans les domaines de la santé, de la philosophie, de la robotique, de la gouvernance et au-delà. Ensemble, ces compétences élargissent la capacité du Canada à mieux comprendre les risques et les possibilités des systèmes d'IA avancés et à explorer des moyens pratiques d'y faire face.

Concentré et ambitieux

Pour avoir un impact dans ce paysage, il faut se concentrer clairement et choisir délibérément la direction à prendre.

"La technologie, les capacités et le paysage de la recherche évoluent très rapidement. C'est un peu fou d'essayer de suivre", a déclaré M. Škopac. "Nous savons que nous devrons nous adapter, évoluer et réagir à mesure que les choses changent. Mais l'impact signifie qu'il faut se concentrer et faire des choix clairs quant à l'endroit où commencer.

Le leadership d'Amii dans le domaine de l'apprentissage par renforcement (RL) en fait le point de départ naturel du programme de recherche sur la confiance et la sécurité. En tant que l'une des techniques les plus puissantes de l'IA moderne, l'apprentissage par renforcement présente des aspects importants pour la sécurité et la confiance, dont l'importance ne fera que croître au fur et à mesure de la maturation de la technologie. En se concentrant d'abord sur ce point, Amii s'appuie sur une expertise approfondie tout en anticipant les questions qui façonneront le débat mondial sur la sécurité de l'IA. L'objectif est de s'assurer que les méthodes de RL ne font pas seulement progresser la science, mais qu'elles sont également robustes, fiables et prêtes à être adoptées dans le monde réel.

Regarder au coin de la rue

La recherche d'Amii sur la confiance et la sécurité s'appuie sur des bases solides en matière de recherche, d'alphabétisation, de développement des talents et de leadership de l'écosystème. Ces forces permettent de se concentrer sur les domaines où l'impact est le plus évident, tout en créant une marge de manœuvre pour s'étendre à de nouveaux domaines d'investigation.

M. Škopac souligne que si la recherche d'Amii sur la confiance et la sécurité est ciblée, elle est également conçue pour s'adapter à l'évolution du paysage. Rester en direct et informé de ce qui va émerger est un élément central de la façon dont le travail est façonné.

"Le discours est désordonné, les définitions changent et la voie à suivre n'est pas toujours évidente", explique-t-elle. "Mais le progrès vient de la vérification des hypothèses, de la collaboration et de la progression même en l'absence d'une clarté parfaite.

Ce travail ne se fait pas dans le vide. Amii collabore avec ses réseaux nationaux et internationaux, en comblant les lacunes, en établissant des liens et en apportant sa contribution là où ses forces apportent le plus de valeur ajoutée. L'approche est claire : rester concentré, rester agile et rester connecté à l'écosystème plus large qui façonne l'avenir de l'IA.

Instaurer la confiance, soutenir l'adoption

La confiance n'est pas un interrupteur que l'on peut actionner. Elle se construit au fil du temps grâce à des actions cohérentes, à l'alignement des mots et des pratiques et à la collaboration entre les communautés.

Les travaux d'Amii sur la confiance et la sécurité contribuent à cet effort à long terme en faisant progresser la recherche sur la confiance et la sécurité dans le domaine de l'apprentissage par renforcement, en s'engageant dans plusieurs disciplines et en travaillant avec des partenaires pour élargir l'impact et permettre une adoption responsable.

Grâce à ce travail, Amii renforce la position du Canada en tant que leader mondial dans l'élaboration de l'avenir de la confiance et de la sécurité de l'IA.

M. Škopac résume la situation : "Il s'agit de construire les fondations de la confiance qui rendent l'adoption possible. Cela signifie qu'il faut être cohérent, réfléchi et tourné vers l'avenir, tout en reconnaissant que nous n'agissons pas seuls. Ce travail est profondément lié et collaboratif. C'est difficile, mais c'est vraiment important. Et c'est ce qui le rend passionnant".

En savoir plus sur le programme Trust & Safety d'Amii et rester informé des derniers développements ICI.