Le programme de recherche du Canadian AI Safety Institute (CAISI) du CIFAR publie son Bilan de fin d'année 2025 : Construire une IA sûre pour les Canadiens, l'Amii est fière de souligner les progrès réalisés dans le cadre de cette collaboration en tant que partenaire clé. Alyssa Lefaivre Škopac, directrice de la confiance et de la sécurité chez Amii, partage quelques-unes des étapes importantes que notre équipe a franchies en collaboration avec le programme de recherche du CAISI.

L'année 2025 a été consacrée à l'établissement des fondements du programme Trust and Safety chez Amii. Après le lancement du Canadian AI Safety Institute en 2024, nous nous sommes concentrés sur la constitution de l'équipe, le renforcement des capacités et l'établissement des partenariats nécessaires pour apporter une contribution scientifique et de recherche significative à certaines des questions techniques et sociales les plus complexes liées aux systèmes d'IA avancés.

Nous avons constitué une équipe de cinq personnes comprenant la direction du programme, deux chercheurs en recherche appliquée, un ingénieur en apprentissage automatique et un chercheur postdoctoral. Parallèlement, nous avons élaboré un programme de recherche ciblé et ambitieux, fondé sur la force principale d'Amii en matière d'apprentissage par renforcement. Le travail a consisté à définir une orientation, à harmoniser les priorités et à mettre en place les personnes et les structures appropriées pour étudier les vulnérabilités des modèles de pointe et explorer comment de nouvelles mesures de protection peuvent être conçues, testées et évaluées.

La recherche n'est qu'une partie du tableau. Notre équipe a passé beaucoup de temps à discuter avec des entreprises et des dirigeants au sujet de la confiance, de la sécurité et du déploiement dans le monde réel, notamment lors de notre événement phare, Upper Bound. Ces conversations ont renforcé ce que nous constatons régulièrement dans la pratique : la confiance, la sécurité et l'innovation vont de pair.

Dans la perspective de 2026, le département Trust and Safety d'Amii passe à l'action. De nouveaux projets de recherche sont en cours, les partenariats se renforcent et nous nous concentrons sur la production de travaux qui façonnent la manière dont les systèmes d'IA de pointe sont construits et déployés. Grâce à des bases solides, nous sommes en mesure de continuer à tenir nos engagements. Restez à l'écoute. Beaucoup d'autres choses sont à venir !