pipikwan pêhtâkwan exploite l'IA pour aider à réduire la haine en ligne

Pour Shani Gwin, même quelque chose d'aussi simple que de parcourir les actualités en ligne peut devenir une expérience violente et hostile.

Mme Gwin explique qu'elle est une Métisse de sixième génération, liée à la famille Cunningham du côté de sa mère et aux Ferguson du côté de son père, ainsi qu'une descendante de la Première Nation Michelle par sa grand-mère paternelle.

Selon elle, chaque fois que l'on passe du temps en ligne - que ce soit sur les médias sociaux, les sites d'information ou presque n'importe où ailleurs - on est probablement confronté à des commentaires racistes et à des menaces à l'encontre des autochtones.

"Depuis que Facebook et Twitter sont apparus, j'ai dû lire beaucoup de commentaires sur ce que je suis. Et peut-être qu'ils ne disent pas "Shani est cette personne", mais "Les peuples indigènes méritent ceci"", dit-elle.

"C'est violent. C'est abusif, c'est violent."

Et ce ne sont pas seulement les lecteurs qui sont lésés par la haine en ligne, mais aussi ceux qui modèrent les commentaires. Mme Gwin est la fondatrice de pipikwan pêhtâkwan, une entreprise de communication basée à Edmonton qui s'attache à attirer l'attention sur les projets et les organisations autochtones. Elle explique que de nombreux clients avec lesquels elle travaille sont confrontés à un problème lorsqu'il s'agit de limiter les messages racistes sur leurs pages de médias sociaux. Ces messages doivent être signalés, examinés et traités, ce qui peut être une tâche difficile pour les employés autochtones.

Mme Gwin a pensé qu'il y avait peut-être un moyen de rendre le processus plus sûr pour toutes les personnes concernées. C'est ce qui l'a incitée à contacter Amii pour voir si l'intelligence artificielle et l'apprentissage automatique pouvaient apporter une solution.

Réduire les dommages

Elle espérait exploiter le potentiel de l'IA pour aider à identifier les commentaires potentiellement racistes sur des plateformes comme Facebook. L'apprentissage automatique a déjà été utilisé pour identifier et signaler des commentaires préjudiciables en ligne, mais Mme Gwin dit qu'elle n'a pas trouvé d'outil conçu spécifiquement pour gérer la haine envers les autochtones. Un modèle d'apprentissage automatique devait être formé pour reconnaître non seulement les commentaires explicitement racistes, mais aussi le langage codé et les préjugés cachés qui caractérisent une grande partie de la haine en ligne.

Le projet en est à ses premières étapes, qui consistent à collecter des données pour entraîner un modèle d'apprentissage automatique sur les types de commentaires à signaler. Pour ce faire, on pourrait utiliser des ensembles de données déjà existants qui identifient les mots associés aux discours racistes. Il pourrait aussi s'agir de collecter des exemples sur des pages de médias sociaux, en combinant efforts humains et logiciels automatisés.

Le comportement de la personne qui publie les commentaires pourrait également s'avérer utile dans le modèle, notamment pour déceler les propos racistes subtils ou codés. En ajoutant des données sur le comportement d'un commentateur ou sur les personnes avec lesquelles il interagit, le modèle peut aider à détecter des formes de racisme implicite.

Une fois qu'un commentaire a été signalé, il peut être caché et placé dans un espace d'attente jusqu'à ce qu'un être humain soit dans le bon état d'esprit ou ait la capacité de l'examiner.

"Si nous pouvons le mettre en quelque sorte en attente (...), cela permet d'atteindre un autre niveau de sécurité, de réduire les préjudices et de diminuer le risque de retraumatisme."

Mme Gwin indique qu'ils travaillent actuellement à la phase de collecte des données. L'étape suivante consistera à former le modèle.

Bâtir la confiance

Poursuivre cette idée n'était pas seulement un défi technique, c'était aussi une question de confiance. Mme Gwin fait remarquer que les autochtones ont dû apprendre et s'adapter à un système construit par - et conçu pour - la majorité blanche. La nécessité de naviguer dans ce système place les autochtones dans une position vulnérable et exige beaucoup de confiance.

"La confiance est une chose avec laquelle les peuples indigènes ont dû être ouverts. Il n'est pas difficile pour nous d'être méfiants avec une histoire d'oppression", dit-elle.

Mme Gwin a elle-même dû contourner ce système. Lorsqu'elle travaillait dans le secteur de la communication gouvernementale, elle était parfaitement consciente d'être la seule employée indigène. Elle a souvent dû contester certaines décisions qui, à ses yeux, étaient prises dans une optique essentiellement blanche, ce qui pouvait avoir un coût professionnel.

Cela l'a conduite à créer pipikwan pêhtâkwan en 2016. L'entreprise est détenue, dirigée et dotée d'un personnel majoritairement autochtone. L'instauration d'un climat de confiance avec d'autres organisations dirigées par des Autochtones permet à ces dernières d'aider à mettre en avant les projets et les problèmes qui pourraient autrement être ignorés, dit-elle. Bien que les communautés autochtones ne soient pas homogènes, elle affirme qu'il existe des valeurs et des approches communes qui aident pipikwan pêhtâkwan à créer ces relations authentiques avec leurs clients.

Mme Gwin affirme que la confiance est tout aussi importante pour elle en tant que femme autochtone dans le monde des affaires, ses idées étant souvent rejetées ou modifiées sans tenir compte de ses besoins réels. Mais travailler sur le projet d'apprentissage automatique avec Amii a été une expérience bien différente.

"J'ai senti qu'ils s'intéressaient à moi. L'équipe d'Amii a compris ce que je voulais faire et a vraiment cherché à comprendre mon problème. Et j'ai eu l'impression de travailler avec les bons experts pour me soutenir et m'aider à réaliser ce que je voulais faire", dit-elle.

C'était la première fois que Mme Gwin travaillait avec l'intelligence artificielle. En fait, elle dit que son expérience avec Amii l'a amenée à réfléchir à d'autres façons dont son travail pourrait être soutenu par l'intelligence artificielle.

"Je me sens suffisamment validé pour penser que je devrais retourner à ce projet pour lequel quelqu'un m'a dit non, et juste... essayer à nouveau."