Kevin Leyton-Brown ne craint pas seulement que l'avenir de la désinformation générée par l'IA consiste à tromper les gens. Il craint plutôt qu'il s'agisse de les pousser à se méfier des autres. 

Leyton-Brown, titulaire de la chaire CIFAR en IA de l'Université de Colombie-Britannique et d'Amii Canada, a fait partie d'une équipe internationale de chercheurs qui a étudié comment les réseaux multi-agents de désinformation pourraient influencer les élections et affaiblir les institutions démocratiques, soulignant ainsi l'importance d'approfondir les recherches sur la confiance et la sécurité en matière d'IA. 

« Ce n’est vraiment pas si difficile à faire, et c’est assez difficile à détecter », dit-il. 

L'article, « Comment les essaims d’IA malveillants peuvent menacer la démocratie », a été publié dans la prestigieuse revue Science au début de cette année. Outre Leyton-Brown, les auteurs sont des chercheurs issus de près de 20 institutions, dont l’Institut Max Planck pour la sécurité et la vie privée, Oxford, Harvard, Cambridge, le MIT et l’ETH Zurich. Les auteurs affirment que les récentes avancées en matière de grands modèles linguistiques et de systèmes d’IA multi-agents pourraient conduire à l’émergence d’« essaims » d’agents d’IA malveillants, travaillant de concert pour diffuser de la désinformation de manière plus efficace et plus difficile à détecter. 

Leyton-Brown compare ces méthodes potentielles de désinformation à la manière dont la retouche photographique a modifié le degré de confiance que les gens accordent aux images. « Pendant de nombreuses décennies, une photographie constituait une preuve irréfutable qu’un événement s’était produit. Aujourd’hui, nous avons perdu cela, et nous ne le retrouverons jamais. C’est un changement colossal », a-t-il déclaré. 

Une vieille tactique, une nouvelle technologie

La désinformation en ligne est un sujet de préoccupation depuis des décennies. Mais, comme le soulignent les auteurs, les tentatives antérieures n’ont eu qu’un impact limité. Les campagnes de désinformation organisées représentaient autrefois une tâche très exigeante en main-d’œuvre : les « fermes à trolls » devaient payer des centaines de personnes pour passer des heures à rédiger et à publier de fausses informations sur les réseaux sociaux et les blogs. Non seulement il s’agissait d’une entreprise coûteuse, explique Leyton-Brown, mais cela rendait également les fausses informations plus faciles à identifier. En conséquence, leur impact était relativement faible. L’article souligne qu’une évaluation de la campagne russe de 2016 a révélé que « seulement 1 % des utilisateurs avaient vu 70 % de son contenu, sans effet mesurable sur les opinions ou le taux de participation ».

« C’étaient des preuves irréfutables dès qu’on les voyait. Ces comptes publiaient tous en même temps et n’avaient d’autres amis que les uns les autres », explique Leyton-Brown. Mais les outils d’IA ont changé la donne. Au lieu de faire appel à des personnes pour rédiger et publier manuellement des informations trompeuses, les modèles de langage grand échelle (LLM) peuvent générer des textes qui semblent avoir été écrits par des humains. Cela a donné lieu à des campagnes plus complexes : l’article met en avant l’utilisation de l’IA dans des tentatives visant à influencer l’opinion publique sur des sujets tels que le changement climatique et l’aide internationale en Inde et à Taïwan en 2024, qui semblent avoir été bien plus efficaces. Et les auteurs craignent que l’utilisation d’une IA multi-agents ne rende ces campagnes de désinformation encore plus sophistiquées.

L'IA multi-agents est un domaine de recherche qui s'intéresse aux systèmes dans lesquels plusieurs agents intelligents interagissent entre eux. Ces agents peuvent avoir des objectifs et des capacités différents, susceptibles d'influencer les uns les autres. Selon leur configuration, ils peuvent également coopérer pour atteindre des objectifs plus larges. Les véhicules autonomes constituent un bon exemple de systèmes multi-agents : bien qu'ils partagent la route et respectent certaines règles communes, chaque véhicule autonome a sa propre destination et ses propres instructions.

Selon Leyton-Brown, un essaim multi-agents de bots pourrait diffuser de la désinformation d’une manière qu’un agent isolé ne pourrait pas. Un essaim pourrait publier une série de messages donnant l’impression d’une conversation entre différents utilisateurs, explique-t-il, faisant ainsi passer une idée marginale ou une théorie du complot pour une opinion plus largement acceptée qu’elle ne l’est en réalité. Il note que les essaims basés sur des LLM seraient également plus difficiles à détecter que les formes antérieures de désinformation. Une personne méfiante face à la désinformation en ligne pourrait se montrer sur ses gardes si quelqu’un lui répondait directement, mais elle risquerait d’être trompée par ce qui semble être une conversation naturelle entre d’autres personnes. 

Les essaims multi-agents peuvent également se montrer très tenaces, publiant des messages toute la journée sans jamais s’arrêter. Selon l’article, cela peut non seulement exposer davantage de personnes à la désinformation, mais aussi servir à d’autres fins, telles que le harcèlement de journalistes et de partis d’opposition. On craint également que les essaims d’IA puissent introduire de la désinformation dans d’autres modèles de langage à grande échelle (LLM), qui sont souvent entraînés à partir d’informations publiées en ligne. Si ces données d’entraînement sont contaminées par de fausses informations, celles-ci pourraient être transmises par inadvertance par d’autres modèles. Pour Leyton-Brown, le problème n’est pas tant que les essaims d’IA puissent amener les gens à croire à de la désinformation. Il craint plutôt qu’ils ne brouillent les pistes, amenant les gens à perdre confiance dans toutes les actualités ou informations qu’ils entendent. Cela pourrait conduire les gens à ne faire confiance qu’à un petit groupe de célébrités et de sources vérifiées, excluant ainsi d’autres voix précieuses du débat. Ou bien, ils pourraient tout simplement se désengager complètement du débat, ce qui pourrait entraîner une baisse du taux de participation électorale et affaiblir le processus électoral. 

« Je pense que le plus gros problème, c’est qu’ils risquent tout simplement de nous priver de notre capacité à communiquer les uns avec les autres. Sur les réseaux sociaux, on pourrait finir par ne plus croire qu’une personne que l’on ne connaît pas est une personne réelle », explique-t-il. 

Utiliser les données pour lutter contre la désinformation

Ces « essaims d’IA » constituent une menace potentielle, affirme Leyton-Brown. Mais des mesures peuvent être prises pour y faire face. Les auteurs de l’article proposent plusieurs idées pour lutter contre les essaims de désinformation. Certaines de ces suggestions visent à améliorer les plateformes susceptibles d’héberger de la désinformation. L'article suggère de développer des outils de type « AI Shield » qui permettraient d'évaluer en temps réel les publications afin de déterminer la probabilité qu'elles proviennent d'un essaim, tout en protégeant la vie privée des utilisateurs. De même, ils indiquent que des simulations pourraient être utilisées pour soumettre les plateformes à des tests de résistance avant des événements majeurs tels que des élections, ce qui permettrait de détecter les failles susceptibles d'être exploitées par les essaims d'IA. 

Des méthodes telles que les tests de persuasion-risque, qui évaluent la capacité d'un modèle de langage de grande échelle (LLM) à influencer les croyances et les comportements humains, constituent un outil existant susceptible d'empêcher l'utilisation de ces modèles à des fins malveillantes. De même, le tatouage numérique, qui permet d'identifier clairement les contenus générés par l'intelligence artificielle, pourrait faire partie de la solution. 

Les auteurs soulignent que, la désinformation étant un problème mondial, sa lutte nécessite une coopération internationale. Ils suggèrent qu’un « Observatoire mondial de l’influence de l’IA », soutenu par une organisation internationale telle que l’ONU, pourrait non seulement recenser les campagnes de désinformation avérées, mais aussi servir de système d’alerte précoce face à de nouvelles tentatives d’utilisation de l’IA visant à influencer l’opinion publique et le comportement électoral.  

Mais pour Leyton-Brown, la première étape la plus évidente pour lutter contre la désinformation réside dans l’information vérifiée : il existe un manque de compréhension quant à l’impact que ces essaims multi-agents pourraient avoir sur les démocraties. Il est urgent de mener davantage de recherches dans ce domaine et dans d’autres aspects liés à la sécurité de l’IA. Et comme une grande partie de cette désinformation circule sur des plateformes privées, les données à ce sujet ne sont pas facilement accessibles à ceux qui souhaitent en savoir plus. Il appelle à accorder une grande attention et à consacrer des ressources à l’étude des risques liés aux essaims d’IA et à l’élaboration de solutions pour les combattre. « Je ne pense pas qu’il s’agisse d’une solution miracle qui ferait disparaître le problème. Mais c’est une mesure que l’on pourrait prendre pour y répondre, et qui permettrait au moins de commencer à évaluer l’ampleur du problème. »

Consultez l'article complet

L'article complet auquel il est fait référence dans cet article, intitulé « Comment des essaims d'IA malveillants peuvent menacer la démocratie », a été publié dans la revue *Science*.