Vers l'audit des algorithmes : Une enquête sur la gestion des risques juridiques, éthiques et technologiques de l'IA, du ML et des algorithmes associés.

Résumé

La dépendance des entreprises à l'égard des algorithmes devient omniprésente, et les entreprises sont de plus en plus préoccupées par le fait que leurs algorithmes puissent causer des dommages financiers ou de réputation importants. Parmi les cas les plus médiatisés, citons le scandale du Dieselgate de VW, qui a entraîné des amendes d'une valeur de 34,69 milliards de dollars, la faillite de Knight Capital (~450 millions de dollars) à cause d'un problème dans son système de trading algorithmique, et la suppression de l'outil de recrutement de l'IA d'Amazon, qui s'est révélé partial à l'égard des femmes. En réponse, les gouvernements légifèrent et imposent des interdictions, les régulateurs infligent des amendes aux entreprises, et le pouvoir judiciaire discute de la possibilité de faire des algorithmes des "personnes" artificielles en droit.

Bientôt, des "milliards" d'algorithmes prendront des décisions avec une intervention humaine minimale, qu'il s'agisse de véhicules autonomes, de finances, de traitements médicaux, d'emploi ou de décisions juridiques. En effet, l'adaptation à des problèmes dépassant les capacités humaines est l'un des principaux arguments en faveur de l'utilisation de ces algorithmes. Comme pour l'audit financier, les gouvernements, les entreprises et la société auront besoin d'un audit algorithmique, c'est-à-dire d'une assurance formelle que les algorithmes sont légaux, éthiques et sûrs. Une nouvelle industrie est envisagée : Audit et assurance des algorithmes (cf. confidentialité des données), avec pour mission de professionnaliser et d'industrialiser l'IA, le ML et les algorithmes associés.

Les parties prenantes vont de ceux qui travaillent sur la politique et la réglementation, aux praticiens et développeurs de l'industrie. Nous prévoyons également que la nature et la portée des niveaux et du cadre de vérification présentés informeront ceux qui s'intéressent aux systèmes de gouvernance et à la conformité aux règlements/normes. L'objectif de cet article est de passer en revue les domaines clés nécessaires à la réalisation d'un audit et d'une assurance, et de lancer le débat dans ce nouveau domaine de recherche et de pratique.