Mise en forme invariante de la politique utile à partir de conseils arbitraires

Résumé

La croissance rapide de la recherche en intelligence artificielle explicable (XAI) fait suite à deux développements substantiels. Tout d'abord, l'énorme succès des applications des méthodes modernes d'apprentissage automatique, en particulier l'apprentissage profond et l'apprentissage par renforcement, qui ont suscité de grandes attentes en termes de valeur industrielle, commerciale et sociale. Deuxièmement, l'émergence d'une préoccupation pour la création de systèmes d'IA de confiance, y compris la création de principes réglementaires pour assurer la transparence et la confiance des systèmes d'IA. Ces deux fils conducteurs ont créé une sorte de "tempête parfaite" d'activité de recherche, tous désireux de créer et de fournir tout ensemble d'outils et de techniques pour répondre à la demande XAI. Comme le suggèrent certaines enquêtes sur le XAI actuel, il n'y a pas encore de cadre de principe qui respecte la littérature sur l'explicabilité dans l'histoire des sciences, et qui fournisse une base pour le développement d'un cadre pour le XAI transparent. Ici, nous avons l'intention de fournir un inventaire stratégique des exigences de l'IAO, de démontrer leur lien avec l'histoire des idées de l'IAO et de synthétiser ces idées dans un cadre simple pour calibrer cinq niveaux successifs d'IAO.