Explicabilité par la responsabilité

Résumé

La génération de contenu procédural via l'apprentissage automatique (PCGML) désigne un groupe de méthodes permettant de créer du contenu de jeu (par exemple, des niveaux de plates-formes, des cartes de jeu, etc.) à l'aide de modèles d'apprentissage automatique. Les approches PCGML reposent sur des modèles de type "boîte noire", qui peuvent être difficiles à comprendre et à déboguer par des concepteurs humains ne possédant pas de connaissances spécialisées en apprentissage automatique. Cela peut être encore plus délicat dans les systèmes co-créatifs où les concepteurs humains doivent interagir avec des agents IA pour générer du contenu de jeu. Dans cet article, nous présentons une approche de l'intelligence artificielle explicable dans laquelle certaines instances d'apprentissage sont proposées aux utilisateurs humains pour expliquer les actions de l'agent d'IA pendant un processus de co-création. Nous évaluons cette approche en estimant sa capacité à fournir aux utilisateurs humains les explications des actions de l'agent IA et à les aider à coopérer plus efficacement avec l'agent IA.