Problèmes liés au déploiement de modèles basés sur l'apprentissage automatique dans le domaine de la santé

Résumé :

Dans un article complémentaire, Verma et ses collègues discutent de la façon dont les solutions d'apprentissage automatique peuvent être développées et mises en œuvre pour soutenir la prise de décision médicale.1 Les systèmes d'aide à la décision et les outils de prédiction clinique développés à l'aide de l'apprentissage automatique (y compris le cas particulier de l'apprentissage profond) sont similaires aux outils d'aide clinique développés à l'aide de modèles statistiques classiques et, à ce titre, présentent des limites similaires.2,3 Un modèle qui fait des prédictions erronées peut conduire ses utilisateurs à faire des erreurs qu'ils n'auraient pas faites autrement lors de la prise en charge des patients, et il est donc important de comprendre comment ces modèles peuvent échouer.4 Nous discutons de ces limites - en nous concentrant sur deux problèmes en particulier : la généralisation hors distribution (ou hors échantillon) et l'attribution incorrecte de caractéristiques - pour souligner la nécessité de prendre en compte les avertissements potentiels lors de l'utilisation de solutions d'apprentissage automatique.