Explicabilité flexible et spécifique au contexte de l'IA : A Multidisciplinary Approach.

Résumé L'enthousiasme récent pour l'intelligence artificielle (IA) est principalement dû aux progrès de l'apprentissage profond. Les méthodes d'apprentissage profond sont remarquablement précises, mais aussi opaques, ce qui limite leur utilisation potentielle dans les applications critiques pour la sécurité. Pour obtenir la confiance et la responsabilité, les concepteurs et les opérateurs d'algorithmes d'apprentissage automatique doivent être en mesure d'expliquer le fonctionnement interne, les résultats et les causes des défaillances des algorithmes aux utilisateurs, aux régulateurs et aux citoyens. L'originalité de cet article est de combiner les aspects techniques, juridiques et économiques de l'explicabilité pour développer un cadre permettant de définir le "bon" niveau d'explicabilité dans un contexte donné. Nous proposons trois étapes logiques : Premièrement, définir les principaux facteurs contextuels, tels que l'audience de l'explication, le contexte opérationnel, le niveau de préjudice que le système pourrait causer, et le cadre légal/réglementaire. Cette étape aidera à caractériser les besoins opérationnels et juridiques de l'explication, ainsi que les avantages sociaux correspondants. Deuxièmement, examiner les outils techniques disponibles, y compris les approches post hoc (perturbation de l'entrée, cartes de saillance) et les approches d'IA hybrides. Troisièmement, en fonction des deux premières étapes, choisir les bons niveaux de sorties d'explication globales et locales, en tenant compte des coûts impliqués. Nous identifions sept types de coûts et soulignons que les explications ne sont socialement utiles que lorsque les bénéfices sociaux totaux dépassent les coûts.