Identifier le "bon" niveau d'explication dans une situation donnée.

Résumé Nous présentons un cadre permettant de définir le "bon" niveau d'explicabilité en fonction de considérations techniques, juridiques et économiques. Notre approche comporte trois étapes logiques : Tout d'abord, définir les principaux facteurs contextuels, tels que l'audience de l'explication, le contexte opérationnel, le niveau de préjudice que le système pourrait causer, et le cadre légal/réglementaire. Cette étape aidera à caractériser les besoins opérationnels et juridiques de l'explication, ainsi que les avantages sociaux correspondants. Deuxièmement, examiner les outils techniques disponibles, y compris les approches post-hoc (perturbation de l'entrée, cartes de saillance.) et les approches d'IA hybrides. Troisièmement, en fonction des deux premières étapes, choisir les bons niveaux de sorties d'explication globales et locales, en tenant compte des coûts impliqués. Nous identifions sept types de coûts et soulignons que les explications ne sont socialement utiles que lorsque les bénéfices sociaux totaux dépassent les coûts.