Explicabilité des modèles
- Avancé
- Transversal
Définition complète
L’explicabilité des modèles est la capacité de comprendre et restituer pourquoi un modèle d’IA a pris une décision donnée. Différente de l’interprétabilité (compréhension du fonctionnement global). Techniques : SHAP, LIME, attention maps, contrefactuels. Sujet critique pour les usages à fort enjeu : crédit, santé, RH, justice. Le cadre réglementaire (AI Act) impose des exigences sur les modèles à haut risque. L’explicabilité est imparfaite (approximation), mais essentielle pour la confiance, la conformité et le débogage.
À quoi ça sert
Cas d'usage typiques
1) Banque : justification d’un refus de crédit au client. 2) RH : analyse des critères d’un scoring candidat. 3) Santé : explication d’une prédiction au médecin. 4) Audit : dossier d’explicabilité pour le régulateur.
Mises en situation
Mettre cette notion à l'épreuve d'une situation professionnelle
Contexte
Une chargé d'animation d'une mairie de taille moyenne découvre la notion de « Explicabilité des modèles » et souhaite l'appliquer à une situation concrète de son métier.
Application
Elle prend un cas réel rencontré récemment, identifie comment la notion s'y applique et formalise en quelques phrases ce que cela change dans sa pratique. Elle partage le résultat avec un collègue pour s'assurer que sa compréhension tient la route et l'intègre dans sa boîte à outils.
Résultat attendu
La notion devient un repère utile pour les arbitrages quotidiens.