Leçon 2 sur 5
Transparence et explicabilité des modèles
Je sais expliquer comment un modèle d'IA prend ses décisions, choisir une méthode d'explication adaptée et rédiger une explication compréhensible pour la personne concernée.
- 1 h 25
- 6 exercices corrigés
- QCM de 7 questions
À la fin de la leçon, vous saurez :
- Distinguer transparence, interprétabilité et explicabilité
- Interpréter un modèle intrinsèquement lisible (régression logistique, arbre de décision)
- Calculer et interpréter des contributions de variables et des valeurs de Shapley simples
- Construire une explication contrefactuelle utile à la personne concernée
- Documenter un modèle avec une fiche de modèle
Avant de commencer : Leçon 1 (biais et équité) ; régression logistique et arbres de décision.
1Je découvre
Kafo Crédit a corrigé les biais de son modèle de notation avec Sabou Data. Un matin, Aïssatou, couturière au marché de Madina à Conakry, se présente à l'agence. Sa demande de prêt de 5 millions de GNF pour acheter deux machines à coudre a été refusée. Elle demande simplement : « Pourquoi ? Qu'est-ce que je dois changer pour être acceptée la prochaine fois ? »
L'agent de crédit ouvre l'application et ne voit qu'un nombre : « score 0,20 — refus ». Il ne sait pas quoi répondre. Le même jour, l'inspecteur de la banque partenaire demande à Sabou Data de prouver que le modèle ne repose pas sur des critères interdits, et le directeur général veut savoir si le modèle restera fiable pendant la saison des pluies.
Trois personnes, trois besoins d'explication différents : la cliente veut une raison et une piste d'action ; le contrôleur veut vérifier la logique d'ensemble ; le dirigeant veut comprendre les limites.
Comment rendre lisible la décision d'un modèle d'IA, pour qui, et avec quelles méthodes ?
La suite se lit avec votre compte Kharandi Université
La première leçon de chaque cours est libre. Kharandi Université est une inscription à part de l’école : avec votre compte étudiant, vous lisez toutes les leçons en entier, avec les exercices corrigés et les QCM, et les 7 premiers jours sont offerts.
Voir toutes les leçons de Éthique, droit et gouvernance de l'intelligence artificielle
Signaler une erreur dans cette leçon
Toutes les leçons de Éthique, droit et gouvernance de l'intelligence artificielle