Leçon 2 sur 5
Plus proches voisins, arbres de décision et forêts aléatoires
Je sais classer un exemple par la méthode des k plus proches voisins, construire un arbre de décision avec l'indice de Gini ou l'entropie, et expliquer pourquoi une forêt aléatoire généralise mieux qu'un arbre seul.
- 1 h 30
- 6 exercices corrigés
- QCM de 7 questions
À la fin de la leçon, vous saurez :
- Appliquer l'algorithme des k plus proches voisins et justifier la standardisation des variables
- Calculer l'indice de Gini, l'entropie et le gain d'une division
- Construire et lire un arbre de décision, et en limiter la profondeur
- Expliquer le bagging, le tirage aléatoire des variables et l'erreur hors sac d'une forêt aléatoire
- Choisir entre ces méthodes selon les données et le besoin d'explication
Avant de commencer : Leçon 1 (cadre de l'apprentissage, sur-apprentissage, entraînement et test).
1Je découvre
À Kankan Microcrédit, Mme Condé a validé le principe : on va apprendre à partir des dossiers passés. Deux agents de crédit défendent chacun leur façon de raisonner.
Fanta, la plus ancienne, raisonne par ressemblance : « Ce nouveau dossier me rappelle trois commerçantes de Missira : même ancienneté, même revenu. Deux sur trois ont bien remboursé, donc j'accorde. » Ibrahima, lui, suit une liste de questions : « A-t-elle un revenu régulier ? Si oui, a-t-elle déjà épargné chez nous ? Si non, a-t-elle un garant ? »
Les deux raisonnements semblent sensés. Le premier ressemble à un algorithme qui cherche les voisins ; le second à un arbre de décision. Mais lequel est le plus fiable, et peut-on faire mieux en combinant plusieurs arbres ?
Comment transformer ces deux façons de raisonner en algorithmes d'apprentissage, et comment les rendre robustes ?
La suite se lit avec votre compte Kharandi Université
La première leçon de chaque cours est libre. Kharandi Université est une inscription à part de l’école : avec votre compte étudiant, vous lisez toutes les leçons en entier, avec les exercices corrigés et les QCM, et les 7 premiers jours sont offerts.