Aller au contenu
Apprentissage automatique · L3

Leçon 2 sur 5

Plus proches voisins, arbres de décision et forêts aléatoires

Je sais classer un exemple par la méthode des k plus proches voisins, construire un arbre de décision avec l'indice de Gini ou l'entropie, et expliquer pourquoi une forêt aléatoire généralise mieux qu'un arbre seul.

  • 1 h 30
  • 6 exercices corrigés
  • QCM de 7 questions

À la fin de la leçon, vous saurez :

  • Appliquer l'algorithme des k plus proches voisins et justifier la standardisation des variables
  • Calculer l'indice de Gini, l'entropie et le gain d'une division
  • Construire et lire un arbre de décision, et en limiter la profondeur
  • Expliquer le bagging, le tirage aléatoire des variables et l'erreur hors sac d'une forêt aléatoire
  • Choisir entre ces méthodes selon les données et le besoin d'explication

Avant de commencer : Leçon 1 (cadre de l'apprentissage, sur-apprentissage, entraînement et test).

1Je découvre

À Kankan Microcrédit, Mme Condé a validé le principe : on va apprendre à partir des dossiers passés. Deux agents de crédit défendent chacun leur façon de raisonner.

Fanta, la plus ancienne, raisonne par ressemblance : « Ce nouveau dossier me rappelle trois commerçantes de Missira : même ancienneté, même revenu. Deux sur trois ont bien remboursé, donc j'accorde. » Ibrahima, lui, suit une liste de questions : « A-t-elle un revenu régulier ? Si oui, a-t-elle déjà épargné chez nous ? Si non, a-t-elle un garant ? »

Les deux raisonnements semblent sensés. Le premier ressemble à un algorithme qui cherche les voisins ; le second à un arbre de décision. Mais lequel est le plus fiable, et peut-on faire mieux en combinant plusieurs arbres ?

Comment transformer ces deux façons de raisonner en algorithmes d'apprentissage, et comment les rendre robustes ?

La suite se lit avec votre compte Kharandi Université

La première leçon de chaque cours est libre. Kharandi Université est une inscription à part de l’école : avec votre compte étudiant, vous lisez toutes les leçons en entier, avec les exercices corrigés et les QCM, et les 7 premiers jours sont offerts.

Voir toutes les leçons de Apprentissage automatique

Signaler une erreur dans cette leçon

Toutes les leçons de Apprentissage automatique

Pose ta question à Karamö