Aller au contenu
Optimisation 1 · L2

Leçon 5 sur 5

Les méthodes numériques : gradient et Newton

Je sais appliquer à la main quelques itérations de la méthode du gradient et de la méthode de Newton, choisir un pas convenable, comparer leurs vitesses de convergence et écrire l'algorithme correspondant.

  • 1 h 15
  • 4 exercices corrigés
  • QCM de 5 questions

À la fin de la leçon, vous saurez :

  • Expliquer pourquoi l'opposé du gradient est une direction de descente
  • Appliquer la méthode du gradient à pas fixe et à pas optimal sur une fonction quadratique
  • Énoncer la condition de pas pour la convergence sur une quadratique
  • Appliquer la méthode de Newton en dimension 1 et 2
  • Comparer convergence linéaire et quadratique, avantages et coûts des deux méthodes

Avant de commencer : Leçons 1 et 2 du cours (convexité, gradient, hessienne, conditions d'optimalité) ; suites numériques ; résolution de systèmes linéaires 2 × 2.

1Je découvre

Un bureau d'études de Conakry ajuste un modèle de consommation d'électricité à des milliers de relevés. La fonction d'erreur à minimiser dépend de dizaines de paramètres : résoudre ∇ f = 0 à la main est impossible. L'ingénieur lance un programme qui part d'un point au hasard et « descend » pas à pas. Sur son ordinateur portable, une première méthode met des milliers d'itérations ; une autre converge en cinq, mais chaque itération est beaucoup plus lourde.

Un randonneur perdu dans le brouillard sur les pentes du Fouta Djallon ferait de même : sans voir la vallée, il suivrait la pente la plus forte sous ses pieds.

Comment construire des algorithmes qui approchent le minimum d'une fonction, et comment choisir entre la méthode du gradient et celle de Newton ?

La suite se lit avec votre compte Kharandi Université

La première leçon de chaque cours est libre. Kharandi Université est une inscription à part de l’école : avec votre compte étudiant, vous lisez toutes les leçons en entier, avec les exercices corrigés et les QCM, et les 7 premiers jours sont offerts.

Voir toutes les leçons de Optimisation 1

Signaler une erreur dans cette leçon

Toutes les leçons de Optimisation 1

Pose ta question à Karamö