Aller au contenu
Analyse des données multidimensionnelles · L3

Leçon 1 sur 5

Analyse en composantes principales

Je sais réaliser une analyse en composantes principales normée, choisir le nombre d'axes et interpréter les variables et les individus à l'aide des corrélations, des contributions et des cosinus carrés.

  • 1 h 30
  • 6 exercices corrigés
  • QCM de 7 questions

À la fin de la leçon, vous saurez :

  • Formaliser un tableau individus × variables, son centre de gravité et son inertie
  • Obtenir les axes principaux par diagonalisation de la matrice des corrélations
  • Choisir le nombre d'axes avec les pourcentages d'inertie, le critère de Kaiser et l'éboulis
  • Interpréter le cercle des corrélations et le plan des individus
  • Juger la qualité de représentation et le rôle de chaque individu par les cosinus carrés et les contributions

Avant de commencer : Statistique descriptive, algèbre linéaire (diagonalisation d'une matrice symétrique réelle), cours de probabilités et statistique de L2.

1Je découvre

Aïssatou est statisticienne au cabinet Wakili Études (cabinet fictif), à Conakry. Une ONG lui confie le traitement d'une enquête sur les conditions de vie des ménages dans six zones : Kaloum, Kindia, Labé, Kankan, Faranah et N'Zérékoré. Ce cours la suivra pendant ses cinq leçons. Pour commencer, elle dispose de quatre indicateurs moyens par zone. Les chiffres sont fictifs, construits pour la leçon.

ZoneAccès à l'eau potable (%)Scolarisation des filles (%)Distance au centre de santé (km)Taille du ménage (personnes)
Kaloum908425,8
Kindia726667,6
Labé607486,2
Kankan685878,8
Faranah5055127,0
N'Zérékoré566398,0

Avec quatre variables, il faudrait six nuages de points pour examiner toutes les paires, et aucun ne montrerait l'ensemble. Dans l'enquête complète, Aïssatou aura des centaines de ménages et une trentaine de variables. Elle cherche une image plane qui déforme le moins possible le nuage réel.

Comment résumer un tableau de variables quantitatives corrélées par quelques axes, et comment lire correctement la carte obtenue ?

2Je comprends

1. Le cadre : nuage des individus, centre de gravité, inertie

Les données forment une matrice X à n lignes (les individus) et p colonnes (les variables quantitatives) ; xij est la valeur de la variable j pour l'individu i. Chaque individu est un point de ℝp ; on suppose ici des poids égaux 1/n.

  • Le centre de gravité est le point moyen g = (x1, …, xp).
  • L'inertie du nuage mesure sa dispersion autour de g : I = 1nΣi=1n d2(ei, g). Avec la distance euclidienne usuelle, l'inertie est la somme des variances des variables.

Quand les variables ont des unités différentes (pourcentages, kilomètres, personnes), on les centre et réduit : zij = xij - xjsj, où sj est l'écart-type calculé avec le diviseur n. On parle d'ACP normée. Chaque variable réduite a une variance égale à 1, donc l'inertie totale vaut p.

Sans réduction, la variable de plus grande variance (ici l'accès à l'eau, écart-type 13 points) écraserait la taille du ménage (écart-type 1 personne). L'ACP non normée, sur variables seulement centrées, se réserve aux variables de même unité et d'ordres de grandeur comparables (par exemple des notes sur 20).

2. Les axes principaux : un problème de valeurs propres

On cherche un vecteur unitaire u tel que la variance des projections Zu soit maximale. Cette variance vaut utop R u, où R = 1n Ztop Z est la matrice des corrélations. On maximise donc utop R u sous la contrainte utop u = 1.

Par la méthode de Lagrange, on obtient R u = λ u : u est un vecteur propre de R et la variance projetée vaut λ, la valeur propre associée. Comme R est symétrique réelle et semi-définie positive, elle se diagonalise dans une base orthonormée et ses valeurs propres sont positives ou nulles. On les range : λ1 ≥ λ2 ≥ … ≥ λp ≥ 0.

ObjetFormuleInterprétation
Axe kvecteur propre uk de Rdirection de projection
Composante principale kFk = Z uknouvelle variable, coordonnées des individus
Variance de Fkλkinertie portée par l'axe k
Part d'inertieλk / p« pourcentage d'information » de l'axe
Somme des valeurs propresΣk λk = pinertie totale de l'ACP normée

Les composantes principales sont non corrélées deux à deux : l'axe 2 apporte une information que l'axe 1 ne contient pas.

Exemple

Cas de deux variables réduites de corrélation r > 0.

Étape 1 : R = [[1, r], [r, 1]].

Étape 2 : polynôme caractéristique (1 − λ)² − r² = 0, donc λ = 1 + r ou λ = 1 − r.

Étape 3 : vecteurs propres unitaires u1 = (1/√2, 1/√2) et u2 = (1/√2, −1/√2).

Étape 4 : F1 = (z1 + z2)/√2 est un « score moyen » ; F2 = (z1 − z2)/√2 oppose les deux variables.

Étape 5 : part d'inertie de l'axe 1 = (1 + r)/2. Pour r = 0,8 : 1,8/2 = 90 %.

Plus les variables sont corrélées, plus un seul axe suffit à les résumer.

3. Combien d'axes garder ?

Sur les données d'Aïssatou, la diagonalisation de R donne (valeurs arrondies) :

AxeValeur propreInertie (%)Inertie cumulée (%)
13,02875,7075,70
20,88722,1797,87
30,0852,1299,99
40,00040,01100

Vérification : 3,028 + 0,887 + 0,085 + 0,0004 ≈ 4 = p.

Trois critères, à croiser :

  • Inertie cumulée : on garde assez d'axes pour atteindre un seuil raisonnable (souvent 70 à 80 %, à adapter au nombre de variables).
  • Critère de Kaiser (ACP normée) : on garde les axes de valeur propre supérieure à 1, c'est-à-dire qui résument plus qu'une variable d'origine. Ici, il ne retient que l'axe 1.
  • Éboulis des valeurs propres : on trace λk en fonction de k et on s'arrête au « coude ».
λ
3,0 | *
2,0 |
1,0 |      *
0,0 |           *      *
    +----+-----+------+----- axes
         1     2      3     4

Ici, le coude est après l'axe 2, et le plan 1-2 restitue près de 98 % de l'inertie : Aïssatou garde deux axes, même si Kaiser n'en retient qu'un. Avec seulement six individus, ces pourcentages sont très élevés ; sur des données réelles de centaines de ménages, ils sont souvent bien plus modestes.

4. Interpréter les variables : le cercle des corrélations

La corrélation entre la variable j et la composante Fk vaut r(xj, Fk) = √λk ujk. On représente chaque variable par le point de coordonnées (r(xj, F1), r(xj, F2)) ; il se trouve dans le cercle de rayon 1.

VariableCorrélation avec F1Corrélation avec F2
Accès à l'eau potable0,9100,383
Scolarisation des filles0,953−0,219
Distance au centre de santé−0,926−0,376
Taille du ménage−0,6590,742

Contrôle : la somme des carrés d'une colonne redonne la valeur propre ; pour l'axe 1, 0,9102 + 0,9532 + 0,9262 + 0,6592 ≈ 3,028.

Règles de lecture :

  • une variable proche du cercle est bien représentée dans le plan ; près du centre, on ne l'interprète pas ;
  • deux variables bien représentées et proches sont corrélées positivement ; opposées, négativement ; à angle droit, peu corrélées ;
  • on nomme un axe à partir des variables qui lui sont le plus corrélées.

L'axe 1 oppose l'accès à l'eau et la scolarisation des filles (à droite) à l'éloignement des soins (à gauche) : c'est un axe d'accès aux services de base. L'axe 2 est surtout lié à la taille du ménage (corrélation 0,742).

5. Interpréter les individus : coordonnées, contributions, cosinus carrés

ZoneF1F2CTR axe 1 (%)CTR axe 2 (%)cos2 plan 1-2
Kaloum3,40−0,0563,50,10,998
Kindia0,300,660,58,20,981
Labé0,43−1,241,028,90,944
Kankan−0,921,514,742,91,000
Faranah−2,03−1,0222,619,50,963
N'Zérékoré−1,180,147,70,40,891
  • La contribution de l'individu i à l'axe k mesure son poids dans la construction de l'axe : CTRi(k) = Fik2n λk. Les contributions d'un axe somment à 100 % ; la moyenne vaut 100/n %, soit 16,7 % ici.
  • Le cosinus carré mesure la qualité de représentation : cos2i(k) = Fik2d2(ei, g). Il somme à 1 sur tous les axes ; sur un plan, on additionne les deux cosinus carrés.

Exemple

Contribution de Kaloum à l'axe 1.

Étape 1 : F11 = 3,396, donc F11² ≈ 11,535.

Étape 2 : n λ1 = 6 × 3,028 ≈ 18,169.

Étape 3 : CTR = 11,535 / 18,169 ≈ 0,635, soit 63,5 %.

Lecture : Kaloum construit à lui seul près des deux tiers de l'axe 1. C'est un individu très

influent ; on vérifie que ce n'est pas une erreur de saisie et on peut refaire l'ACP sans lui,

en le projetant ensuite comme individu supplémentaire.

Lecture du plan : Kaloum, à droite, cumule bon accès à l'eau, scolarisation élevée et soins proches ; Faranah, à gauche, cumule les difficultés. L'axe 2 sépare Kankan (grands ménages, coordonnée 1,51) de Labé (ménages plus petits que la moyenne, −1,24) à niveau d'accès comparable. On n'interprète la position d'un individu que s'il est bien représenté (cos2 élevé) dans le plan.

6. Éléments supplémentaires et mise en œuvre

On peut projeter après coup des individus supplémentaires (une nouvelle zone) ou des variables supplémentaires (un indicateur de revenu, une variable qualitative comme le milieu urbain ou rural) : ils ne participent pas au calcul des axes mais aident à les interpréter.

Méthode

  1. Vérifier que les variables sont quantitatives et choisir ACP normée ou non normée.
  2. Calculer la matrice des corrélations et repérer les liaisons fortes.
  3. Diagonaliser : valeurs propres, inertie, inertie cumulée, éboulis ; choisir le nombre d'axes.
  4. Nommer chaque axe avec le cercle des corrélations (variables proches du cercle).
  5. Lire le plan des individus : contributions pour comprendre les axes, cos² pour la fiabilité.
  6. Contrôler les individus trop influents ; utiliser les éléments supplémentaires.
  7. Conclure en phrases compréhensibles par le commanditaire.
import numpy as np
X = np.array([[90, 84, 2, 5.8], [72, 66, 6, 7.6], [60, 74, 8, 6.2],
              [68, 58, 7, 8.8], [50, 55, 12, 7.0], [56, 63, 9, 8.0]])
Z = (X - X.mean(axis=0)) / X.std(axis=0)   # écart-type de diviseur n
R = Z.T @ Z / len(Z)                        # matrice des corrélations
valp, vecp = np.linalg.eigh(R)              # ordre croissant
ordre = valp.argsort()[::-1]
valp, vecp = valp[ordre], vecp[:, ordre]
F = Z @ vecp                                # coordonnées des individus
print(valp.round(3), (100 * valp / valp.sum()).round(2))

Le signe d'un vecteur propre est arbitraire : un logiciel peut donner l'axe « retourné ». L'interprétation ne change pas.

3Je retiens

Je retiens

L'ACP résume p variables quantitatives par des composantes non corrélées, d'inertie décroissante.

ACP normée : variables centrées réduites, matrice des corrélations, inertie totale égale à p.

Les axes sont les vecteurs propres de R ; la valeur propre λk est la variance de la composante Fk.

Nombre d'axes : inertie cumulée, Kaiser (λ > 1), coude de l'éboulis ; croiser les critères.

Corrélation variable-axe : √λk × ujk ; on lit le cercle avec les variables proches du bord.

Contribution : F²/(nλ), pour comprendre qui construit l'axe ; moyenne 100/n %.

Cosinus carré : qualité de représentation ; on n'interprète que les points bien représentés.

4Erreurs fréquentes

  • Faire une ACP non normée sur des variables d'unités différentes : la plus dispersée impose l'axe 1.
  • Interpréter la proximité de deux variables mal représentées (proches du centre du cercle).
  • Conclure sur la position d'un individu dont le cos² dans le plan est faible.
  • Lire la distance entre une variable du cercle et un individu du plan : ce sont deux espaces différents.
  • Appliquer Kaiser mécaniquement sans regarder l'éboulis ni l'objectif de l'étude.
  • Croire qu'un axe « retourné » par un logiciel donne une autre interprétation : seul le signe change.

5Je m’exerce

1Exercice 1

(Questions de cours)

a) Pourquoi l'inertie totale d'une ACP normée vaut-elle p ?

b) Que représente la valeur propre λk ?

c) Quelle différence faites-vous entre contribution et cosinus carré d'un individu ?

Voir le corrigéCacher le corrigé

a) Chaque variable centrée réduite a une variance égale à 1 ; l'inertie est la somme des variances, donc p × 1 = p. b) C'est la variance de la composante Fk, c'est-à-dire l'inertie du nuage projeté sur l'axe k. c) La contribution mesure la part de l'individu dans la construction de l'axe (somme 100 % sur les individus) ; le cosinus carré mesure à quel point l'individu est bien représenté par l'axe (somme 1 sur les axes). Un individu peut être bien représenté sans contribuer beaucoup, et inversement.

2Exercice 2

Deux variables réduites ont une corrélation r = 0,6.

a) Calculez les valeurs propres de l'ACP normée et le pourcentage d'inertie de l'axe 1.

b) Donnez les vecteurs propres unitaires.

c) Calculez la corrélation de chaque variable avec la première composante.

Voir le corrigéCacher le corrigé

a) λ1 = 1 + r = 1,6 et λ2 = 1 - r = 0,4. Inertie de l'axe 1 : 1,6/2 = 80 %.

b) u1 = (1/√2, 1/√2) et u2 = (1/√2, -1/√2).

c) r(xj, F1) = √1,6 × 1√2 = √0,8 ≈ 0,894 pour les deux variables. Contrôle : 2 × 0,8 = 1,6 = λ1.

3Exercice 3

Une ACP normée sur 6 variables donne les valeurs propres 2,9 ; 1,5 ; 0,8 ; 0,5 ; 0,2 ; 0,1.

a) Vérifiez la cohérence de ces valeurs.

b) Calculez les pourcentages d'inertie et l'inertie cumulée.

c) Combien d'axes retenez-vous selon Kaiser ? selon un seuil de 80 % d'inertie cumulée ?

Voir le corrigéCacher le corrigé

a) Toutes sont positives et leur somme vaut 2,9 + 1,5 + 0,8 + 0,5 + 0,2 + 0,1 = 6 = p : c'est cohérent.

b)

Axe123456
Inertie (%)48,3325,0013,338,333,331,67
Cumul (%)48,3373,3386,6795,0098,33100

c) Kaiser : 2 axes (2,9 et 1,5 dépassent 1). Seuil de 80 % : 3 axes (73,33 % ne suffit pas, 86,67 % oui). On discute ensuite l'intérêt de l'axe 3 avec l'éboulis et l'interprétation.

4Exercice 4

À partir des résultats de la leçon (zones d'Aïssatou) :

a) Recalculez la contribution de Faranah à l'axe 1 (F1 = -2,028, λ1 = 3,028).

b) La distance au carré de Kindia au centre de gravité vaut 0,539 ; ses coordonnées sont F1 = 0,304 et F2 = 0,660. Calculez sa qualité de représentation dans le plan 1-2.

c) Quelles zones contribuent plus que la moyenne à l'axe 2 ?

Voir le corrigéCacher le corrigé

a) CTR = (-2,028)26 × 3,028 = 4,11318,168 ≈ 0,226, soit 22,6 %.

b) cos2 = 0,3042 + 0,66020,539 = 0,092 + 0,4360,539 = 0,5280,539 ≈ 0,98. Kindia est très bien représentée dans le plan, essentiellement par l'axe 2.

c) La moyenne est 100/6 ≈ 16,7 %. Kankan (42,9 %), Labé (28,9 %) et Faranah (19,5 %) dépassent ce seuil.

5Exercice 5

Un étudiant écrit R = np.cov(X.T) puis diagonalise R pour faire l'ACP des données de la leçon.

a) Quelle analyse obtient-il réellement ? Quel en est le défaut ici ?

b) Corrigez la ligne pour obtenir l'ACP normée.

Voir le corrigéCacher le corrigé

a) np.cov donne la matrice des covariances : il obtient une ACP non normée (et avec le diviseur n-1, ce qui ne change que l'échelle des valeurs propres). L'accès à l'eau (variance d'environ 168) domine ; la taille du ménage (variance d'environ 1) ne pèse presque rien, alors qu'elle structure l'axe 2 de l'ACP normée.

b) On remplace par R = np.corrcoef(X.T), ou on centre-réduit d'abord : Z = (X - X.mean(0)) / X.std(0) puis R = Z.T @ Z / len(Z).

6Exercice 6

(Type examen) Une enquête agricole en Basse-Guinée mesure sur 40 exploitations : X1 le rendement en riz (t/ha), X2 la dose d'engrais (kg/ha), X3 la distance au marché le plus proche (km). La matrice des corrélations est

R = beginpmatrix 1 & 0,8 & 0
0,8 & 1 & 0
0 & 0 & 1 endpmatrix
.

a) Montrez que λ1 = 1,8, λ2 = 1, λ3 = 0,2 et donnez les vecteurs propres associés.

b) Calculez les pourcentages d'inertie. Combien d'axes retenez-vous ?

c) Calculez les corrélations des trois variables avec F1 et F2 et décrivez le cercle des corrélations.

d) Interprétez les deux premiers axes en une phrase chacun.

Voir le corrigéCacher le corrigé

a) Le bloc beginpmatrix 1 & 0,8
0,8 & 1 endpmatrix
a pour valeurs propres 1,8 et 0,2, avec les vecteurs (1/√2, 1/√2) et (1/√2, -1/√2). X3, non corrélée aux autres, donne la valeur propre 1. Donc u1 = (1/√2, 1/√2, 0) pour λ1 = 1,8 ; u2 = (0, 0, 1) pour λ2 = 1 ; u3 = (1/√2, -1/√2, 0) pour λ3 = 0,2. Vérification : 1,8 + 1 + 0,2 = 3.

b) 60 %, 33,3 %, 6,7 % ; cumul 60 % puis 93,3 %. On garde 2 axes : le plan 1-2 restitue 93,3 %, et λ2 = 1 atteint la limite de Kaiser ; l'axe 3 (6,7 %) est négligeable.

c) r(X1, F1) = r(X2, F1) = √1,8/√2 = √0,9 ≈ 0,949 ; r(X3, F1) = 0. Sur l'axe 2 : r(X3, F2) = √1 × 1 = 1, les autres valent 0. Dans le cercle, X1 et X2 sont presque confondues près de (0,949 ; 0), X3 est sur le cercle en (0 ; 1), à angle droit.

d) Axe 1 : intensification de la culture (engrais et rendement élevés vont ensemble). Axe 2 : enclavement des exploitations (distance au marché), indépendant de l'intensification.

Cherchez d’abord seul, sur votre cahier, puis ouvrez le corrigé pour comparer.

6Je vérifie

Choisissez une réponse pour chaque question : la correction s’affiche aussitôt.

1Dans une ACP normée sur 8 variables, la somme des valeurs propres vaut :
Voir la réponse

Réponse C : 8. L'inertie totale est égale au nombre de variables réduites.

2Pourquoi réduit-on les variables avant l'ACP ?
Voir la réponse

Réponse B : pour que des variables d'unités différentes pèsent autant. Sans réduction, la variable de plus grande variance domine l'analyse.

3La corrélation entre la variable j et la composante Fk vaut :
Voir la réponse

Réponse B : √λk ujk. La composante a pour variance λk ; d'où le facteur √λk.

4Le critère de Kaiser retient, en ACP normée, les axes dont la valeur propre est :
Voir la réponse

Réponse B : supérieure à 1. Un axe retenu doit résumer plus qu'une variable d'origine, de variance 1.

5Deux variables proches du cercle et formant un angle droit sont :
Voir la réponse

Réponse A : peu corrélées. L'angle entre deux variables bien représentées approche leur corrélation par son cosinus.

6Un individu a un cosinus carré de 0,15 dans le plan 1-2. On peut dire que :
Voir la réponse

Réponse B : il est mal représenté dans ce plan et sa position doit être lue avec prudence. Le cos² mesure la qualité de représentation, pas l'influence.

7Avec 20 individus de même poids, la contribution moyenne à un axe vaut :
Voir la réponse

Réponse B : 5 %. Les contributions somment à 100 % : 100/20 = 5 %.

Karamö, votre enseignant

Il a lu cette leçon. Posez-lui votre question : il vous répond ici.

Connectez-vous pour poser vos questions à Karamö.

Vous avez fini la leçon ?

Avec un compte Kharandi gratuit, vous cochez les leçons terminées et vous suivez votre progression, cours par cours.

Karamö
Un point pas clair ? Dites à Karamö ce qui vous bloque dans cette leçon : il vous l’explique autrement, pas à pas, sans faire le travail à votre place. Demander à Karamö
Signaler une erreur dans cette leçon

Toutes les leçons de Analyse des données multidimensionnelles

Pose ta question à Karamö