Corrélation (statistiques)

Page d'aide sur l'homonymie Pour les articles homonymes, voir Corrélation.

En probabilités et en statistique, étudier la corrélation entre deux ou plusieurs variables aléatoires ou statistiques numériques, c’est étudier l’intensité de la liaison qui peut exister entre ces variables. La liaison recherchée est une relation affine. Dans le cas de deux variables numériques, il s'agit de la régression linéaire.

Une mesure de cette corrélation est obtenue par le calcul du coefficient de corrélation linéaire. Ce coefficient est égal au rapport de leur covariance et du produit non nul de leurs écarts types. Le coefficient de corrélation est compris entre -1 et 1.

Sommaire

Histoire

La corrélation est un concept issu de la biologie. C'est par le biais des travaux de Francis Galton que la corrélation devient un concept statistique. Toutefois pour Galton, la notion de corrélation n'est pas définie précisément et il l'assimile dans un premier temps à la droite de régression d'un modèle de régression linéaire[1].

C'est ensuite Karl Pearson qui propose en 1896 une formule mathématique pour la notion de corrélation et un estimateur de cette grandeur[1].

La corrélation est introduite en économie avec l'ouvrage de Bowley Elements of Statistics en 1902[2] et l'intervention de George Udny Yule en 1909. Yule introduit notamment la notion de corrélation partielle[3],[1].

L'usage du coefficient de corrélation a suscité de vives controverses. Par exemple Maurice Fréchet s'y est vivement opposé en montrant les difficultés d'interprétation de ce paramètre[4],[1].

Droite de régression

Article détaillé : régression linéaire.

Calculer le coefficient de corrélation entre 2 variables numériques revient à chercher à résumer la liaison qui existe entre les variables à l'aide d'une droite. On parle alors d'un ajustement linéaire.

Comment calculer les caractéristiques de cette droite ? En faisant en sorte que l'erreur que l'on commet en représentant la liaison entre nos variables par une droite soit la plus petite possible. Le critère formel le plus souvent utilisé, mais pas le seul possible, est de minimiser la somme de toutes les erreurs effectivement commises au carré. On parle alors d'ajustement selon la méthode des moindres carrés ordinaires. La droite résultant de cet ajustement s'appelle une droite de régression. Plus la qualité globale de représentation de la liaison entre nos variables par cette droite est bonne, et plus le coefficient de corrélation linéaire associé l'est également. Il existe une équivalence formelle entre les deux concepts.

Coefficient de corrélation linéaire de Bravais-Pearson

Formule

r_p = \frac{\sigma_{xy}}{\sigma_x \sigma_y}

Par exemple, nous allons calculer le coefficient de corrélation entre deux séries de même longueur (cas typique : une régression). On suppose qu'on a les tableaux de valeurs suivants : X (x_1, \ldots, x_n) et Y (y_1, \ldots, y_n) pour chacune des deux séries. Alors, pour connaître le coefficient de corrélation liant ces deux séries, on applique la formule suivante :

r_p = \dfrac{\displaystyle \sum_{i=1}^N (x_i - \bar x)\cdot(y_i - \bar y)}{\sqrt{\displaystyle \sum_{i=1}^N (x_i - \bar x)^2}\cdot\sqrt{\displaystyle \sum_{i=1}^N (y_i - \bar y)^2}}

Si r vaut 0, les deux courbes ne sont pas corrélées. Les deux courbes sont d'autant mieux corrélées que r est loin de 0 (proche de -1 ou 1).

avec:


\sigma_{xy} =\frac{1}{N}{\sum_{i=1}^N (x_i - \bar x)\cdot(y_i - \bar y)} est la covariance entre x et y

\sigma_x =\sqrt{\dfrac{1}{N}\displaystyle \sum_{i=1}^N (x_i - \bar x)^2} est l'écart-type de X

et \sigma_y =\sqrt{\dfrac{1}{N}\displaystyle \sum_{i=1}^N (y_i - \bar y)^2} est l'écart-type de Y

\bar x =\dfrac{1}{N}{\displaystyle \sum_{i=1}^N x_i} est la moyenne de X et \bar y =\dfrac{1}{N}{\displaystyle \sum_{i=1}^N y_i} est la moyenne de Y

moyenne :

Soit xi la valeur de la variable pour l'individu i.
\sum_{i=1}^N x_i est la somme des N valeurs où N désigne le nombre d'individus.

\bar x =\dfrac{x_1+x_2+ ..+x_n}{N}=\dfrac{1}{N}{\displaystyle \sum_{i=1}^N x_i}

Interprétation

Exemples de coefficients de corrélation
Corrélation Négative Positive
Faible de −0.5 à 0.0 de 0.0 à 0.5
Forte de −1.0 à −0.5 de 0.5 à 1.0

Il est égal à 1 dans le cas où l'une des variables est fonction affine croissante de l'autre variable, à -1 dans le cas où la fonction affine est décroissante. Les valeurs intermédiaires renseignent sur le degré de dépendance linéaire entre les deux variables. Plus le coefficient est proche des valeurs extrêmes -1 et 1, plus la corrélation entre les variables est forte ; on emploie simplement l'expression « fortement corrélées » pour qualifier les deux variables. Une corrélation égale à 0 signifie que les variables sont linéairement indépendantes.

Le coefficient de corrélation n’est pas sensible aux unités de chacune des variables. Ainsi, par exemple, le coefficient de corrélation linéaire entre l’âge et le poids d’un individu sera identique que l’âge soit mesuré en semaines, en mois ou en années.

En revanche, ce coefficient de corrélation est extrêmement sensible à la présence de valeurs aberrantes ou extrêmes (ces valeurs sont appelées des "déviants") dans notre ensemble de données (valeurs très éloignées de la majorité des autres, pouvant être considérées comme des exceptions).

Plusieurs auteurs ont proposé des directives pour l'interprétation d'un coefficient de corrélation. Cohen (1988)[5], a observé, toutefois, que tous ces critères sont à certains égards arbitraires et ne doivent pas être trop strictement observés. L'interprétation d'un coefficient de corrélation dépend du contexte et des objectifs. Une corrélation de 0,9 peut être très faible si l'on vérifie une loi physique en utilisant des instruments de qualité, mais peut être considérée comme très élevée dans les sciences sociales où il peut y avoir une contribution plus importante de facteurs de complication.

Interprétation géométrique

Les deux séries de valeurs X (x_1, \ldots, x_n) et Y (y_1, \ldots, y_n) peuvent être considérées comme des vecteurs dans un espace à n dimensions. Remplaçons-les par des vecteurs centrés : X (x_1 - \bar x, \ldots, x_n - \bar x) et Y (y_1 - \bar y, \ldots, y_n - \bar y).

Le cosinus de l'angle α entre ces vecteurs est donné par la formule suivante (produit scalaire normé) :

\cos(\alpha) = \dfrac{\displaystyle \sum_{i=1}^N (x_i - \bar x)\cdot(y_i - \bar y)}{\sqrt{\displaystyle \sum_{i=1}^N (x_i - \bar x)^2}\cdot\sqrt{\displaystyle \sum_{i=1}^N (y_i - \bar y)^2}}

Donc cos(α) = rp

Le coefficient de corrélation n’est autre que le cosinus de l'angle α entre les deux vecteurs centrés !

Si r = 1, l’angle α = 0, les deux vecteurs sont colinéaires (parallèles).
Si r = 0, l’angle α = 90°, les deux vecteurs sont orthogonaux.
Si r = -1, l’angle α vaut 180°, les deux vecteurs sont colinéaires de sens opposé.
Plus généralement : α = arccos(r), où arccos  est la réciproque de la fonction cosinus.

Bien sûr, du point vue géométrique, on ne parle pas de « corrélation linéaire » : le coefficient de corrélation a toujours un sens, quelle que soit sa valeur entre -1 et 1. Il nous renseigne de façon précise, non pas tant sur le degré de dépendance entre les variables, que sur leur distance angulaire dans l’hypersphère à n dimensions.

Dépendance

Attention, il est toujours possible de calculer un coefficient de corrélation (sauf cas très particulier) mais un tel coefficient n'arrive pas toujours à rendre compte de la relation qui existe en réalité entre les variables étudiées. En effet, il suppose que l'on essaye de juger de l'existence d'une relation linéaire entre nos variables. Il n'est donc pas adapté pour juger de corrélations qui ne seraient pas linéaires et non linéarisables. Il perd également de son intérêt lorsque les données étudiées sont très hétérogènes puisqu'il représente une relation moyenne et que l'on sait que la moyenne n'a pas toujours un sens, notamment si la distribution des données est multi modale.

Si les deux variables sont totalement indépendantes, alors leur corrélation est égale à 0. La réciproque est cependant fausse, car le coefficient de corrélation indique uniquement une dépendance linéaire. D'autres phénomènes, par exemple, peuvent être corrélés de manière exponentielle, ou sous forme de puissance (voir série statistique à deux variables en mathématiques élémentaires).

Supposons que la variable aléatoire X soit uniformément distribuée sur l'intervalle [-1;1], et que Y = X2 ; alors Y est complètement déterminée par X, de sorte que X et Y ne sont pas indépendants, mais leur corrélation vaut 0.

Ces considérations sont illustrées par des exemples dans le domaine des statistiques.

Correlation100.png
Correlation077.png
Correlation000.png

Relation de cause à effet

Lignes de régression pour la dépendance y=gx(x) [rouge] et x=gy(y) [bleu]
Article détaillé : Cum hoc ergo propter hoc.

Une erreur courante est de croire qu'un coefficient de corrélation élevé induit une relation de causalité entre les deux phénomènes mesurés. En réalité, les deux phénomènes peuvent être corrélés à un même phénomène-source : une troisième variable non mesurée, et dont dépendent les deux autres. Le nombre de coups de soleil observés dans une station balnéaire, par exemple, peut être fortement corrélé au nombre de lunettes de soleil vendues ; mais aucun des deux phénomènes n'est probablement la cause de l'autre.

Précautions à prendre

D'une manière générale, l'étude de la relation entre des variables, quelles qu'elles soient, doit s'accompagner de graphiques descriptifs, exhaustifs ou non dans l'appréhension des données à notre disposition, pour éviter de subir les limites purement techniques des calculs que nous utilisons. Néanmoins, dès qu'il s'agit de s'intéresser à des liaisons entre de nombreuses variables, les représentations graphiques peuvent ne plus être possibles ou être au mieux illisibles. Les calculs, comme ceux évoqués jusqu'à présent et donc limités par définition, nous aident alors à simplifier les interprétations que nous pouvons donner des liens entre nos variables, et c'est bien là leur intérêt principal. Il restera alors à vérifier que les principales hypothèses nécessaires à leur bonne lecture soient validées avant une quelconque interprétation.

Articles connexes

Notes et références

  1. a, b, c et d Michel Armatte, « Le statut changeant de la corrélation en économétrie (1910-1944) », dans Revue économique, vol. 52, no 3, 2001, p. 617-631 [[www.cairn.info/revue-economique-2001-3-page-617.htm texte intégral] (page consultée le 9/9/2011)] 
  2. BOWLEY A.L. [1901], Elements of Statistics, Londres, King and Son, 2e éd. 1902,335 p.; 4e éd. 1920,454 p.; trad. française sur la 5e éd. par L. Suret et G. Lutfalla, 1929.
  3. YULE G.U. [1909], « Les applications de la méthode de corrélation aux statistiques sociales et économiques », BIIS, 28 (1), compte rendu de la 12e session de Paris, p. 265-277.
  4. FRECHET M. [1934], « Sur l’usage du soi-disant coefficient de corrélation », Rapport pour la 22e session de l’IIS à Londres, Bulletin de l’IIS.
  5. Cohen, J. (1988). Statistical power analysis for the behavioral sciences (2nd ed.)
  • Portail des probabilités et des statistiques Portail des probabilités et des statistiques

Wikimedia Foundation. 2010.

Contenu soumis à la licence CC-BY-SA. Source : Article Corrélation (statistiques) de Wikipédia en français (auteurs)

Regardez d'autres dictionnaires:

  • Correlation (mathematiques) — Corrélation (statistiques) Pour les articles homonymes, voir Corrélation. En probabilités et en statistique, étudier la corrélation entre deux ou plusieurs variables aléatoires ou statistiques, c’est étudier l’intensité de la liaison qui peut… …   Wikipédia en Français

  • Corrélation de Spearman — En statistique, la corrélation de Spearman (nommée d après Charles Spearman) est étudiée lorsque deux variables statistiques semblent corrélées sans que la relation entre les deux variables soit de type affine. Elle consiste à trouver un… …   Wikipédia en Français

  • corrélation — [ kɔrelasjɔ̃ ] n. f. • 1718; correlacion v. 1420; bas lat. correlatio 1 ♦ Philos. Rapport entre deux phénomènes (⇒ corrélat) qui varient en fonction l un de l autre. ⇒ correspondance, interdépendance, réciprocité. ♢ Statist. Coefficient de… …   Encyclopédie Universelle

  • Correlation — Corrélation Cette page d’homonymie répertorie les différents sujets et articles partageant un même nom …   Wikipédia en Français

  • Correlation de Spearman — Corrélation de Spearman En statistique, la corrélation de Spearman (nommée d après Charles Spearman) est étudiée lorsque deux variables statistiques semblent corrélées sans que la relation entre les deux variables soit de type affine. Elle… …   Wikipédia en Français

  • Correlation electronique — Corrélation électronique L expression de corrélation électronique est utilisée pour décrire l interaction entre électrons dans un système quantique, dont on considère la structure électronique. Le terme de corrélation provient des mathématiques… …   Wikipédia en Français

  • Statistiques/Archive1 — Statistiques  Pour un article sur une statistique consultez l article statistique La statistique est à la fois une science d un point de vue théorique, une méthode et une technique. Elle comprend la collecte, l analyse, l interprétation de… …   Wikipédia en Français

  • Correlation croisee — Corrélation croisée La corrélation croisée est parfois utilisée en statistique pour désigner la covariance Cov(X,Y) des vecteurs aléatoires X et Y, afin de distinguer ce concept de la covariance d un vecteur aléatoire X, laquelle est comprise… …   Wikipédia en Français

  • Corrélation linéaire — Régression linéaire Pour les articles homonymes, voir Régression. Un exemple graphique En statistiques, étant donné un échantillon aléatoire …   Wikipédia en Français

  • Corrélation partielle (statistiques) — Sommaire 1 Formule 2 Démonstration géométrique 3 Domaines d application 4 Références Formule Le coef …   Wikipédia en Français


Share the article and excerpts

Direct link
Do a right-click on the link above
and select “Copy Link”

We are using cookies for the best presentation of our site. Continuing to use this site, you agree with this.