La régression linéaire cherche à modéliser la relation entre une variable y (à prédire) et une variable x (prédicteur) par une droite :
La droite de régression ne passe pas par n'importe où : elle traverse toujours le point moyen du nuage, celui qui a pour coordonnées la moyenne des x et la moyenne des y
ŷ = a + b × x
a = ordonnée à l'origine (valeur de ŷ quand x = 0)
b = pente (variation de ŷ quand x augmente de 1)
ŷ se lit « y chapeau », c'est la valeur prédite par le modèle
1. Calcul de la pente b
b = Cov(X, Y) / Var(X)
Cov(X,Y) mesure comment X et Y varient ensemble.
Var(X) mesure la dispersion de X.
Intuition : b indique de combien y augmente (ou diminue) quand x augmente d'1 unité.
2. Calcul de l'ordonnée à l'origine a
Une fois b connu, on utilise les moyennes :
a = ȳ − b × x̄
La droite passe toujours par le point moyen (x̄, ȳ).
3. Le coefficient de détermination R²
Il mesure la qualité de l'ajustement du modèle.
R² ∈ [0, 1]
R² = 1 : modèle parfait (la droite passe par tous les points)
R² = 0 : la droite ne capture rien (autant tirer au hasard)
R² = 0,9 : le modèle explique 90 % de la variance de y