Exercice 60 / 60

Distances et Similarites

Mesures de distance et similarite pour le ML

Distances courantes :

Deux points, trois façons de mesurer leur écart : l'euclidienne va tout droit, la Manhattan suit la grille, et la similarité cosinus ne regarde que l'angle, sans tenir compte des longueurs

Euclidienne (L2) : d(x,y) = √(Σ(xᵢ-yᵢ)²) → La plus classique, sensible a l'echelle.

Manhattan (L1) : d(x,y) = Σ|xᵢ-yᵢ| → Robuste aux outliers, utilisee en grille.

Similarite cosinus : cos(θ) = (x·y) / (||x||×||y||) → Mesure l'angle entre vecteurs, ignore la magnitude.

cos = 1 : meme direction
cos = 0 : orthogonaux
cos = -1 : directions opposees

Distance de Minkowski (generalise L1 et L2) : d(x,y) = (Σ|xᵢ-yᵢ|ᵖ)^(1/p) p=1 → Manhattan, p=2 → Euclidienne

En ML :

KNN : choix de la distance impacte les resultats
Clustering (K-means) : euclidienne
NLP (word embeddings) : cosinus
Recommendation : cosinus ou corrrelation de Pearson

✏️ Exercice

x = (1, 2, 3), y = (4, 6, 3).

Calculez : a) Distance euclidienne, b) Distance Manhattan, c) Similarite cosinus.