📊 𝑳𝒐𝒔𝒔 𝑭𝒖𝒏𝒄𝒕𝒊𝒐𝒏𝒔 𝒆𝒏 𝑴𝒂𝒄𝒉𝒊𝒏𝒆 𝑳𝒆𝒂𝒓𝒏𝒊𝒏𝒈 : 𝒄𝒐𝒎𝒑𝒓𝒆𝒏𝒅𝒓𝒆 𝒄𝒆 𝒒𝒖𝒆 𝒍𝒆 𝒎𝒐𝒅𝒆̀𝒍𝒆 𝒄𝒉𝒆𝒓𝒄𝒉𝒆 𝒂̀ 𝒎𝒊𝒏𝒊𝒎𝒊𝒔𝒆𝒓

En 𝑴𝒂𝒄𝒉𝒊𝒏𝒆 𝑳𝒆𝒂𝒓𝒏𝒊𝒏𝒈, une bonne prédiction ne suffit pas.

Il faut aussi mesurer à quel point le modèle se trompe.

C’est exactement le rôle des 𝒇𝒐𝒏𝒄𝒕𝒊𝒐𝒏𝒔 𝒅𝒆 𝒑𝒆𝒓𝒕𝒆, encore appelées 𝑳𝒐𝒔𝒔 𝑭𝒖𝒏𝒄𝒕𝒊𝒐𝒏𝒔.

👉 Une fonction de perte quantifie l’écart entre la 𝒑𝒓𝒆́𝒅𝒊𝒄𝒕𝒊𝒐𝒏 du modèle et la 𝒗𝒂𝒍𝒆𝒖𝒓 𝒓𝒆́𝒆𝒍𝒍𝒆.

Plus cette perte est faible, plus le modèle apprend correctement.

Pensez à 𝒍𝒂 𝒍𝒊𝒌𝒆𝒓 et à 𝒍𝒂 𝒑𝒂𝒓𝒕𝒂𝒈𝒆𝒓.

📌 𝑨̀ 𝒓𝒆𝒕𝒆𝒏𝒊𝒓 :
𝑬𝒏𝒕𝒓𝒂𝒊̂𝒏𝒆𝒓 𝒖𝒏 𝒎𝒐𝒅𝒆̀𝒍𝒆, 𝒄’𝒆𝒔𝒕 𝒔𝒖𝒓𝒕𝒐𝒖𝒕 𝒄𝒉𝒆𝒓𝒄𝒉𝒆𝒓 𝒂̀ 𝒎𝒊𝒏𝒊𝒎𝒊𝒔𝒆𝒓 𝒖𝒏𝒆 𝒇𝒐𝒏𝒄𝒕𝒊𝒐𝒏 𝒅𝒆 𝒑𝒆𝒓𝒕𝒆.

🔹 𝑳𝒆𝒔 𝒑𝒓𝒊𝒏𝒄𝒊𝒑𝒂𝒍𝒆𝒔 𝒍𝒐𝒔𝒔 𝒇𝒖𝒏𝒄𝒕𝒊𝒐𝒏𝒔 𝒆𝒏 𝒓𝒆́𝒈𝒓𝒆𝒔𝒔𝒊𝒐𝒏

Lorsque la cible est 𝒒𝒖𝒂𝒏𝒕𝒊𝒕𝒂𝒕𝒊𝒗𝒆, on utilise souvent :

✅ 𝑴𝑺𝑬 – Mean Squared Error
Elle pénalise fortement les grandes erreurs. Très utilisée en régression.

✅ 𝑴𝑨𝑬 – Mean Absolute Error
Elle mesure l’erreur absolue moyenne. Plus robuste aux valeurs extrêmes.

✅ 𝑯𝒖𝒃𝒆𝒓 𝑳𝒐𝒔𝒔
Un compromis entre MSE et MAE.

✅ 𝑸𝒖𝒂𝒏𝒕𝒊𝒍𝒆 𝑳𝒐𝒔𝒔
Utile pour la prévision par quantiles.

✅ 𝑷𝒐𝒊𝒔𝒔𝒐𝒏 𝑳𝒐𝒔𝒔
Adaptée aux variables de comptage.

🔹 𝑳𝒆𝒔 𝒍𝒐𝒔𝒔 𝒇𝒖𝒏𝒄𝒕𝒊𝒐𝒏𝒔 𝒆𝒏 𝒄𝒍𝒂𝒔𝒔𝒊𝒇𝒊𝒄𝒂𝒕𝒊𝒐𝒏

Quand l’objectif est de prédire une 𝒄𝒂𝒕𝒆́𝒈𝒐𝒓𝒊𝒆, les plus utilisées sont :

✅ 𝑪𝒓𝒐𝒔𝒔-𝑬𝒏𝒕𝒓𝒐𝒑𝒚 / 𝑳𝒐𝒈 𝑳𝒐𝒔𝒔
La référence pour la classification.

✅ 𝑩𝒊𝒏𝒂𝒓𝒚 𝑪𝒓𝒐𝒔𝒔-𝑬𝒏𝒕𝒓𝒐𝒑𝒚
Très utilisée pour les problèmes binaires.

✅ 𝑲𝑳 𝑫𝒊𝒗𝒆𝒓𝒈𝒆𝒏𝒄𝒆
Mesure la différence entre deux distributions de probabilité.

✅ 𝑯𝒊𝒏𝒈𝒆 𝑳𝒐𝒔𝒔
Fréquente avec les SVM.

✅ 𝑺𝒒𝒖𝒂𝒓𝒆𝒅 𝑯𝒊𝒏𝒈𝒆
Une version plus pénalisante du Hinge Loss.

✅ 𝑭𝒐𝒄𝒂𝒍 𝑳𝒐𝒔𝒔
Très utile en cas de déséquilibre de classes.

🔹 𝑳𝒆𝒔 𝒍𝒐𝒔𝒔 𝒇𝒖𝒏𝒄𝒕𝒊𝒐𝒏𝒔 𝒔𝒑𝒆́𝒄𝒊𝒂𝒍𝒊𝒔𝒆́𝒆𝒔

Certaines tâches nécessitent des fonctions de perte plus spécifiques :

✅ 𝑫𝒊𝒄𝒆 𝑳𝒐𝒔𝒔
Très utilisée en segmentation d’images.

✅ 𝑨𝒅𝒗𝒆𝒓𝒔𝒂𝒓𝒊𝒂𝒍 𝑳𝒐𝒔𝒔
Présente dans les GANs.

✅ 𝑻𝒓𝒊𝒑𝒍𝒆𝒕 𝑳𝒐𝒔𝒔
Utile en reconnaissance faciale et en apprentissage de représentations.

✅ 𝑪𝒐𝒏𝒕𝒓𝒂𝒔𝒕𝒊𝒗𝒆 𝑳𝒐𝒔𝒔
Permet d’apprendre des similarités entre observations.

✅ 𝑪𝑻𝑪 𝑳𝒐𝒔𝒔
Très utilisée en reconnaissance vocale.

✅ 𝑪𝒐𝒔𝒊𝒏𝒆 𝑷𝒓𝒐𝒙𝒊𝒎𝒊𝒕𝒚
Utile quand on compare des vecteurs ou des embeddings.

🔍 𝑷𝒐𝒖𝒓𝒒𝒖𝒐𝒊 𝒍𝒆 𝒄𝒉𝒐𝒊𝒙 𝒅𝒆 𝒍𝒂 𝒍𝒐𝒔𝒔 𝒇𝒖𝒏𝒄𝒕𝒊𝒐𝒏 𝒆𝒔𝒕 𝒔𝒊 𝒊𝒎𝒑𝒐𝒓𝒕𝒂𝒏𝒕 ?

Parce qu’elle influence directement :

📌 𝒍𝒂 𝒗𝒊𝒕𝒆𝒔𝒔𝒆 𝒅’𝒂𝒑𝒑𝒓𝒆𝒏𝒕𝒊𝒔𝒔𝒂𝒈𝒆
📌 𝒍𝒂 𝒔𝒕𝒂𝒃𝒊𝒍𝒊𝒕𝒆́ 𝒅𝒖 𝒎𝒐𝒅𝒆̀𝒍𝒆
📌 𝒍𝒂 𝒓𝒐𝒃𝒖𝒔𝒕𝒆𝒔𝒔𝒆 𝒂𝒖𝒙 𝒗𝒂𝒍𝒆𝒖𝒓𝒔 𝒆𝒙𝒕𝒓𝒆̂𝒎𝒆𝒔
📌 𝒍𝒂 𝒑𝒆𝒓𝒇𝒐𝒓𝒎𝒂𝒏𝒄𝒆 𝒇𝒊𝒏𝒂𝒍𝒆
📌 𝒍𝒂 𝒄𝒐𝒉𝒆́𝒓𝒆𝒏𝒄𝒆 𝒆𝒏𝒕𝒓𝒆 𝒍𝒆 𝒎𝒐𝒅𝒆̀𝒍𝒆 𝒆𝒕 𝒍𝒂 𝒕𝒂̂𝒄𝒉𝒆

⚠️ Un modèle très puissant avec une mauvaise fonction de perte peut apprendre de manière inefficace.

👉 𝑨̀ 𝒓𝒆𝒕𝒆𝒏𝒊𝒓 :
𝑳𝒂 𝒍𝒐𝒔𝒔 𝒇𝒖𝒏𝒄𝒕𝒊𝒐𝒏 𝒏’𝒆𝒔𝒕 𝒑𝒂𝒔 𝒖𝒏 𝒅𝒆́𝒕𝒂𝒊𝒍 𝒕𝒆𝒄𝒉𝒏𝒊𝒒𝒖𝒆.
𝑪’𝒆𝒔𝒕 𝒍’𝒖𝒏 𝒅𝒆𝒔 𝒆́𝒍𝒆́𝒎𝒆𝒏𝒕𝒔 𝒍𝒆𝒔 𝒑𝒍𝒖𝒔 𝒅𝒆́𝒄𝒊𝒔𝒊𝒇𝒔 𝒅𝒂𝒏𝒔 𝒍𝒂 𝒒𝒖𝒂𝒍𝒊𝒕𝒆́ 𝒅’𝒖𝒏 𝒎𝒐𝒅𝒆̀𝒍𝒆 𝒅𝒆 𝑴𝒂𝒄𝒉𝒊𝒏𝒆 𝑳𝒆𝒂𝒓𝒏𝒊𝒏𝒈.

Et vous, quelle loss function utilisez-vous le plus dans vos projets : MSE, Cross-Entropy, MAE, Dice, Hinge ou autre ? 👇

Pour mieux apprendre l’utilisation des logiciels et des modèles statistiques, nous vous invitons à prendre part à notre prochaine session de formation en 𝙀𝙘𝙤𝙣𝙤𝙢é𝙩𝙧𝙞𝙚 𝙚𝙩 𝙏𝙚𝙘𝙝𝙣𝙞𝙦𝙪𝙚𝙨 𝙌𝙪𝙖𝙣𝙩𝙞𝙩𝙖𝙩𝙞𝙫𝙚s https://forms.gle/yZAZimRXbTFbUWZk6

#MachineLearning #DataScience #LossFunctions #DeepLearning #Regression #Classification #IntelligenceArtificielle #AnalyseDeDonnées #Statistiques #ApprentissageAutomatique