Statistical Models for Social Sciences

En statistiques, les approches 𝐟𝐫𝐞𝐪𝐮𝐞𝐧𝐭𝐢𝐬𝐭𝐞 et 𝐛𝐚𝐲𝐞𝐬𝐢𝐞𝐧𝐧𝐞 sont deux méthodes majeures d’inférence. Elles visent à résoudre des problèmes similaires mais diffèrent dans leur 𝐢𝐧𝐭𝐞𝐫𝐩𝐫 é 𝐭𝐚𝐭𝐢𝐨𝐧 𝐝𝐞 𝐥𝐚 𝐩𝐫𝐨𝐛𝐚𝐛𝐢𝐥𝐢𝐭 é et leur gestion de l’incertitude. ________________________________________ 1️ ⃣ Approche 𝐅𝐫𝐞𝐪𝐮𝐞𝐧𝐭𝐢𝐬𝐭𝐞 Les fréquentistes considèrent la probabilité comme la 𝐟𝐫 é 𝐪𝐮𝐞𝐧𝐜𝐞 𝐝𝐞 𝐥𝐨𝐧𝐠 𝐭𝐞𝐫𝐦𝐞 d’un événement. Les paramètres (ex. moyenne) sont fixes mais inconnus, et l’inférence repose sur l’analyse d’échantillons répétés. ✔ ️ 𝐂𝐨𝐧𝐜𝐞𝐩𝐭 𝐜𝐥 é : Les méthodes fréquentistes estiment une 𝐯𝐚𝐥𝐞𝐮𝐫 𝐯𝐫𝐚𝐢𝐞 𝐮𝐧𝐢𝐪𝐮𝐞 d’un paramètre à partir d’échantillonnages hypothétiques répétés. ✔ ️ 𝐈𝐧𝐭𝐞𝐫𝐯𝐚𝐥𝐥𝐞𝐬 𝐝𝐞 𝐜𝐨𝐧𝐟𝐢𝐚𝐧𝐜𝐞 : Un intervalle à 95 % signifie que, sur un grand nombre d’échantillons, 95 % des intervalles contiennent la vraie valeur (et non qu’il y ...

La 𝘤𝘰𝘭𝘭𝘪𝘯 é 𝘢𝘳𝘪𝘵 é et la 𝘮𝘶𝘭𝘵𝘪𝘤𝘰𝘭𝘭𝘪𝘯 é 𝘢𝘳𝘪𝘵 é sont souvent confondues, mais elles ont des impacts distincts sur l'analyse de régression. Comprendre leurs différences est essentiel pour construire des modèles stables et interprétables . 🔹 𝘊𝘰𝘭𝘭𝘪𝘯 é 𝘢𝘳𝘪𝘵 é : survient lorsque deux variables explicatives sont fortement corrélées, rendant difficile l'identification de leur contribution individuelle à la variable dépendante. Cela peut entraîner des coefficients instables et une fiabilité réduite du modèle. 🔹 𝘔𝘶𝘭𝘵𝘪𝘤𝘰𝘭𝘭𝘪𝘯 é 𝘢𝘳𝘪𝘵 é : se produit lorsqu’ au moins trois variables présentent des corrélations croisées, même si certaines paires ne sont pas directement liées. Cela peut gonfler les erreurs standards , fausser les p-values et compliquer l’interprétation du modèle. 📊 L’image ci-dessous illustre une matrice de dispersion (pair plot) mettant en évidence une multicolinéarité potentielle entre prédicteurs (ex. : ...

Lorsque vous tirez des conclusions à partir de vos données, il est essentiel de comprendre 𝒍𝒂 𝒗𝒂𝒓𝒊𝒂𝒏𝒄𝒆 𝒅𝒆𝒔 𝒆𝒔𝒕𝒊𝒎𝒂𝒕𝒆𝒖𝒓𝒔 , surtout si vous utilisez des plans d’échantillonnage complexes comme la 𝒔𝒕𝒓𝒂𝒕𝒊𝒇𝒊𝒄𝒂𝒕𝒊𝒐𝒏 ou le 𝒄𝒍𝒖𝒔𝒕𝒆𝒓𝒊𝒏𝒈 . ________________________________________ Le 𝒆𝒇𝒇𝒆𝒕 𝒅𝒆 𝒅𝒆𝒔𝒔𝒊𝒏 mesure combien ces plans augmentent la variance des estimations par rapport à un échantillonnage aléatoire simple. ✅ Il permet d’évaluer 𝒍𝒂 𝒗𝒂𝒓𝒊𝒂𝒃𝒊𝒍𝒊𝒕 é 𝒂𝒋𝒐𝒖𝒕 é 𝒆 par la structure du plan. ✅ Il améliore l’interprétation en 𝒓𝒆𝒇𝒍 é 𝒕𝒂𝒏𝒕 𝒍𝒂 𝒔𝒕𝒓𝒖𝒄𝒕𝒖𝒓𝒆 𝒓 é 𝒆𝒍𝒍𝒆 𝒅𝒆 𝒍𝒂 𝒅𝒐𝒏𝒏 é 𝒆 . ✅ Il aide à 𝒆𝒗𝒂𝒍𝒖𝒆𝒓 𝒍 ’ 𝒊𝒎𝒑𝒂𝒄𝒕 𝒅𝒖 𝒑𝒍𝒂𝒏 𝒆𝒕 𝒅𝒆𝒔 𝒑𝒐𝒏𝒅 é 𝒓𝒂𝒕𝒊𝒐𝒏𝒔 sur la variance, pour obtenir des estimations plus fiables. 👉 L’ 𝒊𝒏𝒕𝒓𝒂𝒄𝒐𝒓𝒓 é 𝒍𝒂𝒕𝒊𝒐𝒏 (ICC) est souvent utilisée conjointement pour mesurer la similarité des unités au sein des gra...

L’analyse de régression est un pilier de la modélisation statistique. Chaque méthode répond à des besoins spécifiques en matière de prédiction, d’interprétation et de structure des données. 1. 𝗥𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗟𝗶𝗻𝗲́𝗮𝗶𝗿𝗲 : Modélise une relation linéaire entre variables explicatives et variable dépendante. 2. 𝗥𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗣𝗼𝗹𝘆𝗻𝗼̂𝗺𝗶𝗮𝗹𝗲 : Permet de modéliser des relations non linéaires en ajustant une fonction polynomiale aux données. 3. 𝗥𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗿𝗶𝗱𝗴𝗲 (𝘀𝗲 𝗰𝗿𝗲̂𝘁𝗲) : Réduit le surapprentissage en ajoutant une pénalité aux grands coefficients. 4. 𝗥𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗹𝗮𝘀𝘀𝗼 : Applique une pénalité L1 qui force certains coefficients à devenir nuls, réalisant ainsi une sélection automatique de variables. 5. 𝗥𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗘𝗹𝗮𝘀𝘁𝗶𝗰 𝗡𝗲𝘁 : Combine les avantages de ridge et lasso pour plus de flexibilité et une meilleure sélection de variables. 6. 𝗥𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗟𝗼𝗴𝗶𝘀𝘁𝗶𝗾𝘂𝗲 : Bien qu’elle por...

La régression 𝘔𝘊𝘖 (Moindres Carrés Ordinaires) repose sur des hypothèses clés. Les ignorer peut compromettre vos résultats. Voici un résumé clair des 𝘴𝘪𝘹 𝘱𝘪𝘭𝘪𝘦𝘳𝘴 : 🔹 𝗟𝗶𝗻 é 𝗮𝗿𝗶𝘁 é La relation entre les variables explicatives et la variable dépendante doit être linéaire. Formule : 𝑌 = 𝛽 ₀ + 𝛽 ₁ 𝑋 + 𝑒 Les résidus ne doivent pas présenter de motif systématique lorsqu’ils sont tracés. 🔹 𝗜𝗻𝗱 é 𝗽𝗲𝗻𝗱𝗮𝗻𝗰𝗲 𝗱𝗲𝘀 𝗼𝗯𝘀𝗲𝗿𝘃𝗮𝘁𝗶𝗼𝗻𝘀 Les erreurs doivent être indépendantes entre elles. Les séries temporelles sont souvent sujettes à 𝘭 ’ 𝘢𝘶𝘵𝘰𝘤𝘰𝘳𝘳 é 𝘭𝘢𝘵𝘪𝘰𝘯 . 🔹 𝗛𝗼𝗺𝗼𝘀𝗰 é 𝗱𝗮𝘀𝘁𝗶𝗰𝗶𝘁 é La variance des erreurs doit rester constante quelle que soit la valeur des variables explicatives. Une forme de "ventail" dans les graphes de résidus signale une violation. 🔹 𝗡𝗼𝗿𝗺𝗮𝗹𝗶𝘁 é 𝗱𝗲𝘀 𝗲𝗿𝗿𝗲𝘂𝗿𝘀 Les erreurs doivent être distribuées 𝘯𝘰𝘳𝘮𝘢𝘭𝘦𝘮𝘦𝘯𝘵 , surtout pour les tests d’hypot...