Statistical Models for Social Sciences

Une série temporelle ne se modélise pas directement sans vérification préalable. Avant d’appliquer un modèle comme 𝗔𝗥𝗜𝗠𝗔, 𝗦𝗔𝗥𝗜𝗠𝗔, 𝗩𝗔𝗥 𝗼𝘂 𝗩𝗘𝗖𝗠, il faut d’abord savoir si la série est 𝘀𝘁𝗮𝘁𝗶𝗼𝗻𝗻𝗮𝗶𝗿𝗲. Une série est stationnaire lorsque : 𝗦𝗮 𝗺𝗼𝘆𝗲𝗻𝗻𝗲 𝗿𝗲𝘀𝘁𝗲 𝘀𝘁𝗮𝗯𝗹𝗲 dans le temps 𝗦𝗮 𝘃𝗮𝗿𝗶𝗮𝗻𝗰𝗲 𝗻𝗲 𝗰𝗵𝗮𝗻𝗴𝗲 𝗽𝗮𝘀 fortement 𝗦𝗼𝗻 𝗮𝘂𝘁𝗼𝗰𝗼𝗿𝗿𝗲́𝗹𝗮𝘁𝗶𝗼𝗻 𝗱𝗶𝗺𝗶𝗻𝘂𝗲 progressivement avec les retards Quand une série présente une tendance, une saisonnalité ou une variance instable, elle peut conduire à des conclusions fausses. Pour éviter cela, on utilise : 𝗟𝗲 𝗴𝗿𝗮𝗽𝗵𝗶𝗾𝘂𝗲 𝗱𝗲 𝗹𝗮 𝘀𝗲́𝗿𝗶𝗲 pour détecter les tendances 𝗟’𝗔𝗖𝗙 𝗲𝘁 𝗹𝗲 𝗣𝗔𝗖𝗙 pour analyser la dépendance temporelle 𝗟𝗲𝘀 𝘁𝗲𝘀𝘁𝘀 𝗔𝗗𝗙, 𝗣𝗣 𝗲𝘁 𝗞𝗣𝗦𝗦 pour confirmer statistiquement la stationnarité Si la série n’est pas stationnaire, plusieurs solutions existent : 𝗗𝗶𝗳𝗳𝗲́𝗿𝗲𝗻𝗰𝗶𝗮𝘁𝗶𝗼𝗻 pour réduire la tendance 𝗗𝗶𝗳𝗳𝗲́𝗿𝗲...

En Machine Learning, un seul modèle peut se tromper. Mais plusieurs modèles bien combinés peuvent devenir très puissants. C’est exactement le principe du Random Forest. Random Forest est une méthode d’apprentissage automatique qui construit plusieurs arbres de décision sur différents échantillons de données. Chaque arbre donne sa prédiction. Ensuite, le modèle prend une décision finale : vote majoritaire pour la classification moyenne des prédictions pour la régression Ce qui rend Random Forest très efficace, c’est sa capacité à : réduire le surapprentissage améliorer la précision des prédictions gérer beaucoup de variables résister au bruit et aux valeurs aberrantes identifier les variables les plus importantes Son secret repose sur deux idées simples : Bootstrap Sampling : créer plusieurs échantillons aléatoires à partir des données. Random Feature Selection : sélectionner aléatoirement certaines variables à chaque séparation de l’arbre. Résultat : les arbres sont différents...

Toutes les relations entre deux variables ne sont pas linéaires. Parfois, les données suivent une courbe, présentent des points de retournement ou évoluent de manière beaucoup plus complexe qu'une simple droite. C'est précisément dans ces situations que la 𝗿𝗲́𝗴𝗿𝗲𝘀𝘀𝗶𝗼𝗻 𝗽𝗼𝗹𝘆𝗻𝗼𝗺𝗶𝗮𝗹𝗲 devient un outil incontournable. Son principe est simple : Au lieu d'utiliser uniquement X, on ajoute des termes comme X², X³ ou X⁴ afin de permettre au modèle de mieux représenter la réalité. Pourquoi l'utiliser ? Modéliser des relations non linéaires. Améliorer la précision des prédictions. Capturer des phénomènes complexes. Obtenir un meilleur ajustement des données. Attention au choix du degré ! Degré faible ➜ le modèle manque d'information (sous-ajustement). Degré trop élevé ➜ le modèle apprend même le bruit des données (sur-ajustement). Le meilleur modèle est celui qui généralise bien, pas celui qui colle parfaitement aux données d'entraînement. Co...