Semaine 03 — ML classique : régression, classification, partitionnement
Module 3 : régression régularisée, méthodes d'ensemble (forêts aléatoires, gradient boosting), partitionnement, réduction de dimension, SHAP et ses modes d'échec.
La boîte à outils pré-deep-learning. Encore la bonne réponse pour la plupart des problèmes tabulaires.
Livrable de la semaine
Pipeline de scoring de crédit sur un jeu de données d’une banque africaine, avec notebook d’EDA, comparaison de modèles (logistique + XGBoost), calibration, audit d’équité sur au moins deux coupes démographiques, et une fonction de scoring déployable.
| Échéance | Vendredi 18h00 (Africa/Lagos (UTC+1)) |
|---|---|
| Soumission | Déposer l'URL du dépôt dans le canal hebdomadaire de la cohorte. Le binôme de revue par les pairs est annoncé le lundi de la semaine suivante. |
| Grille | Validé / à reprendre. La validation exige une CI au vert, des tests couvrant l'API publique, et un README qu'un inconnu peut suivre pour installer et exécuter le code. |
Sessions en direct et ateliers
Cadence hebdomadaire par défaut ci-dessous. Les dates spécifiques à la cohorte et les liens Zoom sont ajoutés à l'inscription.
| Jour | Horaire | Bloc | Enregistrement |
|---|---|---|---|
| Mon | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Mon | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Tue | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Tue | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Wed | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Wed | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Thu | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Thu | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Fri | 10:00-11:00 | Intervenant de l'industrie | (après la session) |
| Fri | 11:30-12:30 | Revue de lab | (après la session) |
| Fri | 14:00-15:00 | Rétrospective de cohorte | (après la session) |
Objectifs d'apprentissage
À l'issue de la semaine, chaque participant saura :
- Ajuster et calibrer la régression linéaire et régularisée (ridge, lasso, elastic net).
- Construire et interpréter des ensembles à base d’arbres (forêts aléatoires, gradient boosting).
- Appliquer les méthodes non supervisées (k-means, hiérarchique, DBSCAN, GMMs, PCA, UMAP).
- Diagnostiquer honnêtement l’importance des variables et la dépendance partielle, sans surinterprétation causale.
Sujets abordés
Régression linéaire et logistique · régularisation (ridge, lasso, elastic net) · SVMs et astuce du noyau · arbres de décision, forêts aléatoires, gradient boosting (XGBoost, LightGBM) · partitionnement (k-means, hiérarchique, DBSCAN, GMM) · réduction de dimension (PCA, UMAP, t-SNE) · interprétation de modèles (importance par permutation, SHAP, dépendance partielle) · ce que ces méthodes peuvent et ne peuvent pas vous dire sur la causalité.
Ateliers
Atelier 1 — Scoring de crédit avec audit d'équité
Pipeline complet depuis l’EDA jusqu’à la fonction de scoring déployable sur un jeu de données Kaggle d’une banque africaine. Comparer une baseline logistique à XGBoost. Auditer la calibration et l’équité de groupe sur au moins deux coupes démographiques.
Jeu de données : Kaggle : *Bank loan default prediction* (sous-ensemble Cameroun).
Atelier 2 — Segmentation client
Partitionner les clients selon leurs schémas de transactions mobile-money. Justifier $k$, caractériser chaque cluster, rédiger une note de 300 mots pour un chef de produit non technique.
Jeu de données : Échantillon public et anonymisé de transactions mobile-money (initiative open-data Orange/MTN).
Atelier 3 — Interprétation SHAP --- et ses modes d'échec
Expliquer par SHAP le modèle XGBoost du Lab 1. Puis construire délibérément trois cas où SHAP donne des explications trompeuses et les documenter.
Jeu de données : Même que le Lab 1.
Lectures
Obligatoires
- Avant Mardi. Hastie, Tibshirani, Friedman, *ESL*, chapitres 3 (linéaire), 9 (arbres), 10 (boosting)
- Avant Mercredi. Christoph Molnar, *Interpretable Machine Learning*, chapitres 5 (SHAP) et 8 (limites)
Pour aller plus loin
- Tianqi Chen et Carlos Guestrin, *XGBoost: A Scalable Tree Boosting System* (KDD 2016)
- Cynthia Rudin, *Stop Explaining Black Box Machine Learning Models for High Stakes Decisions* (Nature Machine Intelligence 2019)