Fondations mathématiques de l'IA moderne

Présentation du programme

L’IA évolue vite, mais les idées qui font tourner les systèmes d’aujourd’hui sont stables et accessibles. Cet atelier construit l’intuition mathématique et le vocabulaire de modélisation nécessaires pour comprendre ce qui se passe sous le capot des modèles modernes — supervisés, non supervisés, génératifs.

L’objectif n’est pas de faire des participants des spécialistes du deep learning. Il est de leur donner les structures mentales pour évaluer une méthode, dialoguer avec une équipe technique, formuler un problème métier en problème d’apprentissage, et décider quand déployer (ou ne pas déployer) un outil d’IA.

Les 5 jours alternent cours du matin et travaux pratiques l’après-midi. Tous les TP tournent sur Google Colab (offre gratuite) ou tout environnement Python 3.10+ local avec PyTorch.

Jour 1 — Algèbre linéaire et modèles paramétriques

Thème : représenter données et modèles avec vecteurs, matrices et transformations.

• Espaces vectoriels, applications linéaires, dimensions — du vecteur de features à l’espace latent ; notion de représentation.
• Du perceptron au MLP — couches, activations non-linéaires, pourquoi la composition de fonctions linéaires ne suffit pas.
• Plongements et autoencodeurs — apprendre une représentation compacte ; géométrie de l’espace latent.
• TP1 — visualiser les couches et cartes de features d’un réseau pré-entraîné.

Jour 2 — Calcul différentiel et optimisation

Thème : fonctions de perte et apprentissage par gradient.

• Dérivées multivariées, règle de la chaîne — pourquoi le gradient est la bonne direction.
• Descente de gradient, SGD, Adam — taux d’apprentissage, courbes d’apprentissage, hyperparamètres.
• Rétropropagation et programmation différentiable — comment PyTorch calcule un gradient sans qu’on lui demande.
• TP2 — entraîner un réseau de neurones de bout en bout.

Jour 3 — Probabilités et modélisation générative

Thème : le hasard comme outil de modélisation ; apprendre et échantillonner depuis des distributions.

• Distributions, densités, vraisemblance — le langage probabiliste de l’apprentissage.
• Modèles génératifs : VAE, modèles de diffusion, méthodes basées sur le score — comment générer une image (ou un texte) à partir du bruit.
• Processus de bruit et inversion — l’intuition derrière la diffusion.
• TP3 — entraîner un modèle de diffusion simple.

Jour 4 — Modélisation pour l’IA

Thème : transformer un problème désordonné en problème mathématique structuré.

• Optimisation contrainte et non contrainte, régularisation — quand ajouter une contrainte change tout.
• Invariance et équivariance — pourquoi un CNN est meilleur qu’un MLP pour les images, et la généralisation de cette idée.
• Architectures spécialisées : CNN, GNN, attention — le biais inductif comme choix de modélisation.
• TP4 — comparer plusieurs choix de modèle sur une tâche d’apprentissage sur graphes.

Jour 5 — Évaluer les modèles d’IA

Thème : généralisation, fiabilité, prendre des décisions informées.

• Statistiques de base, biais–variance, sur-apprentissage — diagnostiquer une courbe d’apprentissage.
• Validation, calibration, incertitude — au-delà de la précision moyenne.
• Exemples adversariaux, données hors distribution — pourquoi un modèle qui marche en lab échoue en production.
• TP5 — comparer des modèles sous décalage de distribution ; bilan.

Évaluation

• TPs quotidiens (60 %) — implémentations fonctionnelles et analyse.
• Mini-projet final (30 %) — formuler un problème métier en pipeline d’IA et défendre les choix.
• Participation (10 %) — engagement, questions, discussions.

Lectures recommandées

• Goodfellow, Bengio & Courville, Deep Learning (MIT Press, accès libre).
• Bishop & Bishop, Deep Learning: Foundations and Concepts (Springer, 2024).
• Murphy, Probabilistic Machine Learning (MIT Press, accès libre).
• Strang, Linear Algebra and Learning from Data.
• Ho, Jain & Abbeel, « Denoising Diffusion Probabilistic Models », NeurIPS 2020 (arXiv:2006.11239).
• Vaswani et al., « Attention Is All You Need », NeurIPS 2017 (arXiv:1706.03762).

Objectifs pédagogiques

À la fin de l’atelier, les participants seront capables de :

1. Comprendre les idées centrales d’algèbre linéaire, d’optimisation et de probabilités qui sous-tendent les systèmes d’IA modernes.
2. Décrire la structure, l’entraînement et l’évaluation des modèles ML / IA courants (MLP, autoencodeurs, modèles de diffusion).
3. Formuler un problème réel dans le langage structuré d’un pipeline d’IA.
4. Choisir une architecture, une fonction de perte et un biais inductif adaptés au domaine d’application.
5. Évaluer la fiabilité d’un modèle par le raisonnement statistique, les méthodes de validation et la conscience des modes d’échec classiques.
6. Prendre des décisions techniquement informées sur le déploiement d’outils d’IA.

Public visé

Ingénieurs, chefs de produit, analystes, responsables d’équipes techniques qui prennent des décisions sur l’IA. Praticiens qui collaborent avec des équipes ML et veulent une compréhension réelle des fondations. Chercheurs d’autres disciplines qui veulent passer du discours sur l’IA à la pratique.

À l’aise avec les mathématiques de lycée et de premier cycle universitaire (vecteurs, fonctions, dérivées, probabilités de base). Une familiarité avec Python aide pour les travaux pratiques mais n’est pas requise pour les cours. Aucun prérequis avancé.

Plaquette

Les notes de cours et notebooks sont accessibles depuis la barre latérale.

Pour une plaquette d’une page, à transmettre à un comité de programme, un organisateur de conférence ou une équipe formation interne, écrivez à gabayae2@gmail.com en précisant la taille de l’audience et les dates envisagées.