Traitement Automatique du Langage

Description

Ce cours couvre le traitement automatique du langage naturel, des représentations classiques aux grands modèles de langage. Il traite les plongements de mots, les architectures Transformer, les modèles pré-entraînés, le fine-tuning, la génération de texte, le RAG et les questions d'éthique et de biais dans les systèmes de TAL.

Table des matières

1. Introduction au TAL
2. Représentations Textuelles Classiques
3. Plongements de Mots
4. Modèles de Séquences
5. Mécanisme d'Attention et Transformers
6. Modèles Pré-entraînés
7. Fine-tuning et Apprentissage par Instruction
8. Génération de Texte
9. RAG — Génération Augmentée par Récupération
10. Évaluation des Modèles de Langage
11. Éthique, Biais et Sécurité

Prérequis

Apprentissage automatique, algèbre linéaire, programmation Python.

Téléchargements