Semaine 07 — LLM et IA générative
Module 7 : rouages internes des transformeurs, ingénierie de prompts, fine-tuning LoRA, RAG sur un corpus métier, agents avec usage d'outils.
Ce qu'il y a sous le capot de GPT/Claude/LLaMA, ce que vous pouvez réellement en faire, et où ils échouent.
Livrable de la semaine
Choisir une des trois pistes : un système RAG sur un corpus de domaine, un fine-tune LoRA d’un modèle de 1 à 7 milliards de paramètres sur une tâche de domaine, ou un agent multi-étapes utilisant des outils.
| Échéance | Vendredi 18h00 (Africa/Lagos (UTC+1)) |
|---|---|
| Soumission | Déposer l'URL du dépôt dans le canal hebdomadaire de la cohorte. Le binôme de revue par les pairs est annoncé le lundi de la semaine suivante. |
| Grille | Validé / à reprendre. La validation exige une CI au vert, des tests couvrant l'API publique, et un README qu'un inconnu peut suivre pour installer et exécuter le code. |
Sessions en direct et ateliers
Cadence hebdomadaire par défaut ci-dessous. Les dates spécifiques à la cohorte et les liens Zoom sont ajoutés à l'inscription.
| Jour | Horaire | Bloc | Enregistrement |
|---|---|---|---|
| Mon | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Mon | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Tue | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Tue | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Wed | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Wed | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Thu | 09:00-12:00 | Cours en direct + code-along | (après la session) |
| Thu | 14:00-16:00 | Travail de lab en autonomie + permanences assistants | (après la session) |
| Fri | 10:00-11:00 | Intervenant de l'industrie | (après la session) |
| Fri | 11:30-12:30 | Revue de lab | (après la session) |
| Fri | 14:00-15:00 | Rétrospective de cohorte | (après la session) |
Objectifs d'apprentissage
À l'issue de la semaine, chaque participant saura :
- Comprendre l’architecture transformer telle qu’elle apparaît dans les LLMs modernes.
- Appliquer efficacement les techniques de prompt engineering et de sortie structurée.
- Fine-tuner un petit LLM open-source avec LoRA/QLoRA sur un jeu de données de domaine.
- Construire un système de génération augmentée par recherche (RAG).
- Évaluer honnêtement la génération : quand un LLM est réellement utile, quand il confabule.
Sujets abordés
Le transformer, mécanisme d’attention, scaling laws · pre-training, fine-tuning, RLHF/DPO en survol · prompt engineering, sortie structurée, function calling · fine-tuning efficace en paramètres (LoRA, QLoRA, PEFT) · RAG : chunking, embedding, retrieval, reranking, génération · modèles de diffusion (intuition + usage pratique) · évaluation : BLEU, ROUGE, LLM-as-judge, évaluation humaine, pourquoi toutes sont partielles · systèmes agentiques et utilisation d’outils · sûreté, alignement, hallucination, biais.
Ateliers
Atelier 1 — RAG sur un corpus de domaine
Indexer un ensemble de rapports de santé OMS/AFRO dans ChromaDB. Construire retrieval + reranking + génération ancrée. Évaluer fidélité, pertinence du contexte et exactitude des réponses sur un jeu retenu de 30 questions.
Jeu de données : Rapports PDF OMS/AFRO (accès libre).
Atelier 2 — Fine-tune LoRA sur une tâche de domaine
Fine-tuner Llama 3.1 8B ou Mistral 7B avec LoRA sur un jeu de données de domaine (Q&R médicales, revue de contrats juridiques, ou suivi d’instructions en langue africaine). Reporter la perplexité et une accuracy sur 50 exemples spécifiques à la tâche.
Jeu de données : Choisir parmi trois splits pré-curés.
Atelier 3 — Agent multi-étapes utilisant des outils
Construire un agent avec LangGraph ou function-calling combinant recherche, calculatrice et exécution de code. Stresser sur 20 requêtes multi-étapes et documenter les modes d’échec.
Jeu de données : Synthétique + outils web en direct.
Lectures
Obligatoires
- Avant Mardi. Vaswani et al., *Attention Is All You Need*
- Avant Mercredi. Brown et al., *Language Models are Few-Shot Learners* (l'article GPT-3, sections 1-3)
- Avant Jeudi. Lewis et al., *Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks*
- Avant Vendredi. Hu et al., *LoRA: Low-Rank Adaptation of Large Language Models*
Pour aller plus loin
- Anthropic, *Building effective agents* (blog d'ingénierie 2024)
- Karpathy, *Let's build GPT: from scratch, in code, spelled out*