Modèles de Langage de Grande Taille
Ce cours explique les grands modèles de langage (LLM), leur fonctionnement, et la façon de les personnaliser pour créer des applications intelligentes. Il commence par une introduction, puis l'époque d'avant les Transformers et les bases de la Tokenization. Ensuite, il explique l'architecture des Transformers en quatre parties, dont le mécanisme de Multi-Head Attention, puis les différents modèles d'architecture. Vous apprenez alors les prompts et le Prompt Engineering, le modèle BERT et ses applications, et les paramètres de configuration (Configuration Parameters) des modèles de langage.
- Compréhension complète des méthodes de formation et de personnalisation des modèles linguistiques de grande taille.
- Capacité à utiliser la plateforme Hugging Face pour travailler avec les LLMs.
- Maîtrise des techniques PEFT et LoRA pour une personnalisation efficace des modèles.
- Capacité à créer des applications intelligentes pour l'analyse de texte et le résumé de contenu.



