Récapitulatif de la 1ère Semaine :
Formation sur le Prompt Engineering, LLM, et GenAI
Réalisé par : Encadré par :
Hamza atil Mr. Omar ELOUAFI
➢ Objectifs de la semaine :
La première semaine du projet a été consacrée à la formation et à l'étude des concepts clés
nécessaires pour la mise en œuvre du système d'analyse prédictive des compétences
émergentes dans l'industrie minière. Les objectifs spécifiques de cette semaine étaient les
suivants :
1. Comprendre les bases de l'Intelligence Artificielle Générative (GenAI) : Étudier
les modèles de GenAI et leur application en analyse prédictive.
2. Se familiariser avec les modèles de langage (LLM) : Explorer les modèles de
langage tels que GPT-3.5/4, LLaMA, et comprendre leur fonctionnement.
3. Apprendre le Prompt Engineering : Maîtriser les techniques de conception de
prompts pour optimiser les réponses des modèles de langage.
➢ Activités réalisées :
1. Formation sur l'Intelligence Artificielle Générative (GenAI) :
• Contenu étudié :
o Introduction aux modèles génératifs et à leur utilisation dans des tâches
prédictives.
o Différences entre les modèles génératifs et discriminatifs.
o Applications de la GenAI dans divers domaines, notamment l'industrie
minière.
• Résultats : Une compréhension solide des concepts de base de la GenAI et de son
potentiel pour l'analyse prédictive.
Comparaison des Modèles Génératifs et Discriminatifs
2. Étude des Modèles de Langage (LLM) :
• Contenu étudié :
o Fonctionnement des LLM (architecture, entraînement, fine-tuning).
o Comparaison des modèles populaires tels que GPT-3.5/4, LLaMA, et autres.
o Cas d'utilisation des LLM dans des scénarios réels.
• Résultats : Une connaissance approfondie des LLM et de leur application dans le
contexte du projet.
Comparaison des Modèles de LLM
Caractéristique GPT-3.5/4 LLaMA Mistral Falcon Gemini DeepSeek LLM
Taille du Modèle 175B (GPT- 7B à 65B 7B à 13B 7B à 40B 1T+ (estimé) 50B à 200B
3.5), 1T+
(GPT-4)
Architecture Transformer Transformer Transformer Transformer Transformer Transformer
Fine-Tuning Oui Oui Oui Oui Oui Oui
Open Source Non Oui Oui Oui Non Partiellement
Coût Élevé (API Faible (open Faible (open Faible (open Élevé (API Modéré
d'Utilisation payante) source) source) source) payante)
Performance Excellente Bonne Bonne Très bonne Excellente Excellente
Générale
Support Oui Oui Oui Oui Oui Oui
Multilingue
Cas d'Usage Génération de Recherche, Applications Applications Génération de Analyse
texte, applications légères, edge industrielles texte, analyse prédictive, NLP
chatbots, etc. spécifiques computing complexe technique,
Latence Faible Moyenne Faible Moyenne Très faible Très faible
Personnalisation Limitée (via Hautement Hautement Hautement Limitée (via API) Hautement
API) personnalisable personnalisable personnalisable personnalisable
Communauté Large Communauté Communauté Communauté Communauté Communauté
communauté open source open source open source limitée en croissance
Éthique et Contrôles En En En Contrôles Contrôles
Sécurité avancés développement développement développement avancés avancés
3. Apprentissage du Prompt Engineering :
• Contenu étudié :
o Techniques de conception de prompts pour obtenir des réponses précises et
pertinentes.
o Exemples de prompts efficaces pour différents types de tâches
(classification, génération de texte, etc.).
o Optimisation des prompts pour améliorer les performances des LLM.
• Résultats : Maîtrise des techniques de prompt engineering, essentielles pour
interagir efficacement avec les LLM.
➢ Bilan de la Semaine :
La première semaine a été riche en apprentissages et a permis de poser les bases techniques
nécessaires pour la suite du projet. Les principales réalisations incluent :
• Une compréhension approfondie des concepts de GenAI et des LLM.
• Une maîtrise des techniques de prompt engineering, essentielles pour interagir avec
les modèles de langage.
➢ Prochaine Étape :
La semaine prochaine sera dédiée à une double approche combinant l’étude du secteur
minier et l’approfondissement des techniques d’analyse des données non structurées
avec la GenAI.
Les activités prévues incluent :
• Analyse du secteur minier : Étude des tendances actuelles et identification des
compétences émergentes en s’appuyant sur des sources variées telles que les
rapports industriels, les articles scientifiques et les offres d’emploi.
• Exploration des outils d’analyse des données non structurées :
Approfondissement des techniques et des frameworks permettant de traiter et
d’extraire des informations pertinentes à partir de grandes quantités de texte.
• Approfondissement des modèles de GenAI : Étude des méthodes avancées
d’extraction et d’interprétation des informations pour optimiser l’analyse prédictive
des compétences dans le secteur minier.