Formation Deep Learning avec Python et Tensorflow

INTRODUCTION

1. Historique

   • L'histoire du machine learning et du deep learning
   • L'avènement de l'approche Neuronal
   • Machine Learning vs Deep Learning : les différences

2. Pourquoi Python ?

   • Rappels Python (le langage, la communauté (PyPi),...)
   • Avantages de Python dans le domaine du machine learning
   • Rappels NumPy/SciPy/MatPlotLib/Pandas
   • Quelques librairies complémentaires OpenCV/Scikit-Image/TQDM/...
   • Nos environnements de développement : PyCharm/JupyterLab
   • Présentation et installation de TensorFlow
   • Comparaison avec PyTorch

3. Théorie générale : les Math derrière le Machine Learning

   • Qu'est-ce qu'un neurone informatique ?
   • Le fonctionnement général
   • Fonctions d'activation et fonctions de perte
   • La notion de rétropropagation
   • La notion de dataset
   • Le Percetron
   • Les principaux types de réseaux de neurones : DNN/CNN/RNN/...

4. Quelques premiers exemples (Régression, Classification, ...)

   • Exemple d'un premier réseau de type DNN
   • Exemple d'un premier réseau de type CNN

5. Persistance des modèles

COMPUTER VISION ET RESEAUX CONVOLUTIFS

1. Qu'est-ce qu'un réseau convolutif ?

   • MNIST CNN Classifier
   • Exemple sur des images plus conséquence et utilisation de l'API Sequence

2. Les différentes API de Tensorflow (API séquentielle, API fonctionnelle)

3. Modèle d'Inception

4. ResNet (Réseaux Résiduels) et couches profondes

5. Réseaux Auto-Encodeur

   • Qu'est-ce qu'un réseau Auto-Encodeur (Encodeur/Espace latent/Décodeur) ?
   • Débruitage MNIST via AE
   • Débruitage MNIST via AE + Classifier

6. Réseau Auto-Encodeur Variationnel

   • Qu'est-ce qu'un réseau Auto-Encodeur Variationnel ?
   • Analyse de la distribution dans l'espace latent
   • Génération d'images à partir d'un espace latent et d'un décodeur

7. Les GANs (Generative Adversarial Networks)

8. Les modèles de diffusions et les outils "text-to-images"

NLP (NATURAL LANGUAGE PROCESSING)

1. Les IA conversationnelles

   • Présentation de ChatGPT et des modèles de GPT
   • Présentation de Bard, Claude et Llama2

2. L'approche RNN (Recurent Neuronal Network)

   • Présentation de l'approche récurrente
   • Long Short-Term Memory (LSTM)
   • La notion d'attention

3. L'approche Transformer

   • Présentation de l'article "Attention is all you need"
   • Qu'est-ce qu'un "Transformer" ?
   • Mise en oeuvre d'un Transformer

APPRENTISSAGE PAR RENFORCEMENT

1. Principes et avantages de l'apprentissage par renforcement

2. Algorithmes populaires : Q-learning, Deep Q Network (DQN), Policy Gradient, etc

3. Exemples d'application : jeux, optimisation, etc

ASPECTS AVANCES DE TENSORFLOW

1. Utilisation de callbacks

2. Utilisation de TensorBoard

3. Activer le mode GPU

4. Traitements distribués avec Tensorflow

ANNEXES

1. Coder son propre réseau de neurones (sans utiliser Tensorflow)

CONCLUSION