Description
Formation pour entraîner et évaluer des réseaux de neurones avec PyTorch et TensorFlow sur ta propre infrastructure : tes GPU, tes serveurs Linux ou IBM Power, pas un notebook dans le cloud. Chaque expérience est mesurée en qualité, mémoire et temps, pour savoir quand une amélioration est réelle et combien de calcul elle coûte.
Informations sur la formation
| Code SIXE : SXIA04 | Catégorie : Intelligence artificielle / Deep learning |
| Modalité : En ligne et en présentiel | Durée : 3 jours |
Pour qui
Data scientists, développeurs machine learning et équipes R&D qui doivent entraîner ou adapter des modèles avec leurs données et sur leurs machines.
Prérequis
Bonne maîtrise de Python et notions de machine learning (jeux d’entraînement et de validation). Algèbre linéaire de base.
Ce que tu vas apprendre
- Entraîner un réseau de zéro : tenseurs, différentiation automatique, lots, fonction de perte et optimiseur, en PyTorch et son équivalent TensorFlow.
- Transférer plutôt que repartir de zéro : partir d’un modèle pré-entraîné, geler des couches et le comparer à un réseau maison avec le même budget.
- Repérer le surapprentissage : courbes d’apprentissage, régularisation et erreurs par groupe de données.
- Mesurer le coût : mémoire GPU, taille de lot, précision mixte et temps par époque sur ton matériel.
- Reproduire le résultat : graines aléatoires, configuration enregistrée et checkpoints qu’une autre personne peut rejouer.
On travaille sur un cas de classification de texte ou d’image et tu repars avec trois expériences comparables, leurs courbes et le budget de calcul de chacune.
Ce que tu emportes
- Un notebook d’entraînement et d’évaluation avec sa configuration.
- Trois expériences comparables avec les courbes annotées.
- Checkpoint, fiche du modèle et estimation de calcul.
Si le modèle doit ensuite être servi sur tes serveurs, l’étape suivante est la formation LLM en local et infrastructure GPU ; et si les données sont le goulot d’étranglement, découvre notre approche du stockage pour l’IA et le HPC.
Questions fréquentes
Combien de temps dure la formation ?
3 jours.
Est-elle en ligne ou en présentiel ?
Les deux : dans tes locaux ou à distance, avec un formateur en direct.
Que dois-je savoir avant de commencer ?
Bonne maîtrise de Python et notions de machine learning (jeux d’entraînement et de validation). Algèbre linéaire de base.
Entraîne-t-on un grand modèle de langage de zéro ?
Non. On travaille avec de petits réseaux et des modèles pré-entraînés pour comprendre l’entraînement, les erreurs et le coût de calcul.
Faut-il un GPU ?
Les premiers travaux pratiques tournent sur CPU. Pour mesurer la mémoire et la taille de lot, on utilise un GPU : le tien ou un GPU partagé du laboratoire.
Peut-on l’adapter à mon équipe ?
Oui. Nous adaptons les exemples et les travaux pratiques aux outils et aux processus de l’équipe, et elle peut être combinée avec d’autres formations en IA.
