Description
Formation à la sécurité des applications à base de LLM, d’agents et de RAG, fondée sur le Top 10 OWASP pour les LLM. Les attaques sont testées dans un laboratoire isolé, corrigées, et chaque découverte devient un test de non-régression et une alerte dans ton SIEM, pour que l’équipe sécurité la voie aussi en production.
Informations sur la formation
| Code SIXE : SXIA07 | Catégorie : Intelligence artificielle / Sécurité |
| Modalité : En ligne et en présentiel | Durée : 2 jours |
Pour qui
Équipes sécurité, développement sécurisé, QA et architecture qui ont, ou vont avoir, un chatbot, un assistant RAG ou un agent ayant accès à des outils.
Prérequis
Sécurité des applications web et des API. Avoir travaillé avec un assistant RAG ou un agent aide ; nous fournissons l’application de travaux pratiques.
Ce que tu vas apprendre
- Modéliser les menaces : quelles données sont de confiance, quels outils l’agent peut utiliser et où se trouvent les secrets.
- Injection d’instructions : directe ou cachée dans des documents ou des pages web, et pourquoi un filtre de mots-clés ne suffit pas.
- Fuites et permissions excessives : accès aux documents d’un autre utilisateur, sorties non validées et agents plus autonomes que nécessaire.
- Corriger et retester : validation, autorisation côté serveur et moindre privilège, sans casser les usages légitimes.
- Le détecter en production : quoi journaliser de l’assistant et comment le transformer en alertes dans QRadar, Wazuh ou un autre SIEM.
On travaille sur une application volontairement vulnérable, avec des données et des secrets fictifs, et tu repars avec dix tests reproductibles et deux corrections vérifiées.
Ce que tu emportes
- Le modèle de menaces de l’application.
- Dix tests défensifs reproductibles.
- Un rapport de découvertes avec corrections et règles de détection.
Si tu veux concevoir des agents sûrs dès le départ, découvre notre service d’intégration d’agents d’IA sécurisés. Côté SOC, nous proposons la formation analyste cybersécurité avec IBM QRadar.
Questions fréquentes
Combien de temps dure la formation ?
2 jours.
Est-elle en ligne ou en présentiel ?
Les deux : dans tes locaux ou à distance, avec un formateur en direct.
Que dois-je savoir avant de commencer ?
Sécurité des applications web et des API. Avoir travaillé avec un assistant RAG ou un agent aide ; nous fournissons l’application de travaux pratiques.
Attaque-t-on des systèmes réels ?
Non. Tous les tests portent sur l’application du laboratoire, avec un périmètre écrit et des données fictives.
Réussir les tests prouve-t-il que l’application est sûre ?
Cela prouve le résultat des cas testés dans ces conditions. Les menaces hors périmètre sont aussi documentées.
Peut-on l’adapter à mon équipe ?
Oui. Nous adaptons les exemples et les travaux pratiques aux outils et aux processus de l’équipe, et elle peut être combinée avec d’autres formations en IA.
