Description
Formation pour sécuriser des agents IA qui ne se contentent pas de répondre : ils lisent des e-mails, interrogent des bases de données et écrivent dans l’ERP. On travaille avec la liste OWASP pour les applications agentiques et de vrais serveurs MCP, appliqués à un agent d’exemple : on l’attaque d’abord tel quel, puis on répète l’attaque sur la version durcie.
Informations sur la formation
| Code SIXE : SXIA11 | Catégorie : Intelligence artificielle / Sécurité de l’IA |
| Modalité : En ligne et en présentiel | Durée : 2 jours |
Pour qui
Équipes sécurité qui doivent valider un agent avant sa mise en production, et développeurs et architectes qui le construisent et le connectent aux systèmes internes.
Prérequis
Des bases de Python pour lire le code de l’agent et de ses serveurs MCP, et avoir déjà utilisé un assistant ou un agent avec des outils. La formation sécurité de l’IA avec OWASP ou celle sur les serveurs MCP aide.
Ce que tu vas apprendre
- Les risques d’un agent : ce qui change par rapport à un chatbot quand le modèle peut agir, à commencer par le détournement d’objectif via des instructions cachées dans ce que l’agent lit.
- Les permissions des serveurs MCP : OAuth sur ton annuaire pour que l’agent agisse avec les droits de la personne qui l’utilise, lecture seule par défaut et validation humaine avant toute écriture.
- Serveurs et outils tiers : ce qu’il faut vérifier avant d’installer un serveur MCP, les descriptions d’outils qui cachent des instructions et comment figer les versions.
- Isoler l’agent : conteneurs avec gVisor ou Kata sur Kubernetes, politiques réseau qui limitent avec qui il parle et secrets qui ne passent jamais par le contexte du modèle.
- Journaliser et retester : traces de chaque appel d’outil, alertes et une batterie d’attaques relancée à chaque modification de l’agent.
On travaille avec un agent connecté à deux systèmes internes via MCP, et tu repars avec la version durcie, son journal d’audit et le rapport des tests d’attaque avant et après.
Ce que tu emportes
- Une liste de vérification pour valider les serveurs MCP avant de les installer.
- Des manifestes pour déployer l’agent de façon isolée sur Kubernetes.
- Une batterie de tests d’injection réutilisable.
Si tu préfères que nous le mettions en place, c’est notre service d’agents IA connectés via MCP. Pour construire les serveurs de zéro, il y a la formation serveurs MCP.
Questions fréquentes
Combien de temps dure la formation ?
2 jours.
Est-elle en ligne ou en présentiel ?
Les deux : dans tes locaux ou à distance, avec un formateur en direct.
Que dois-je savoir avant de commencer ?
Des bases de Python pour lire le code de l’agent et de ses serveurs MCP, et avoir déjà utilisé un assistant ou un agent avec des outils. La formation sécurité de l’IA avec OWASP ou celle sur les serveurs MCP aide.
En quoi diffère-t-elle de la formation sécurité de l’IA avec OWASP ?
Celle-ci traite les applications à base de modèles de langage, comme les chatbots et les assistants avec RAG. Celle-là se concentre sur les agents qui agissent avec des outils, où le risque tient aux permissions et à ce que l’agent peut toucher.
Est-ce valable pour des agents faits avec n8n ou LangGraph ?
Oui. Les contrôles de permissions, d’isolation et de journalisation ne dépendent pas du framework utilisé, et les travaux pratiques peuvent se faire sur celui que tu utilises.
Peut-on l’adapter à mon équipe ?
Oui. Nous adaptons les exemples et les travaux pratiques aux outils et aux processus de l’équipe, et elle peut être combinée avec d’autres formations en IA.
