Spécialiste Sécurité des Agents IA

À qui s'adresse cette formation

• Ingénieurs sécurité et pentesters qui étendent leurs compétences aux systèmes d’IA et aux agents autonomes.
• Développeurs et architectes IA responsables de la sûreté d’agents en production.
• RSSI et responsables conformité chargés de l’AI Act et de l’évaluation des risques.
• DevSecOps qui intègrent sécurité et traçabilité dans une chaîne de déploiement d’agents.

Prérequis réels

• Pratique courante de la sécurité applicative et des tests d’intrusion : modèles de menaces, réseau, cryptographie.
• Comprendre l’architecture d’un agent à base de modèle de langage et de ses outils.
• Savoir lire du code Python et manipuler des API.

Ce que vous saurez faire

À l'issue de la formation, vous serez capable de :

• Identifier les vulnérabilités des applications LLM selon l’OWASP LLM Top 10.
• Concevoir des attaques d’injection de prompt et de fuite de contexte, puis les neutraliser.
• Mettre en place un monitoring comportemental et une détection d’anomalies des agents.
• Conduire un red teaming méthodique d’un agent et documenter les failles.
• Appliquer les exigences de l’AI Act, la SBOM et les approches de sécurité par conception.

Programme — 6 modules

Formation 100% en ligne, à votre rythme.

• Module 1 — OWASP LLM Top 10 et surface d’attaque
  On parcourt les dix risques majeurs des applications LLM et on cartographie la surface d’attaque d’un agent connecté à des outils.
• Module 2 — Injection de prompt et fuite de contexte
  On construit des attaques directes et indirectes, exfiltre des instructions système et met en place des défenses et filtres.
• Module 3 — Sécurité par conception : CaMeL et ARISE
  On applique des architectures de sûreté (CaMeL, ARISE) qui isolent la logique, les données et les décisions des agents.
• Module 4 — Monitoring comportemental des agents
  On détecte dérives, actions non autorisées et usages abusifs par traçage, seuils et alertes sur le comportement des agents.
• Module 5 — Red teaming et SBOM
  On mène des campagnes de red teaming structurées et on produit une SBOM des modèles, dépendances et composants employés.
• Module 6 — Conformité AI Act et rapport de sécurité
  On classe les systèmes selon leurs risques, mappe les obligations de l’AI Act et rédige un rapport de sécurité exploitable.

Outils utilisés

Cette formation manipule les outils suivants : Claude · ChatGPT · n8n · Python · Docker.

Informations pratiques

Questions fréquentes

Formations complémentaires