Dans vos locaux
Pour ancrer les apprentissages et encourager la dynamique collective.
Formation IA robuste : attaques adverses et défenses
Sécurisez vos modèles d'IA contre les exemples adverses, l'empoisonnement et l'extraction grâce à une évaluation honnête des défenses.
Exemples adverses, empoisonnement des données, extraction de modèle, inférence d'appartenance, mise en œuvre de défenses adaptées et intégration des tests dans le cycle de vie du système.
import torch
def fgsm_attack(model, x, y, eps=0.03):
x.requires_grad = True
loss = torch.nn.functional.cross_entropy(model(x), y)
loss.backward()
return x + eps * x.grad.sign()Description
Cette formation traite la sécurité des modèles eux-mêmes, au-delà de la sécurité applicative classique : génération d'exemples adverses par des méthodes comme FGSM ou PGD, empoisonnement des données d'entraînement, extraction de modèle par requêtes répétées et inférence d'appartenance à un jeu d'entraînement. Chaque attaque est reproduite en laboratoire avant la mise en œuvre des défenses correspondantes — entraînement adverse, détection d'anomalies, limitation des requêtes — avec une évaluation honnête de leur efficacité réelle plutôt qu'un catalogue de mesures théoriques. Les tests de robustesse sont ensuite intégrés au cycle de vie du système. Elle s'adresse aux ingénieurs IA, data scientists, RSSI, ingénieurs sécurité et auditeurs de systèmes d'IA.
Les objectifs
identifier les attaques applicables à un système d'IA
évaluer la robustesse d'un modèle face à des entrées adverses
mettre en œuvre les défenses adaptées au niveau de risque
intégrer les tests de robustesse dans le cycle de vie du système
Public visé
Ingénieurs IA, data scientists, RSSI, ingénieurs sécurité, auditeurs de systèmes d'IA.
Prérequis
Connaissance de l'apprentissage automatique et des principes de sécurité.
Le programme
Jour 1
Matinée
1. Panorama des attaques sur les modèles
- Taxonomie : attaques à l'entraînement, à l'inférence, sur le modèle lui-même
- Modèles de menace : accès complet, accès limité, accès par interface seulement
- Cas documentés d'attaques sur des systèmes en production
- Référentiels dédiés à la sécurité des systèmes d'IA
- Modélisation des menaces appliquée à un modèle déployé
- Travaux pratiques : modélisation des menaces d'un système d'IA fourni
Après-midi
2. Exemples adverses
- Principe des perturbations adverses et intuition mathématique
- Attaques sur les modèles de vision et de classification
- Attaques transférables entre modèles
- Attaques physiques et cas d'usage concernés
- Mesure de la robustesse d'un modèle
- Travaux pratiques : génération d'exemples adverses en laboratoire et mesure de la chute de performance
Jour 2
Matinée
3. Empoisonnement et portes dérobées
- Empoisonnement des données d'entraînement : principes et effets
- Portes dérobées déclenchées par un motif et détection
- Empoisonnement des corpus de recherche augmentée
- Sécurité de la chaîne d'approvisionnement des modèles et des jeux de données
- Vérification de provenance et signature des artefacts
- Travaux pratiques : mise en évidence d'un empoisonnement et des contrôles qui l'auraient détecté
Après-midi
4. Confidentialité du modèle et des données
- Extraction de modèle par interrogation répétée
- Inférence d'appartenance et fuite de données d'entraînement
- Reconstruction de données à partir des sorties du modèle
- Confidentialité différentielle : principe, coût en performance
- Limitation de débit et détection des interrogations suspectes
- Travaux pratiques : test d'inférence d'appartenance et mise en place des protections
Jour 3
Matinée
5. Défenses et leur efficacité réelle
- Entraînement adverse : mise en œuvre et coût
- Détection des entrées anormales et rejet
- Prétraitement défensif et lissage
- Défenses illusoires et importance de l'évaluation adverse
- Défense en profondeur : combiner mesures techniques et organisationnelles
- Travaux pratiques : mise en œuvre de défenses et évaluation de leur efficacité contre des attaques adaptatives
Après-midi
6. Intégrer la robustesse au cycle de vie
- Exigences de robustesse dans la spécification d'un système d'IA
- Tests de robustesse automatisés dans la chaîne de livraison
- Supervision en production et détection d'attaques
- Réponse à incident sur un modèle compromis
- Documentation et exigences réglementaires de robustesse
- Travaux pratiques : conception du dispositif de sécurité complet d'un système d'IA
Dernière mise à jour : 18 septembre 2026
En présentiel ou à distance : à vous de choisir
En classe virtuelle
Pour allier flexibilité et interactions en temps réel avec le formateur.
Dans nos locaux
Pour favoriser la concentration, les échanges et le confort des apprenants.
Les modalités de formation
Suivi et évaluation :
- Recueil des besoins en amont pour identifier les attentes du stagiaire
- Évaluation continue : études de cas et travaux pratiques pendant la formation
- Évaluation finale : questionnaire d'auto-évaluation
Format et encadrement :
- Formation équilibrée alliant théorie et pratique (minimum 50%)
- Sessions en petits groupes (2 à 9 participants) pour un suivi personnalisé
- Émargement par demi-journée et remise d'une attestation de formation
Moyens pédagogiques et techniques :
- Méthodes interactives et suivi des acquis : travaux pratiques, projet fil rouge, mises en situation, démonstrations, QCM…
- Les stagiaires doivent être équipés de leur matériel informatique pour suivre la formation, que ce soit dans nos locaux ou sur site externe.
- Les prérequis techniques seront communiqués aux apprenants en amont de la formation, lors de l'analyse des besoins, en fonction des spécificités de chaque client.
- Accessibilité: nous informons l'ensemble de nos clients et stagiaires que nous sommes dans la capacité d'adapter les sessions en cas de situations spécifiques. Nous nous engageons à répondre à toutes les demandes dans un délai de 48h ouvré.
Conditions et délais d'accès :
- Si l'une de nos formations vous intéresse, contactez-nous au +33 04 93 65 34 24 ou à l'adresse mail contact@le-code.dev. Selon votre besoin et vos attentes, nous organiserons un échange téléphonique avec le formateur pressenti afin d'adapter la formation et ses modules, puis nous vous adresserons un devis. Les dates de la formation seront à convenir sous 30 jours maximum.
- Concernant les formations Actions Collectives, l'inscription est possible jusqu'à 24h ouvrées avant le début de la formation.