[{"data":1,"prerenderedAt":45},["ShallowReactive",2],{"course-ia-robuste-attaques-adverses-et-defenses":3,"highlight-python-import torch\n\ndef fg":44},{"id":4,"name":5,"slug":6,"location":7,"targetAudienceFormatMarkdown":8,"prerequisitesFormatMarkdown":9,"objectivesFormatMarkdown":10,"descriptionFormatMarkdown":11,"teachingMethodsFormatMarkdown":12,"teachingResourcesFormatMarkdown":13,"evaluationMethodsFormatMarkdown":14,"accessibilityFormatMarkdown":15,"accessMethodsFormatMarkdown":16,"minimumParticipants":7,"maximumParticipants":7,"duration":17,"reference":18,"trainerType":7,"updated_at":19,"created_at":20,"price":21,"organizationMode":22,"theme":25,"code":29,"tags":34,"metadata":35},"/api/courses/bc8a8521-b343-11f1-a993-d8ca06000363","IA robuste : attaques adverses et défenses","ia-robuste-attaques-adverses-et-defenses",null,"Ingénieurs IA, data scientists, RSSI, ingénieurs sécurité, auditeurs de systèmes d'IA.","-   Connaissance de l'apprentissage automatique et des principes de sécurité.","-   identifier les attaques applicables à un système d'IA\n-   évaluer la robustesse d'un modèle face à des entrées adverses\n-   mettre en œuvre les défenses adaptées au niveau de risque\n-   intégrer les tests de robustesse dans le cycle de vie du système","--day1--\n\n## Panorama des attaques sur les modèles\n\n-   Taxonomie : attaques à l'entraînement, à l'inférence, sur le modèle lui-même\n-   Modèles de menace : accès complet, accès limité, accès par interface seulement\n-   Cas documentés d'attaques sur des systèmes en production\n-   Référentiels dédiés à la sécurité des systèmes d'IA\n-   Modélisation des menaces appliquée à un modèle déployé\n-   Travaux pratiques : modélisation des menaces d'un système d'IA fourni\n\n--break--\n\n## Exemples adverses\n\n-   Principe des perturbations adverses et intuition mathématique\n-   Attaques sur les modèles de vision et de classification\n-   Attaques transférables entre modèles\n-   Attaques physiques et cas d'usage concernés\n-   Mesure de la robustesse d'un modèle\n-   Travaux pratiques : génération d'exemples adverses en laboratoire et mesure de la chute de performance\n\n--day2--\n\n## Empoisonnement et portes dérobées\n\n-   Empoisonnement des données d'entraînement : principes et effets\n-   Portes dérobées déclenchées par un motif et détection\n-   Empoisonnement des corpus de recherche augmentée\n-   Sécurité de la chaîne d'approvisionnement des modèles et des jeux de données\n-   Vérification de provenance et signature des artefacts\n-   Travaux pratiques : mise en évidence d'un empoisonnement et des contrôles qui l'auraient détecté\n\n--break--\n\n## Confidentialité du modèle et des données\n\n-   Extraction de modèle par interrogation répétée\n-   Inférence d'appartenance et fuite de données d'entraînement\n-   Reconstruction de données à partir des sorties du modèle\n-   Confidentialité différentielle : principe, coût en performance\n-   Limitation de débit et détection des interrogations suspectes\n-   Travaux pratiques : test d'inférence d'appartenance et mise en place des protections\n\n--day3--\n\n## Défenses et leur efficacité réelle\n\n-   Entraînement adverse : mise en œuvre et coût\n-   Détection des entrées anormales et rejet\n-   Prétraitement défensif et lissage\n-   Défenses illusoires et importance de l'évaluation adverse\n-   Défense en profondeur : combiner mesures techniques et organisationnelles\n-   Travaux pratiques : mise en œuvre de défenses et évaluation de leur efficacité contre des attaques adaptatives\n\n--break--\n\n## Intégrer la robustesse au cycle de vie\n\n-   Exigences de robustesse dans la spécification d'un système d'IA\n-   Tests de robustesse automatisés dans la chaîne de livraison\n-   Supervision en production et détection d'attaques\n-   Réponse à incident sur un modèle compromis\n-   Documentation et exigences réglementaires de robustesse\n-   Travaux pratiques : conception du dispositif de sécurité complet d'un système d'IA","Présentiel, distanciel, hybride","Les supports pédagogiques sont remis aux stagiaires sous format numérique et/ou papier selon les modalités de la formation.\n\nIls comprennent des supports de cours, des présentations, des fiches pratiques, des études de cas, des exercices applicatifs ainsi que des QCM d’entraînement selon la formation. (adapté au choix du formateur)\n\nLes formations s’appuient sur des moyens techniques adaptés : ordinateurs, logiciels professionnels, connexion internet, écran ou vidéoprojecteur, ainsi que des outils collaboratifs et de visioconférence pour les formations à distance.\n\nL’ensemble des supports pédagogiques est accessible pendant et après la formation afin de favoriser l’appropriation et la mise en pratique des compétences acquises.","En amont de la formation, un recueil des besoins permet de récolter des informations sur le stagiaire et ses attentes. L’évaluation se fait en cours de formation, par des études de cas ou des travaux pratiques. En fin de formation, par un questionnaire d’auto-évaluation et/ou un examen.\n\nUn suivi de qualité est effectué grâce à nos sessions en groupe restreint (entre 2 et 9 participants maximum). Le stagiaire émargera par demi-journée et recevra une attestation de formation.","Nous informons l’ensemble de nos clients et stagiaires que nous sommes dans la capacité d’adapter les sessions selon les handicaps et les situations spécifiques. Nous nous engageons à répondre à toutes vos demandes sous un délai de 48h ouvré.","Si l’une de nos formations vous intéresse, contactez-nous au +33 4 93 65 34 24 ou à l’adresse mail contact@m2g-intellect.fr. Selon votre besoin et vos attentes, nous organiserons un échange téléphonique avec le formateur pressenti afin d’adapter la formation et ses modules, puis nous vous adresserons un devis.\n\nLes dates de la formation seront à convenir sous 30 jours maximum.","21.00","L2-EXP-09","2026-09-18T11:42:27+00:00","2026-09-18T11:31:33+00:00","2530.00",{"id":23,"name":24},"/api/organization_mode_types/6","HYBRID",{"id":26,"name":27,"slug":28},"/api/themes/1bfd6e41-c2b0-4813-a29b-c9e1c486b5d0","Intelligence Artificielle","intelligence-artificielle",{"id":30,"label":31,"domain":32},"/api/training_specialities/163","326 - Informatique, traitement de l’information, réseaux de transmission des données",{"label":33},"32 - Communication et information",[],{"desc-accroche":36,"Description":37,"icon-color":38,"icon-name":39,"code-langage":40,"code-snippet":41,"courte-description":42,"titre-accroche":43},"Exemples adverses, empoisonnement des données, extraction de modèle, inférence d'appartenance, mise en œuvre de défenses adaptées et intégration des tests dans le cycle de vie du système.","Cette formation traite la sécurité des modèles eux-mêmes, au-delà de la sécurité applicative classique : génération d'exemples adverses par des méthodes comme FGSM ou PGD, empoisonnement des données d'entraînement, extraction de modèle par requêtes répétées et inférence d'appartenance à un jeu d'entraînement. Chaque attaque est reproduite en laboratoire avant la mise en œuvre des défenses correspondantes — entraînement adverse, détection d'anomalies, limitation des requêtes — avec une évaluation honnête de leur efficacité réelle plutôt qu'un catalogue de mesures théoriques. Les tests de robustesse sont ensuite intégrés au cycle de vie du système. Elle s'adresse aux ingénieurs IA, data scientists, RSSI, ingénieurs sécurité et auditeurs de systèmes d'IA.","#134E4A","mdi:shield-alert-outline","python","import torch\n\ndef fgsm_attack(model, x, y, eps=0.03):\n    x.requires_grad = True\n    loss = torch.nn.functional.cross_entropy(model(x), y)\n    loss.backward()\n    return x + eps * x.grad.sign()","Formation experte en sécurité des modèles d'IA : attaques adverses, empoisonnement, extraction de modèle et défenses évaluées honnêtement en laboratoire.","Sécurisez vos modèles d'IA contre les exemples adverses, l'empoisonnement et l'extraction grâce à une évaluation honnête des défenses.","\u003Cpre class=\"hljs\">\u003Ccode class=\"language-python\">\u003Cspan class=\"hljs-keyword\">import\u003C/span> torch\n\n\u003Cspan class=\"hljs-keyword\">def\u003C/span> \u003Cspan class=\"hljs-title function_\">fgsm_attack\u003C/span>(\u003Cspan class=\"hljs-params\">model, x, y, eps=\u003Cspan class=\"hljs-number\">0.03\u003C/span>\u003C/span>):\n    x.requires_grad = \u003Cspan class=\"hljs-literal\">True\u003C/span>\n    loss = torch.nn.functional.cross_entropy(model(x), y)\n    loss.backward()\n    \u003Cspan class=\"hljs-keyword\">return\u003C/span> x + eps * x.grad.sign()\u003C/code>\u003C/pre>",1789740844955]