Dans vos locaux
Pour ancrer les apprentissages et encourager la dynamique collective.
Formation Garde-fous et sécurité des invites
Structurez la couche de protection de vos systèmes d'IA générative pour bloquer l'injection d'instructions sans dégrader l'expérience.
Garde-fous en entrée et en sortie, détection des injections d'instructions, validation des actions déclenchées, mesure de l'efficacité des protections et arbitrage sécurité/expérience utilisateur.
guardrails:
input:
- type: prompt_injection
action: block
- type: pii_filter
action: redact
output:
- type: toxicity
threshold: 0.8
action: block
- type: action_validation
require_approval: trueDescription
Cette formation traite la couche de protection qui entoure un modèle d'IA générative en production : conception de garde-fous en entrée pour filtrer les requêtes à risque, garde-fous en sortie pour contrôler le contenu généré, détection des tentatives d'injection d'instructions et validation des actions déclenchées par le système avant exécution. Chaque protection mise en œuvre est mesurée sur des jeux de tentatives de contournement réalistes, afin d'établir son efficacité réelle plutôt que de multiplier les couches de filtrage sans visibilité. La formation aide également à arbitrer entre niveau de protection et qualité de l'expérience utilisateur. Elle s'adresse aux ingénieurs IA, développeurs, architectes, RSSI et responsables de la sécurité applicative.
Les objectifs
concevoir des garde-fous en entrée et en sortie d'un système d'IA générative
détecter et bloquer les tentatives d'injection d'instructions
évaluer l'efficacité des protections mises en place
arbitrer entre niveau de protection et qualité d'expérience utilisateur
Public visé
Ingénieurs IA, développeurs, architectes, RSSI, responsables de la sécurité applicative.
Prérequis
Expérience du développement d'applications d'IA générative.
Le programme
Jour 1
Matinée
1. Menaces et stratégie de défense
- Typologie des détournements : injection directe, injection indirecte, contournement des consignes
- Exfiltration de données par les réponses et par les outils
- Génération de contenus indésirables et responsabilité de l'éditeur
- Principes de défense en profondeur appliqués à une application d'IA
- Ce qu'une consigne système peut et ne peut pas protéger
- Travaux pratiques : mise en évidence de plusieurs contournements sur une application non protégée
Après-midi
2. Filtrage en entrée
- Détection des tentatives d'injection et des motifs connus
- Classification des requêtes et rejet hors périmètre
- Séparation stricte entre instructions et données traitées
- Nettoyage des contenus issus de sources externes
- Limitation de débit et détection des campagnes d'abus
- Travaux pratiques : mise en place d'un filtrage en entrée et mesure du taux de détection
Jour 2
Matinée
3. Filtrage en sortie et validation
- Détection de données sensibles dans les réponses
- Filtrage des contenus inappropriés et modèles dédiés
- Validation structurelle et métier des sorties avant usage
- Contrôle des actions demandées par le modèle avant exécution
- Journalisation des blocages et analyse des faux positifs
- Travaux pratiques : mise en place du filtrage en sortie et analyse des faux positifs générés
Après-midi
4. Évaluer et exploiter les garde-fous
- Jeux de test adverses et campagnes automatisées
- Mesure du compromis entre protection et qualité d'expérience
- Supervision des garde-fous en production et alertes
- Mise à jour des protections face à de nouveaux contournements
- Documentation et preuves pour un audit de sécurité
- Travaux pratiques : campagne d'évaluation des garde-fous et rapport de couverture
Dernière mise à jour : 18 septembre 2026
En présentiel ou à distance : à vous de choisir
En classe virtuelle
Pour allier flexibilité et interactions en temps réel avec le formateur.
Dans nos locaux
Pour favoriser la concentration, les échanges et le confort des apprenants.
Les modalités de formation
Suivi et évaluation :
- Recueil des besoins en amont pour identifier les attentes du stagiaire
- Évaluation continue : études de cas et travaux pratiques pendant la formation
- Évaluation finale : questionnaire d'auto-évaluation
Format et encadrement :
- Formation équilibrée alliant théorie et pratique (minimum 50%)
- Sessions en petits groupes (2 à 9 participants) pour un suivi personnalisé
- Émargement par demi-journée et remise d'une attestation de formation
Moyens pédagogiques et techniques :
- Méthodes interactives et suivi des acquis : travaux pratiques, projet fil rouge, mises en situation, démonstrations, QCM…
- Les stagiaires doivent être équipés de leur matériel informatique pour suivre la formation, que ce soit dans nos locaux ou sur site externe.
- Les prérequis techniques seront communiqués aux apprenants en amont de la formation, lors de l'analyse des besoins, en fonction des spécificités de chaque client.
- Accessibilité: nous informons l'ensemble de nos clients et stagiaires que nous sommes dans la capacité d'adapter les sessions en cas de situations spécifiques. Nous nous engageons à répondre à toutes les demandes dans un délai de 48h ouvré.
Conditions et délais d'accès :
- Si l'une de nos formations vous intéresse, contactez-nous au +33 04 93 65 34 24 ou à l'adresse mail contact@le-code.dev. Selon votre besoin et vos attentes, nous organiserons un échange téléphonique avec le formateur pressenti afin d'adapter la formation et ses modules, puis nous vous adresserons un devis. Les dates de la formation seront à convenir sous 30 jours maximum.
- Concernant les formations Actions Collectives, l'inscription est possible jusqu'à 24h ouvrées avant le début de la formation.