Dans vos locaux
Pour ancrer les apprentissages et encourager la dynamique collective.
Formation Modèles ouverts et IA générative auto-hébergée
Déployez des modèles ouverts sur une infrastructure maîtrisée et arbitrez objectivement entre auto-hébergement et service managé.
Sélection d'un modèle ouvert et vérification de sa licence, déploiement sur infrastructure maîtrisée, optimisation du service d'inférence et comparaison du coût complet avec un service managé.
service_inference:
moteur: vllm
modele: mixtral-8x7b-instruct
quantification: awq
gpu:
type: A100
nombre: 2
replicas: 2
licence_verifiee: trueDescription
Cette formation traite le déploiement et l'exploitation de modèles ouverts sur une infrastructure maîtrisée : critères de sélection d'un modèle adapté à un usage donné, vérification de sa licence d'utilisation, dimensionnement du service d'inférence avec des outils comme vLLM ou TGI, et optimisation de ses performances. Elle aborde ensuite la comparaison chiffrée du coût complet de l'auto-hébergement — matériel, exploitation, maintenance — avec celui d'un service en ligne managé, condition d'un arbitrage objectif plutôt qu'idéologique. Elle s'adresse aux architectes, ingénieurs d'infrastructure, RSSI, DSI, développeurs et responsables de plateformes qui envisagent l'auto-hébergement de modèles génératifs.
Les objectifs
sélectionner un modèle ouvert adapté à un usage et vérifier sa licence
déployer un modèle sur une infrastructure maîtrisée
optimiser le service d'inférence et mesurer ses performances
comparer le coût complet de l'auto-hébergement et d'un service managé
Public visé
Architectes, ingénieurs d'infrastructure, RSSI, DSI, développeurs, responsables de plateformes.
Prérequis
Connaissance de l'administration système et des principes de l'IA générative.
Le programme
Jour 1
Matinée
1. Écosystème des modèles ouverts
- Ce que recouvre un modèle « ouvert » : poids, licence, données d'entraînement
- Principales familles de modèles ouverts, dont européennes, et niveaux de performance
- Licences et conditions d'usage commercial : points de vigilance
- Formats, quantification et variantes de taille
- Critères de sélection d'un modèle pour un usage interne
- Travaux pratiques : sélection argumentée d'un modèle pour un cas d'usage donné
Après-midi
2. Déployer et servir un modèle
- Dimensionnement : mémoire, accélérateurs, débit attendu, nombre d'utilisateurs
- Serveurs d'inférence du marché et critères de choix
- Déploiement sur serveur, sur poste et en conteneur
- Exposition d'une interface compatible avec les applications existantes
- Mesure des performances : latence, débit, consommation
- Travaux pratiques : déploiement complet d'un modèle ouvert et mesure de ses performances
Jour 2
Matinée
3. Optimiser le service d'inférence
- Quantification : niveaux disponibles et effet mesuré sur la qualité
- Traitement par lots, mise en cache et parallélisme des requêtes
- Gestion de la mémoire des accélérateurs et taille du contexte
- Répartition de charge entre plusieurs instances
- Choix du matériel : accélérateurs, processeurs, coût par requête
- Travaux pratiques : optimisation du déploiement et mesure du gain de débit obtenu
Après-midi
4. Exploitation, sécurité et arbitrage
- Supervision, journalisation et gestion de la charge
- Sécurité : accès, cloisonnement, filtrage des entrées et des sorties
- Mise à jour des modèles et gestion des versions
- Coût complet comparé à un service en ligne : matériel, énergie, compétences
- Critères d'arbitrage selon la sensibilité des données et le volume d'usage
- Travaux pratiques : comparaison chiffrée entre auto-hébergement et service managé pour un usage réel
Dernière mise à jour : 18 septembre 2026
En présentiel ou à distance : à vous de choisir
En classe virtuelle
Pour allier flexibilité et interactions en temps réel avec le formateur.
Dans nos locaux
Pour favoriser la concentration, les échanges et le confort des apprenants.
Les modalités de formation
Suivi et évaluation :
- Recueil des besoins en amont pour identifier les attentes du stagiaire
- Évaluation continue : études de cas et travaux pratiques pendant la formation
- Évaluation finale : questionnaire d'auto-évaluation
Format et encadrement :
- Formation équilibrée alliant théorie et pratique (minimum 50%)
- Sessions en petits groupes (2 à 9 participants) pour un suivi personnalisé
- Émargement par demi-journée et remise d'une attestation de formation
Moyens pédagogiques et techniques :
- Méthodes interactives et suivi des acquis : travaux pratiques, projet fil rouge, mises en situation, démonstrations, QCM…
- Les stagiaires doivent être équipés de leur matériel informatique pour suivre la formation, que ce soit dans nos locaux ou sur site externe.
- Les prérequis techniques seront communiqués aux apprenants en amont de la formation, lors de l'analyse des besoins, en fonction des spécificités de chaque client.
- Accessibilité: nous informons l'ensemble de nos clients et stagiaires que nous sommes dans la capacité d'adapter les sessions en cas de situations spécifiques. Nous nous engageons à répondre à toutes les demandes dans un délai de 48h ouvré.
Conditions et délais d'accès :
- Si l'une de nos formations vous intéresse, contactez-nous au +33 04 93 65 34 24 ou à l'adresse mail contact@le-code.dev. Selon votre besoin et vos attentes, nous organiserons un échange téléphonique avec le formateur pressenti afin d'adapter la formation et ses modules, puis nous vous adresserons un devis. Les dates de la formation seront à convenir sous 30 jours maximum.
- Concernant les formations Actions Collectives, l'inscription est possible jusqu'à 24h ouvrées avant le début de la formation.