[{"data":1,"prerenderedAt":45},["ShallowReactive",2],{"course-deployer-et-mettre-a-l-echelle-des-modeles-d-ia":3,"highlight-hcl-resource \"kubernetes":44},{"id":4,"name":5,"slug":6,"location":7,"targetAudienceFormatMarkdown":8,"prerequisitesFormatMarkdown":9,"objectivesFormatMarkdown":10,"descriptionFormatMarkdown":11,"teachingMethodsFormatMarkdown":12,"teachingResourcesFormatMarkdown":13,"evaluationMethodsFormatMarkdown":14,"accessibilityFormatMarkdown":15,"accessMethodsFormatMarkdown":16,"minimumParticipants":7,"maximumParticipants":7,"duration":17,"reference":18,"trainerType":7,"updated_at":19,"created_at":20,"price":21,"organizationMode":22,"theme":25,"code":29,"tags":34,"metadata":35},"/api/courses/bc8a849e-b343-11f1-a993-d8ca06000363","Déployer et mettre à l'échelle des modèles d'IA","deployer-et-mettre-a-l-echelle-des-modeles-d-ia",null,"Ingénieurs d'infrastructure, ingénieurs IA, architectes, ingénieurs DevOps, responsables de plateformes.","-   Connaissance de l'administration système, de la conteneurisation et des principes de l'inférence.","-   dimensionner l'infrastructure d'inférence d'un modèle\n-   mettre en œuvre un service de modèles performant et disponible\n-   gérer la montée en charge et la répartition du trafic\n-   superviser les performances et les coûts d'un service d'inférence","--day1--\n\n## Dimensionner l'infrastructure\n\n-   Besoins en mémoire et en calcul selon la taille du modèle\n-   Accélérateurs matériels : caractéristiques, disponibilité, coût\n-   Calcul du nombre d'instances nécessaires pour un volume donné\n-   Arbitrage entre matériel dédié, cloud et service managé\n-   Contraintes de centre de données : énergie, refroidissement, place\n-   Travaux pratiques : dimensionnement chiffré d'une plateforme pour un volume d'usage donné\n\n--break--\n\n## Servir un modèle\n\n-   Moteurs de service d'inférence et critères de choix\n-   Interfaces exposées et compatibilité avec les applications\n-   Chargement des modèles, démarrage à froid et préchauffage\n-   Traitement par lots et gestion des files de requêtes\n-   Multi-modèles sur une même infrastructure\n-   Travaux pratiques : déploiement d'un service d'inférence et mesure de ses performances\n\n--day2--\n\n## Orchestration et mise à l'échelle\n\n-   Déploiement sur une plateforme d'orchestration de conteneurs\n-   Gestion des accélérateurs dans un cluster\n-   Mise à l'échelle automatique selon la charge et limites propres à l'IA\n-   Répartition du trafic et routage entre modèles\n-   Isolation des charges et gestion des priorités\n-   Travaux pratiques : déploiement d'un service mis à l'échelle automatiquement\n\n--break--\n\n## Disponibilité et résilience\n\n-   Redondance et bascule d'un service d'inférence\n-   Dégradation contrôlée : repli sur un modèle plus léger\n-   Gestion des indisponibilités d'un fournisseur externe\n-   Sauvegarde et reconstruction d'une plateforme\n-   Tests de résilience et exercices de panne\n-   Travaux pratiques : mise en place d'un repli automatique et test de bascule\n\n--day3--\n\n## Sécurité et cloisonnement\n\n-   Isolation des modèles et des données entre équipes\n-   Contrôle d'accès aux points de terminaison d'inférence\n-   Chiffrement des flux et protection des poids de modèles\n-   Journalisation et traçabilité des appels\n-   Conformité et exigences de souveraineté\n-   Travaux pratiques : sécurisation complète d'un service d'inférence interne\n\n--break--\n\n## Exploitation et coûts\n\n-   Supervision : utilisation des accélérateurs, latence, débit, erreurs\n-   Attribution des coûts par application et par équipe\n-   Optimisation du taux d'utilisation des ressources\n-   Planification de capacité et anticipation des besoins\n-   Documentation d'exploitation et procédures d'astreinte\n-   Travaux pratiques : construction du tableau de bord d'exploitation et du plan de capacité","Présentiel, distanciel, hybride","Les supports pédagogiques sont remis aux stagiaires sous format numérique et/ou papier selon les modalités de la formation.\n\nIls comprennent des supports de cours, des présentations, des fiches pratiques, des études de cas, des exercices applicatifs ainsi que des QCM d’entraînement selon la formation. (adapté au choix du formateur)\n\nLes formations s’appuient sur des moyens techniques adaptés : ordinateurs, logiciels professionnels, connexion internet, écran ou vidéoprojecteur, ainsi que des outils collaboratifs et de visioconférence pour les formations à distance.\n\nL’ensemble des supports pédagogiques est accessible pendant et après la formation afin de favoriser l’appropriation et la mise en pratique des compétences acquises.","En amont de la formation, un recueil des besoins permet de récolter des informations sur le stagiaire et ses attentes. L’évaluation se fait en cours de formation, par des études de cas ou des travaux pratiques. En fin de formation, par un questionnaire d’auto-évaluation et/ou un examen.\n\nUn suivi de qualité est effectué grâce à nos sessions en groupe restreint (entre 2 et 9 participants maximum). Le stagiaire émargera par demi-journée et recevra une attestation de formation.","Nous informons l’ensemble de nos clients et stagiaires que nous sommes dans la capacité d’adapter les sessions selon les handicaps et les situations spécifiques. Nous nous engageons à répondre à toutes vos demandes sous un délai de 48h ouvré.","Si l’une de nos formations vous intéresse, contactez-nous au +33 4 93 65 34 24 ou à l’adresse mail contact@m2g-intellect.fr. Selon votre besoin et vos attentes, nous organiserons un échange téléphonique avec le formateur pressenti afin d’adapter la formation et ses modules, puis nous vous adresserons un devis.\n\nLes dates de la formation seront à convenir sous 30 jours maximum.","21.00","L2-EXP-08","2026-09-18T11:42:27+00:00","2026-09-18T11:31:33+00:00","2530.00",{"id":23,"name":24},"/api/organization_mode_types/6","HYBRID",{"id":26,"name":27,"slug":28},"/api/themes/1bfd6e41-c2b0-4813-a29b-c9e1c486b5d0","Intelligence Artificielle","intelligence-artificielle",{"id":30,"label":31,"domain":32},"/api/training_specialities/163","326 - Informatique, traitement de l’information, réseaux de transmission des données",{"label":33},"32 - Communication et information",[],{"desc-accroche":36,"Description":37,"icon-color":38,"icon-name":39,"code-langage":40,"code-snippet":41,"courte-description":42,"titre-accroche":43},"Dimensionnement de l'infrastructure d'inférence, choix des accélérateurs, service de modèles, répartition du trafic, montée en charge, haute disponibilité et supervision des coûts.","Cette formation traite l'infrastructure qui supporte l'IA en production : dimensionnement de la capacité d'inférence, choix et partage des accélérateurs matériels, mise en œuvre d'un service de modèles performant avec des outils comme Triton ou vLLM, répartition du trafic entre instances et montée en charge automatique. Elle couvre également la haute disponibilité du service, la gestion des déploiements sur Kubernetes et l'infrastructure as code avec Terraform, ainsi que la supervision des performances et des coûts en production, sur site comme dans le cloud. Elle s'adresse aux ingénieurs d'infrastructure, ingénieurs IA, architectes, ingénieurs DevOps et responsables de plateformes qui opèrent des services d'inférence à grande échelle.","#0F766E","mdi:cloud-sync-outline","hcl","resource \"kubernetes_deployment\" \"inference\" {\n  metadata { name = \"llm-inference\" }\n  spec {\n    replicas = 4\n    template {\n      spec {\n        container {\n          name  = \"model-server\"\n          image = \"vllm/vllm-openai:latest\"\n          resources { limits = { \"nvidia.com/gpu\" = 1 } }\n        }\n      }\n    }\n  }\n}","Formation experte pour dimensionner, déployer et superviser un service d'inférence d'IA à l'échelle, avec haute disponibilité, sur site comme dans le cloud.","Industrialisez le service de vos modèles d'IA : dimensionnement, haute disponibilité et montée en charge sur site comme dans le cloud.","\u003Cpre class=\"hljs\">\u003Ccode class=\"language-hcl\">resource "kubernetes_deployment" "inference" {\n  metadata { name = "llm-inference" }\n  spec {\n    replicas = 4\n    template {\n      spec {\n        container {\n          name  = "model-server"\n          image = "vllm/vllm-openai:latest"\n          resources { limits = { "nvidia.com/gpu" = 1 } }\n        }\n      }\n    }\n  }\n}\u003C/code>\u003C/pre>",1789740844926]