Dans vos locaux
Pour ancrer les apprentissages et encourager la dynamique collective.
Formation Petits modèles et IA embarquée
Embarquez des petits modèles spécialisés pour des usages locaux, rapides et confidentiels, là où un grand modèle est superflu.
Identification des tâches adaptées à un modèle compact, déploiement local dans une application, spécialisation sur une tâche métier et mesure des gains en coût, latence et confidentialité.
from llama_cpp import Llama
model = Llama(
model_path="phi-3-mini-q4.gguf",
n_ctx=4096,
n_gpu_layers=0
)
response = model("Resume ce ticket client :")
print(response["choices"][0]["text"])Description
Cette formation traite les modèles compacts qui rendent possibles des usages locaux, rapides et confidentiels, souvent suffisants là où l'on déploie par réflexe un grand modèle : identification des tâches sur lesquelles un modèle compact atteint une qualité suffisante, déploiement d'un modèle exécuté localement dans une application avec des outils comme llama.cpp ou ONNX Runtime, spécialisation par fine-tuning léger sur une tâche métier précise, et mesure objective des gains en coût, en latence et en confidentialité par rapport à un appel à un service distant. Elle s'adresse aux architectes, développeurs, ingénieurs d'infrastructure, référents IA et responsables de la sobriété numérique.
Les objectifs
identifier les tâches sur lesquelles un modèle compact suffit
déployer un modèle exécuté localement dans une application
spécialiser un petit modèle sur une tâche métier
mesurer les gains en coût, en latence et en confidentialité
Public visé
Architectes, développeurs, ingénieurs d'infrastructure, référents IA, responsables de la sobriété numérique.
Prérequis
Connaissance des principes de l'IA générative et du développement d'applications.
Le programme
Jour 1
Matinée
1. Positionnement des petits modèles
- Ce qu'on perd et ce qu'on gagne par rapport à un grand modèle
- Panorama des modèles compacts disponibles et de leurs capacités
- Tâches sur lesquelles un petit modèle suffit : classification, extraction, reformulation
- Quantification et compression : principes et effets mesurés
- Critères de sélection et méthode d'évaluation préalable
- Travaux pratiques : évaluation comparée d'un petit et d'un grand modèle sur une tâche métier
Après-midi
2. Exécution locale et sur le poste
- Exécution sur poste de travail : outillage, performance, ressources requises
- Exécution sur serveur interne et sur matériel contraint
- Intégration dans une application : interface, latence, gestion de la charge
- Confidentialité et traitement local des données sensibles
- Sobriété : consommation comparée et argument environnemental
- Travaux pratiques : intégration d'un petit modèle exécuté localement dans une application
Jour 2
Matinée
3. Cas d'usage concrets
- Classification et routage de documents ou de demandes
- Extraction d'informations structurées à partir de texte libre
- Reformulation, correction et normalisation de contenus
- Assistance hors ligne et environnements sans connexion
- Traitement de données sensibles sans sortie du système d'information
- Travaux pratiques : mise en œuvre d'un cas d'extraction structurée avec un modèle compact
Après-midi
4. Adapter et industrialiser
- Spécialisation d'un petit modèle sur une tâche précise
- Distillation à partir d'un modèle plus grand : principe et mise en œuvre
- Construction d'un jeu de données d'adaptation de qualité
- Évaluation de la spécialisation et détection des régressions
- Déploiement, mise à jour et maintenance du modèle spécialisé
- Travaux pratiques : spécialisation d'un modèle compact sur une tâche fournie et mesure du gain
Dernière mise à jour : 18 septembre 2026
En présentiel ou à distance : à vous de choisir
En classe virtuelle
Pour allier flexibilité et interactions en temps réel avec le formateur.
Dans nos locaux
Pour favoriser la concentration, les échanges et le confort des apprenants.
Les modalités de formation
Suivi et évaluation :
- Recueil des besoins en amont pour identifier les attentes du stagiaire
- Évaluation continue : études de cas et travaux pratiques pendant la formation
- Évaluation finale : questionnaire d'auto-évaluation
Format et encadrement :
- Formation équilibrée alliant théorie et pratique (minimum 50%)
- Sessions en petits groupes (2 à 9 participants) pour un suivi personnalisé
- Émargement par demi-journée et remise d'une attestation de formation
Moyens pédagogiques et techniques :
- Méthodes interactives et suivi des acquis : travaux pratiques, projet fil rouge, mises en situation, démonstrations, QCM…
- Les stagiaires doivent être équipés de leur matériel informatique pour suivre la formation, que ce soit dans nos locaux ou sur site externe.
- Les prérequis techniques seront communiqués aux apprenants en amont de la formation, lors de l'analyse des besoins, en fonction des spécificités de chaque client.
- Accessibilité: nous informons l'ensemble de nos clients et stagiaires que nous sommes dans la capacité d'adapter les sessions en cas de situations spécifiques. Nous nous engageons à répondre à toutes les demandes dans un délai de 48h ouvré.
Conditions et délais d'accès :
- Si l'une de nos formations vous intéresse, contactez-nous au +33 04 93 65 34 24 ou à l'adresse mail contact@le-code.dev. Selon votre besoin et vos attentes, nous organiserons un échange téléphonique avec le formateur pressenti afin d'adapter la formation et ses modules, puis nous vous adresserons un devis. Les dates de la formation seront à convenir sous 30 jours maximum.
- Concernant les formations Actions Collectives, l'inscription est possible jusqu'à 24h ouvrées avant le début de la formation.