Dans vos locaux
Pour ancrer les apprentissages et encourager la dynamique collective.
Situez l'empreinte des différentes approches d'IA, choisissez le modèle et l'architecture d'inférence les moins coûteux pour un besoin donné, réduisez la consommation par le cache et mesurez l'empreinte du service obtenu.
import hashlib
cache_reponses = {}
def appel_modele_frugal(prompt, modele="petit-modele-specialise"):
cle = hashlib.sha256(prompt.encode()).hexdigest()
if cle in cache_reponses:
return cache_reponses[cle]
reponse = appeler_api(modele, prompt)
cache_reponses[cle] = reponse
return reponseCette formation traite l'intégration de l'IA sans faire exploser l'empreinte d'un service numérique, sujet neuf que peu d'organisations savent encore chiffrer. Les participants apprennent à situer l'empreinte comparée d'un modèle de langage de grande taille, d'un modèle spécialisé plus léger ou d'une approche non générative, à arbitrer sur la pertinence réelle du recours à l'IA pour un besoin donné, et à réduire la consommation d'inférence par le cache des réponses, le dimensionnement des appels et le choix d'un modèle proportionné. La formation aborde également la mesure et la documentation de l'empreinte d'un service intégrant de l'IA, à partir des données réellement disponibles. Elle s'adresse aux développeurs, ingénieurs IA, architectes et référents numérique responsable.
Les objectifs
situer l'empreinte des différentes approches d'IA
choisir le modèle et l'approche les moins coûteux pour un besoin donné
réduire la consommation d'inférence par le cache et le dimensionnement
mesurer et documenter l'empreinte d'un service intégrant de l'IA
Public visé
Développeurs, ingénieurs IA, architectes, référents numérique responsable.
Prérequis
Connaissance des principes de l'IA générative et pratique du développement.
Pour ancrer les apprentissages et encourager la dynamique collective.
Pour allier flexibilité et interactions en temps réel avec le formateur.
Pour favoriser la concentration, les échanges et le confort des apprenants.