Faire tourner une IA sur ses propres machines
Date de mise à jour :
Identifiant Offre Info : 06_26222616F
Organisme responsable :
KOALITY
(ouvre dans un nouvel onglet)
Présentation de la formation
Objectifs
À l'issue de la formation, le participant sera capable de : expliquer les différences entre l'utilisation d'un modèle d'IA dans le cloud et son exécution sur une infrastructure locale ; identifier les principaux avantages, contraintes et cas d'usage d'une IA exécutée sur ses propres machines ; distinguer les notions de modèle ouvert, modèle à poids ouverts et service d'IA propriétaire ; évaluer si une machine ou une infrastructure dispose des…
- expliquer les différences entre l'utilisation d'un modèle d'IA dans le cloud et son exécution sur une infrastructure locale ;
- identifier les principaux avantages, contraintes et cas d'usage d'une IA exécutée sur ses propres machines ;
- distinguer les notions de modèle ouvert, modèle à poids ouverts et service d'IA propriétaire ;
- évaluer si une machine ou une infrastructure dispose des ressources nécessaires pour exécuter un modèle d'IA ;
- installer et exécuter un modèle de langage local à l'aide d'un outil adapté ;
- comparer plusieurs modèles selon leur taille, leurs performances, leurs besoins matériels et leur adéquation avec un usage donné ;
- identifier les principaux points de vigilance liés aux données, à la sécurité, aux licences et à la maintenance d'une solution d'IA locale.
Programme de la formation
Comprendre l'IA locale Différences entre une IA utilisée dans le cloud et une IA exécutée localement. Comprendre ce qu'est un modèle de langage et ce qui est réellement installé sur la machine. Distinguer modèles propriétaires, modèles ouverts et modèles à poids ouverts. Identifier les situations dans lesquelles une exécution locale peut être pertinente. Comprendre les besoins matériels Identifier les principales ressources mobilisées par un modèle : mémoire, processeur,…
- Différences entre une IA utilisée dans le cloud et une IA exécutée localement.
- Comprendre ce qu'est un modèle de langage et ce qui est réellement installé sur la machine.
- Distinguer modèles propriétaires, modèles ouverts et modèles à poids ouverts.
- Identifier les situations dans lesquelles une exécution locale peut être pertinente.
- Identifier les principales ressources mobilisées par un modèle : mémoire, processeur, carte graphique et stockage.
- Comprendre l'influence de la taille et de la quantification d'un modèle sur ses besoins matériels.
- Évaluer les capacités d'une machine existante.
- Choisir un modèle compatible avec les ressources disponibles.
- Installer un environnement permettant d'exécuter des modèles d'IA sur sa propre machine.
- Télécharger et lancer un premier modèle.
- Interagir avec le modèle et observer ses performances.
- Tester plusieurs modèles sur des tâches comparables.
- Comparer différents modèles selon leurs caractéristiques et leurs licences.
- Prendre en compte la qualité des réponses, la vitesse et les ressources nécessaires.
- Identifier le compromis entre performances et coût matériel.
- Sélectionner un modèle en fonction d'un besoin professionnel donné.
- Comprendre comment un modèle local peut être utilisé depuis une interface ou une application.
- Identifier les possibilités de connexion avec des documents, applications ou outils internes.
- Comprendre la différence entre l'exécution du modèle et les services construits autour de celui-ci.
- Confidentialité et maîtrise des données.
- Sécurité de l'installation et gestion des accès.
- Licences et conditions d'utilisation des modèles.
- Mise à jour, maintenance et évolution des modèles.
- Identifier les situations dans lesquelles une solution cloud, locale ou hybride est la plus adaptée.
Validation et sanction
Type de formation
Non certifiante
Niveau de sortie
Sans niveau spécifique
Durée, rythme, financement
Financement
- Conventionnement
- Non
- Financeur
-
- Entreprise
Conditions d'accès
Publics visés
- Salarié
- Tout public
Niveau d'entrée
Sans niveau spécifique
Conditions spécifiques et prérequis
- Une aisance avec l'installation de logiciels et la configuration d'un poste. - Une compréhension basique du fonctionnement d'un modèle d'IA générative. - Un ordinateur sur lequel le participant dispose des droits nécessaires pour installer des logiciels. - Une configuration matérielle compatible avec l'installation prévue, à valider avec le formateur avant la session. - Disposer d'une connexion permettant le téléchargement de plusieurs gigaoctets. Le ou les modèles utilisés peuvent être téléchargés avant la session, selon les consignes transmises avec le questionnaire de positionnement.
Lieu de réalisation de l'action
Modalités d'enseignement
Formation entièrement en présentielle
Adresse
19 Place du Maréchal Foch29260 Lesneven
Responsable : KOALITY
Périodes prévisibles de déroulement des sessions
Début
Fin
- Adresse d'inscription
-
19 Place du Maréchal Foch
29260 Lesneven - État du recrutement
- Ouvert
- Modalités
- Entrées / Sorties à dates permanentes