Déployer Ollama et des modèles IA open source (Mistral…)

Comprendre Ollama et les modèles IA open source
Panorama des modèles IA open source (Mistral, LLaMA, autres) et cas d'usage en entreprise
…/…
Atelier pratique : prise en main d'Ollama en local sur poste de travail (installation rapide et premier prompt avec un modèle Mistral)
Préparer l'infrastructure pour un déploiement en entreprise
Préfigurer l'architecture cible : serveur unique, cluster, intégration avec les SI existants
Pré-requis matériels : CPU vs GPU, RAM, stockage, bande passante, dimensionnement de base
…/…
Atelier pratique : définir une architecture cible et une fiche de dimensionnement pour un premier serveur Ollama d'entreprise
Installer et configurer Ollama sur un serveur
Installation d'Ollama sur un serveur Linux : étapes clés et vérifications indispensables
…/…
Atelier pratique : installation complète d'Ollama sur un serveur de test et vérification d'accès via API depuis un poste client
Gérer les modèles Mistral et autres modèles IA
Télécharger, installer et mettre à jour un modèle Mistral avec Ollama (pull, list, remove)
Comprendre l'impact des différentes tailles de modèles (7B, 8B, 12B, etc.) sur la performance
…/…
Atelier pratique : déployer plusieurs variantes de modèles Mistral, comparer leurs temps de réponse et ajuster les paramètres d'inférence
Exposer Ollama aux applications internes
Découvrir l'API HTTP d'Ollama : endpoints principaux, formats de requêtes et réponses
…/…
Atelier pratique : développer un petit service interne (chat ou complétion de texte) connecté à un modèle Mistral déployé sur Ollama
Sécuriser et gouverner l'usage d'Ollama en entreprise
Identifier les risques : fuites de données, prompts sensibles, dérives d'usage
Mettre en place des restrictions d'accès par réseau, authentification et journalisation
…/…
Atelier pratique : définir une politique d'usage et un document de bonnes pratiques IA pour les utilisateurs internes
Supervision, optimisation et maintenance du service Ollama
Surveiller l'activité : logs, métriques de performance, consommation CPU/GPU/RAM
…/…
Atelier pratique : construire un mini plan d'exploitation (monitoring, sauvegarde, mises à jour) pour le serveur Ollama d'entreprise
Bilan et plan d'actions pour le déploiement en production
Synthèse des choix techniques et organisationnels réalisés pendant la formation
…/…
Atelier pratique : élaborer une feuille de route personnalisée pour passer du serveur de test à un service Ollama opérationnel en production