Public visé & prérequis
Public concerné
- Administrateurs systèmes, ingénieurs infrastructure, responsables sécurité et développeurs
- Professionnels IT devant déployer des solutions d'IA confidentielles sur site (On-Premise)
Prérequis recommandés
- Compétences de base en administration système (Linux / Windows) et notions de conteneurisation (Docker)
Objectifs pédagogiques
- Sélectionner les modèles d'IA Open Source adaptés aux ressources matérielles (CPU/GPU)
- Déployer et configurer un serveur de modèles local (Ollama, LM Studio, vLLM)
- Interfacer une interface graphique d'entreprise sécurisée (Open WebUI)
- Mettre en place une architecture RAG (Retrieval-Augmented Generation) sur données locales
Programme détaillé
Module 1 : Panorama des LLM Open Source et dimensionnement matériel
1 h 30- Écosystème des modèles ouverts (Mistral, Llama, Qwen, Phi)
- Comprendre la quantification (4-bit, 8-bit) et l'empreinte mémoire VRAM/RAM
- Critères de choix : coût matériel, performance, vitesse d'inférence et souveraineté
Module 2 : Installation et configuration d'un moteur d'inférence local
2 h- Déploiement d'Ollama / vLLM en conteneurs Docker
- Gestion et téléchargement des modèles via Hugging Face
- Optimisation des temps de réponse et allocation des ressources d'exécution
Module 3 : Interface utilisateur et intégration RAG locale
2 h- Déploiement d'une interface multi-utilisateurs sécurisée (Open WebUI)
- Principe du RAG local : bases de données vectorielles et intégration de documents d'entreprise
- Gestion de la confidentialité absolue : fonctionnement 100% hors-ligne (Air-Gapped)
Module 4 : Maintenance, contrôle et APIs d'intégration
1 h 30- Exposition d'APIs compatibles OpenAI pour les développeurs internes
- Suivi des performances, métriques d'utilisation et journalisation des requêtes
- Travaux pratiques : déploiement complet d'un serveur d'IA local et test RAG
Modalités d'évaluation & sanction
positionnement initialÉvaluation technique amont sur les environnements Linux et Docker
evaluation formativeMises en pratique sur postes / serveurs de laboratoire
evaluation sommativeValidation du bon fonctionnement d'un conteneur LLM local opérationnel
sanctionAttestation de fin de formation
Moyens pédagogiques & accessibilité
- Environnement de laboratoire équipé de stations/serveurs avec accélération matérielle
- Images Docker et scripts d'installation pré-configurés
- Fiches d'architectures réseau et guides de paramétrage Ollama / Open WebUI
Accessibilité handicap / PMR : formation accessible aux personnes en situation de handicap. Pour toute adaptation spécifique, contactez notre référent handicap à handicap@cftin.fr.