Historique de la page

9h30

10h

L’essor de l’intelligence artificielle générative s’accompagne d’enjeux majeurs de souveraineté, confidentialité et résilience. Pour garantir une IA de confiance, il est essentiel de pouvoir :

• héberger et exécuter les modèles sur des infrastructures souveraines,

• contrôler précisément les flux vers des fournisseurs externes,

• fédérer les ressources de plusieurs acteurs pour gagner en efficacité et en sobriété énergétique

OpenGateLLM (OGL) est la solution open source sécurisée permettant de créer un réseau fédéré (cluster) d’API de modèles d’IA générative. Elle offre un point d’entrée unique et compatible avec le standard OpenAI, assurant ainsi une interopérabilité immédiate avec l’écosystème existant. L'objectif de OGL est de lever toutes les barrières au déploiement souverain de modèles d’IA générative.

Avec OGL, il devient possible de :

• Interconnecter des datacenters souverains, institutionnels ou internationaux de manière sécurisée

• Permet un routage intelligent des requêtes entre les modèles et une priorisation des usages

• Orchestrer tous les modèles open source d'IA générative et tous les moteurs d'inférences disponibles (Ollama, vLLM...)

• Combiner modèles internes et fournisseurs externes (Mistral, OpenAI, Anthropic…)

• Étendre les capacités des modèles grâce à une API modulaire permettant d’ajouter des services à la demande (recherche internet, analyse de documents complexes...)

• Créer et gérer des agents conversationnels utilisant des outils externes pour s'interconnecter avec des logiciels métiers

• Gérer les utilisateurs et leurs accès, leurs organisations et leurs projets. Suivre et contrôler leurs consommations en terme de budget et d'impact carbone. 

Dans un contexte d’émergence rapide des grands modèles de langage (LLM) open source, l’Université  de  Strasbourg explore, via les projets Scolargol et IAAT (des IA pour Apprendre et Tester), l’intégration de l’intelligence artificielle générative pour répondre à des besoins pédagogiques des différentes composantes de formation de l'Université. Le projet IAAT s’inscrit dans la continuité de premières expérimentations du projet ScolarGol présenté aux assises du CSIESR en mai dernier, et vise à construire des services locaux, souverains et maîtrisés fondés sur des modèles performants, économes et sécurisés, avec un partage des ressources commes les GPU.

Nous expérimentons plusieurs approches, notamment le RAG (Retrieval Augmented Generation), qui permet de spécialiser les modèles en injectant du contenu pédagogique (cours, QCM, cas cliniques, etc.) sans nécessiter de réentraînement, ce qui limite les coûts en énergie et en infrastructure. Nous explorons également le développement d’agents via OpenAI Agents SDK ou serveurs MCP ou des orchestrateurs comme n8n pour automatiser certaines interactions. 

Lors de cette présentation, nous proposerons un retour d’expérience sur les expérimentations menées : ce qui a fonctionné, ce qui a posé problème, et les enseignements que nous en tirons pour la suite du projet.

Pause repas sur place 

Si lors de votre inscription vous avez validé et payé la participation au repas

Salle Espace 7

Nous utilisons une IA pour produire des exercices sur notre plateforme d’enseignement.

• Description avec l’enseignant et choix/création un type d’exercice (éventuellement plusieurs dans une activité)
• Création/réutilisation d’un template d’exercice (la création peut prendre de quelques minutes à quelques heures en fonction de la complexité de l’exercice). Ce template (modèle) utilise des données a un certain format que l’on formalise
• Création/réutilisation d'un prompt pour produire les données spécifique à l’exercice en étant très exigeant sur les éléments suivants:
  • aléatoires
  • autocorrigé (ceci est normalement fait par la plateforme mais il faut la bonne réponse ou le bon calcul)
  • avec feedback, en particulier pour les réponses fausses
• Le(s) prompt(s) est utilisé permet la création de plusieurs énoncés ceci est fait en utilisant l’API de l’IA du choix de l’enseignant
• L’enseignant/l’expert vérifie la validité des énoncés et des réponses.
• les exercices sont disponible sur la plateforme.

L’intérêt de cette organisation est une utilisation réduite de l’IA (efficacité énergétique) car l’IA interviens à la création des énoncés seulement et les risques d’hallucinations et d’erreurs factuelles sont réduits grâce à la validation par l’enseignant.

Contexte : Le but du projet ILaaS est de fournir à l’Enseignement Supérieur Français des moyens techniques pour mettre en œuvre l’Intelligence Artificielle en répondant aux défis importants de soutenabilité, de résilience, de confiance et de sobriété numérique. Il vise à offrir une infrastructure d’inférence mutualisée et fiable servant les besoins essentiels de l’ESR, en visant l’équilibre budgétaire, la qualité de service et la sécurité des données. Nous sommes soutenus par le MESR, avec un suivi conjoint de nos travaux par la DGESIP et la DGRI.

Cette présentation sera l'occasion d'aborder les points suivants :

• La répartion la charge d'inférence entre plusieurs Datacentres
• La gérer des priorités d'accès
• La gestion des modèles proposés
• La disponibilité
• La mise à disposition d'API complémentaires à l'inférence (transcription, embedding, OCR, ...)
• L'idée de fournir un service jusqu'à l'utilisateur
  • Portail de transcription
  • Chatbot (avec RAG basé sur l'expérience Rag@Rennes)

Fin des présentations 🍻