Antenne locale du réseau ENBIS – co-organisation avec le groupe
Fiabilité et incertitudes de la SFdS
Cette demi-journée a marqué l’inauguration officielle du
réseau français d’ENBIS, dont la mission est de :
Le thème central portait sur la certification des modèles de machine learning destinés à être intégrés dans des systèmes critiques.
Les interventions ont couvert :
Une place importante a été laissée aux discussions, afin de faire émerger des problématiques communes et des pistes de collaboration.
Les présentations ont été enregistrées et sont accessibles aux membres via le
Media Center d’ENBIS.
Format : 25 minutes d’exposé + 15 minutes de questions
Machine Learning in Certified Systems
Les techniques de machine learning sont de plus en plus utilisées pour automatiser des tâches complexes. Toutefois, leur intégration dans des systèmes soumis à des contraintes de certification pose de nouveaux défis en matière de sûreté. Cet exposé analyse les principaux risques introduits par le machine learning et discute les approches techniques et organisationnelles permettant d’y répondre.
Robustness to the Training Distribution
La certification de modèles de machine learning pour des applications critiques nécessite une robustesse vis-à-vis de la distribution d’apprentissage. L’exposé montre pourquoi une performance uniforme sur le support de la distribution est un objectif clé, et présente les travaux menés chez Airbus dans les cadres des projets DEEL et ANITI.
Reinforcement Learning in Risk & Asset Management
Le reinforcement learning a montré des performances remarquables en gestion d’actifs et des risques. Toutefois, son déploiement opérationnel soulève des questions méthodologiques et réglementaires majeures. L’exposé propose un panorama de ces enjeux et des pistes actuelles pour renforcer la confiance dans ces approches.
Domain Knowledge and Explainable Machine Learning
L’absence de justification explicite des décisions reste un obstacle majeur à l’utilisation du machine learning dans les systèmes critiques. Cette présentation explore l’apport des connaissances métier et des graphes de connaissances pour améliorer l’explicabilité des modèles, à travers des applications concrètes combinant IA et raisonnement symbolique.