DEEL (DEpendable Explainable Learning)

Source de subvention

Professeur(e)s impliqués

• Sébastien Gambs (UQAM) François Laviolette, Giulio Antoniol
• Marc-Olivier Killijian (UQAM) Alain Tapp; Andrea LODI; Christian GAGNÉ; Ettore Merlo; Foutse KHOMH; Jean-François LALONDE; Josée DESHARNAIS; Liam Paull; Mario Marchand; Nadia TAWBI; Nathalie De MARCELLIS; Prakash PANANGADEN; Ruxandra BOTEZ

Résumé

L’application de l’apprentissage automatique aux problèmes complexes de l’industrie aérospatiale, qui possède de hauts standards de performance et de sécurité, nécessite de rendre les techniques robustes, compréhensibles, garantes de la vie privée et ainsi, certifiables par les autorités. Le projet DEEL, issue d’une collaboration internationale entre l’ITS Saint Exupéry en France, l’IVADO et le CRIAQ au Canada, vise à faire un premier pas vers l’utilisation de l’apprentissage automatique par l’industrie aérospatiale canadienne via une collaboration multidisciplinaire entre plusieurs acteurs industriels et plusieurs universités canadiennes regroupant plus d’une dizaine de chercheurs et plus d’une vingtaine d’étudiants gradués et professionnels hautement qualifiés annuellement. Le premier thème traite de la robustesse et consiste à développer des méthodes qui restent efficaces même dans des situations extrêmes non observées pendant l’apprentissage. À cet effet, nous utilisons des mesures de l’incertitude des décisions, la gestion des changements de contextes et la robustesse aux attaques. Le deuxième thème traite de l’interprétabilité et consiste à développer des méthodes qui fournissent des explications à des experts pour leur permettre de comprendre les décisions ou les conseils du système. Les méthodes utilisées dans ce thème se basent sur la transparence du modèle et l’explicabilité d’une décision donnée. Le troisième thème traite de la vie privée par conception et consiste à développer des méthodes qui garantissent la confidentialité des données utilisées lors de l’apprentissage et lors de l’utilisation des résultats. Les méthodes utilisées dans ce thème se basent sur l’ajout contrôlé de bruit et l’utilisation de données chiffrées. Ces trois thèmes ont pour objectif d’améliorer la confiance dans les résultats des systèmes d’apprentissage automatique et de permettre la certificabilité. L’objectif de ce quatrième thème est de développer des techniques de certificabilité de l’apprentissage automatique. Nous proposons de partir des méthodes et des bonnes pratiques de génie logiciel, telles que les tests et les méthodes formelles, afin de découvrir comment les adapter aux méthodes d’apprentissage automatique.