Post-doctorant-e recherche en apprentissage décentralisé sûr (H/F)

À propos du poste

- Analyser les enjeux de sécurité, de vie privée et d'éthique liés au déploiement de solutions d'intelligence artificielle (IA) dans des domaines critiques et variés, notamment la santé, la finance et les transports.
- Étudier les méthodes d'apprentissage automatique préservant la vie privée (Privacy-Preserving Machine Learning - PPML) et leur capacité à répondre aux exigences réglementaires et éthiques, notamment celles découlant du RGPD et de l'AI Act.
- Concevoir et évaluer des approches de protection de la vie privée dans des environnements d'apprentissage décentralisé, en particulier dans le cadre de l'apprentissage fédéré.
- Identifier et caractériser les vulnérabilités de sécurité propres à l'apprentissage collaboratif et fédéré, notamment les attaques par empoisonnement de données, l'injection de portes dérobées (backdoors) et les attaques visant la confidentialité des données et des utilisateurs.
- Étudier les mécanismes d'inférence à partir des mises à jour de modèles, notamment les attaques par inférence d'appartenance et par inférence de propriétés, afin d'évaluer les risques de divulgation d'informations sensibles.
- Évaluer la robustesse et la confidentialité des modèles d'IA dans des contextes où les données, les nœuds et les processus d'apprentissage sont distribués et difficilement auditables.
- Étudier les méthodes d'intelligence artificielle explicable (XAI) afin d'améliorer la transparence, l'interprétabilité et la compréhension des décisions produites par les modèles d'IA.
- Analyser les interactions et compromis entre explicabilité, vie privée et robustesse dans les systèmes d'apprentissage décentralisé.
- Développer et expérimenter des méthodes permettant de concilier transparence et protection de la vie privée, en tenant compte des contraintes propres aux environnements distribués.
- Mettre en place des protocoles expérimentaux et des critères d'évaluation permettant de mesurer les niveaux de confidentialité, de robustesse et d'explicabilité des approches étudiées.
- Contribuer à la valorisation et à la diffusion des résultats de recherche, notamment par la rédaction de publications scientifiques, la présentation des travaux dans des conférences et la participation aux échanges avec les partenaires du projet.
- Assurer une veille scientifique et technologique sur les avancées en IA de confiance, apprentissage fédéré, PPML, XAI, sécurité et protection des données.

ACTIVITES

- Concevoir et développer des mécanismes d'apprentissage décentralisé offrant de fortes garanties de confidentialité, une résistance aux comportements malveillants et des capacités d'explicabilité pertinentes.
- Étudier la confidentialité des mécanismes d'explicabilité, en particulier les risques de fuite d'informations susceptibles d'être induits par les méthodes d'explicabilité appliquées aux modèles d'apprentissage fédéré.
- Développer de nouvelles stratégies d'attaque et d'évaluation permettant de caractériser les informations susceptibles d'être divulguées par les mécanismes d'explicabilité.
- Concevoir des mécanismes de protection adaptés permettant de limiter les fuites d'informations identifiées tout en préservant la qualité et la pertinence des explications produites.
- Développer des approches d'apprentissage collaboratif conciliant confidentialité et explicabilité, en tenant compte des contraintes propres aux environnements fédérés et décentralisés.