Missions

Le post-doc contribuera à la tâche 3.1 (Au-delà de la robustesse de la classification locale) et à la tâche 2.3 (Architectures de réseaux neuronaux avancées) du projet SAIF (Sécurité de l'IA par des méthodes formelles) du PEPR IA.

Le premier objectif est la vérification des propriétés de robustesse généralisées des réseaux de neurones, y compris les propriétés temporelles des systèmes cyber-physiques contrôlés par des réseaux de neurones et éventuellement des hyper-propriétés, pour comparer les réseaux de neurones obtenus par sparsification et quantification, et plus généralement toute propriété pouvant être utilisé pour expliquer le comportement du réseau ou du système. Pour évaluer ces propriétés, nous prévoyons de nous appuyer sur des méthodes de vérification basée sur des ensembles de propriétés arbitrairement quantifiées.

Un autre objectif est de contribuer à la vérification des réseaux de neurones récurrents, notamment à l'aide de zonotopes polynomiaux. Cela s'appuierait sur certains travaux de la thèse de doctorat en cours de Nathan Chiche sur le calcul des invariants de systèmes dynamiques par itération de valeurs à l'aide de zonotopes polynomiaux.

Activités

Méthodes ensemblistes
Méthodes formelles,
Intelligence artificielle,
Robustesse et explicabilité,

Compétences

Thèse de doctorat en informatique,
Méthodes ensemblistes et/ou méthodes formelles

Contexte de travail

Le postdoc bénéficiera de l'environnement passionnant de LIX. Il ou elle interagira également avec les membres du projet SAIF (Safe Artificial Intelligence through Formal Methods), du Programme National de Recherche sur l'Intelligence Artificielle PEPR IA.

Le poste se situe dans un secteur relevant de la protection du potentiel scientifique et technique (PPST), et nécessite donc, conformément à la réglementation, que votre arrivée soit autorisée par l'autorité compétente du MESR.

Contraintes et risques

N/A