En poursuivant votre navigation sur ce site, vous acceptez le dépôt de cookies dans votre navigateur. (En savoir plus)
Portail > Offres > Offre UMR7039-KONUSE-008 - Postdoctorat (H/F) - Méthodes tensorielles pour les réseaux de neurones : compression et identification

Postdoctorat (H/F) - Méthodes tensorielles pour les réseaux de neurones : compression et identification

Cette offre est disponible dans les langues suivantes :
- Français-- Anglais

Date Limite Candidature : lundi 29 juillet 2024 23:59:00 heure de Paris

Assurez-vous que votre profil candidat soit correctement renseigné avant de postuler

Informations générales

Intitulé de l'offre : Postdoctorat (H/F) - Méthodes tensorielles pour les réseaux de neurones : compression et identification
Référence : UMR7039-KONUSE-008
Nombre de Postes : 1
Lieu de travail : VANDOEUVRE LES NANCY
Date de publication : lundi 8 juillet 2024
Type de contrat : CDD Scientifique
Durée du contrat : 16 mois
Date d'embauche prévue : 1 septembre 2024
Quotité de travail : Temps complet
Rémunération : Entre 3021 et 3451 euros (brut)
Niveau d'études souhaité : Niveau 8 - (Doctorat)
Expérience souhaitée : Indifférent
Section(s) CN : Sciences de l'information : traitements, systèmes intégrés matériel-logiciel, robots, commandes, images, contenus, interactions, signaux et langues

Missions

Grâce aux réseaux de neurones profonds, des résultats remarquables ont été obtenus récemment dans de nombreux domaines : traitement automatique du langage naturel, audio, IA générative et créative... Néanmoins, il existe encore plusieurs problèmes liés à ce type de modèles, notamment l’absence d’interprétabilité et un nombre important de paramètres à stocker ce qui a un impact à la fois sur le plan de la consommation énergétique et du temps d’inférence. Le projet s’inscrit dans la thématique dite de l’Intelligence Artificielle frugale et vise à développer des méthodes tensorielles pour compresser des réseaux de neurones.

Le projet de recherche se situe dans le prolongement d’un projet ANR qui se termine, le projet LeaFleT, qui a permis d’explorer les liens entre analyse tensorielle et réseaux de neurones. Le programme de travail consistera à développer des decompositions multi couches et des méthodes d’approximation de tenseurs par des tenseurs de rang faible. Le but du projet est d’appliquer ces résultats aux tenseurs de réseaux de neurones avec en ligne de mire une application à la compression de réseaux.

Ces travaux nécessitent une connaissance fine en géométrie algébrique afin de tenir compte de la nature géométrique des espaces de tenseurs. L’objectif est de développer des méthodes d’optimisation adaptées à la résolution de ce problème d’approximation et d'obtenir les résultats mathématiques liés à ces algorithmes pour fournir aux praticiens des garanties théoriques, permettant de certifier a priori de l’efficacité de nos approches. Un point clé de l’approche que nous allons considérer est que ces décompositions vont permettre aussi d’améliorer l’interprétabilité et l’identifiabilité des représentations compressées, ce qui va avoir un impact sur les propriétés numériques de notre pipeline de compression.

Activités

* l'étude de la structure algébrique des décompositions tensorielles multi couches
* le développement d'algorithmes pour la compression des réseaux de neurones
* la rédaction d'articles scientifiques
* la participation à des conférences nationales et internationales
* la participation aux réunions avec les partenaires du projet

Compétences

* le doctorat en mathématiques
* bonnes connaissances sur l'un ou plusieurs des sujets suivants : géométrie algébrique, géométrie complexe, fibrés vectoriels
* compétences en programmation (maîtrise de SageMath, Python et / ou C++)
* maîtrise de l'anglais (écrit et oral)

Contexte de travail

Le CRAN est une « Unité Mixte de Recherche ‐ UMR 7039 » commune à l’Université de Lorraine (Pôle scientifique « Automatique, Mathématiques, Informatique et leurs Interactions ‐ AM2I ») et au CNRS (Institut « CNRS Sciences Informatiques »). Le laboratoire totalise près de 250 membres : au 1er janvier 2024, on dénombre 120 chercheurs ou enseignants-chercheurs et une centaine de doctorants, post-doctorants et chercheurs invités. Le laboratoire est organisé en trois départements CID, MPSI et BioSiS :
- Le département CID (Contrôle Identification Diagnostic) regroupe l’ensemble des activités de recherche du CRAN portant sur l’automatique des systèmes dynamiques continus et cyber-physiques;
- Le département MPSI (Modélisation Pilotage et Sûreté des Systèmes Industriels) étudie de manière privilégiée les systèmes industriels qui relèvent pour l’essentiel des domaines d’application de l’industrie du futur, des systèmes cyberphysiques, des réseaux de communication, des transports, du bâtiment et de l’énergie.
- le département BioSiS (Biologie, Signaux et Systèmes en Cancérologie et Neurosciences) associe biologistes et cliniciens aux spécialistes du numérique. Les recherches en santé, tant fondamentales que translationnelles, concernent les domaines de la cancérologie et des neurosciences. Les recherches en traitement du signal sont de nature amont ou appliquées, privilégiant les applications en santé.
La personne recrutée intégrera le département BioSiS et notamment le projet SiMul (Signaux Multidimensionnels). Le laboratoire est réparti sur 8 sites. La personne recrutée sera sur le site campus Aiguillettes de la Faculté des Sciences et Technologies.



Le poste se situe dans un secteur relevant de la protection du potentiel scientifique et technique (PPST), et nécessite donc, conformément à la réglementation, que votre arrivée soit autorisée par l'autorité compétente du MESR.