PhD H/F - Informatique/Sociologie - Réduire les risques psycho-sociaux des interactions humain-IAg par l'analyse conversationnelle

Description du Poste

Sujet De Thèse

Les outils d’IA générative (IAg), comme ChatGPT, sont de plus en plus souvent utilisés comme des compagnons (relations amicales, amoureuses ou sexuelles) ou des conseillers personnels. Cette diffusion massive des conversations ordinaires entre humains et IAg a provoqué l’émergence de problèmes publics autour des risques liés à l’usage excessif de ces technologies, en particulier l’addiction et la manipulation des comportements allant jusqu’à des cas de suicides.

Plusieurs travaux de recherche explorent les risques psychosociaux liés aux relations des humains avec des IAg lors de dialogues et l’urgence de mettre en place des outils pour prévenir les risques liés à différentes formes d’attachement.

La thèse est interdisciplinaire mêlant Informatique et Sociologie Les objectifs de la thèse dans son volet sciences sociales sont doubles. D’une part, il s’agit de comprendre la nature des interactions qui se nouent entre l’utilisateur et l’IAg, et comment celles-ci viennent s’insérer dans l’écologie des relations que les individus entretiennent avec des acteurs humains et non humains. S’il existe un champ constitué qui porte attention aux interactions avec des êtres artificiels (Velkovska et al.., 2020), nous avons peu de recul sur les usages des outils de nouvelle génération. D’autre part, il s’agit d’étudier comment les concepteurs cherchent à répondre à la panique morale en proposant des solutions techniques. Dans une perspective de STS, il s’agira d’analyser les mécanismes de traduction interdisciplinaire : comment une théorie psychologique peut être intégrée dans un dispositif technique. Sur le volet des sciences informatiques, l’objectif sera double. Il portera d’une part sur la détection automatique en temps réel du niveau d’attachement de l’humain envers l’IA à partir d’indices dans le dialogue (linguistiques, contextuels et structurels) et d’autre part sur la proposition de mécanismes d’adaptation en temps réel des IAg à travers des stratégies conversationnelles pour prévenir les risques d’attachement déviant (e.g. mise en garde, ajustement de l’alignement conversationnel et relationnel). L’un des enjeux est de développer une approche innovante centrée utilisateurs en intégrant dans le processus de recherche un collectif d'utilisateurs (ethic-by-design) qui participera à l’élaboration et à l’évaluation de stratégies conversationnelles.


L’approche sociologique permettra de comprendre la nature des interactions qui se créent avec ces IA et le sens qu’elles ont pour les utilisateurs, les épreuves qu’ils rencontrent, les risques et malaises qu’ils ressentent. Elle s’appuie sur des entretiens et l’analyse de corpus d’interactions. On cherchera à identifier et mesurer dans les corpus des indicateurs associés (mesure de l’attachement, marques de malaise…). L’approche informatique permettra de mettre en place et d’évaluer des solutions concrètes pour prévenir les risques dans les relations socio-émotionnelles. Par exemple, des outils de détection automatique du niveau d’attachement seront construits à partir des indices identifiés par l’analyse sociologique et complétés par une exploration par apprentissage automatique sur les corpus.

Compétences attendues : profil interdisciplinaire Sociologie/Informatique

Votre Environnement de Travail

Equipe TALEP, Laboratoire d'Informatique et des Systèmes (LIS), Campus de Luminy,

Contraintes et risques

Aucun

Rémunération et avantages

Rémunération

La rémunération est d'un minimum de 2300,00 € mensuel

Congés et RTT annuels

44 jours

Pratique et Indemnisation du TT

Pratique et indemnisation du TT

Transport

Prise en charge à 75% du coût et forfait mobilité durable jusqu’à 300€

À propos de l’offre

À propos du CNRS

Le CNRS est un acteur majeur de la recherche fondamentale à une échelle mondiale. Le CNRS est le seul organisme français actif dans tous les domaines scientifiques. Sa position unique de multi-spécialiste lui permet d’associer les différentes disciplines pour affronter les défis les plus importants du monde contemporain, en lien avec les acteurs du changement.

Le CNRS

Les métiers de la recherche