Contexte et atouts du poste

L'apprentissage fédéré (ou Federated Learning) permet d'entraîner un modèle sur des dispositifs décentralisés ou des serveurs détenant des échantillons de données locales, sans les échanger. L'apprentissage fédéré est applicable dans divers domaines, et dans le cadre de ce projet au delà des aspects scientifiques que nous allons évoquer nous souhaitons l'appliquer sur un corpus ciblé à une formation. Dans le cas présent la formation des actuaires de l'ISFA (Institut de Science Financière et d'Assurances). Au delà de l'intérêt applicatif de la solution, c'est l'approche originale de la conception du framework en lui-même qui sera au coeur du projet et pourra donner lieu à des publications scientifiques et que nous pourrons étendre à d'autres domaines selon la même méthodologie.

Mission confiée

Un des premiers enjeux sera lié à la mise en place de méthodologie de collecte de données par une approche originale via des agents autonomes, ce qui représente en soit un premier défi. L'étude menée devra comprendre et identifier les données. L'ISFA dispose de sa propre base de connaissance mais l'exploitation de la base de données publique des mémoires d'actuariats de l'Institut des Actuaires sera également étudiée.

Il s'en suit une phase de collecte et de préparation des données qui sont incontournables pour la construction du modèle de ML. Ces phases seront des enjeux centraux de notre approche.

La mise en place d'une architecture de Federated Learning sécurisée et dédiée à notre cas d'étude sera mise en place.

Principales activités

Le candidat s'intéressera plus particulièrement à :

• l'apprentissage décentralisé : Au lieu d'envoyer des données brutes à un serveur central, le modèle est envoyé à des appareils individuels où il apprend à partir des données locales.
• l'agrégation des données pour la mise à jour des modèles : Les données des utilisateurs pourront dans le cas de ce projet être assimilé à des données autonomes et seules les mises à jour du modèle, qui sont généralement anonymisées et agrégées, sont partagées ou seront également associées à un type d'agent autonome (appelé SkyWorker dans le cadre de notre framework).
• la mise en place du LLM (Large Language Models) associé. Le modèle d'apprentissage sera pré-entraîné à partir des données spécifiques collectées. Nos données autonomes pourront avoir la capacité interne d'initier la phase de fine tuning permettant de réduire la quantité de données et de fait d'énergie consommée par les ressources lors de la phase d'entraînement.

Compétences

• compétences sur les infrastructures distribués à large échelle.
• compétences en apprentissage décentralisé.
• compétences sur la gestion de données autonome.
• compétences sur les LLM.

Avantages

• Restauration subventionnée
• Transports publics remboursés partiellement
• Congés : 7 semaines de congés annuels + 10 jours de RTT (base temps plein) + possibilité d'autorisations d'absence exceptionnelle (ex : enfants malades, déménagement)
• Possibilité de télétravail (90 jours par an flottants) et aménagement du temps de travail
• Prestations sociales, culturelles et sportives (Association de gestion des œuvres sociales d'Inria)
• Accès à la formation professionnelle
• Participation employeur mutuelle santé (sous conditions)

Rémunération

A partir de 2 692 € brut mensuel selon expérience et diplômes.