Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Control for Deep and Federated Learning

Description du projet

Théorie du contrôle pour un apprentissage profond et fédéré fiable

Une base mathématique solide est essentielle à l’évolution de l’Al de nouvelle génération. Le projet CoDeFeL, financé par le CER, développe la théorie nécessaire pour transformer les algorithmes d’apprentissage actuels en systèmes dynamiques prévisibles, contrôlables et conscients des ressources. Il combine la théorie du contrôle avec l’apprentissage profond et fédéré pour établir des principes de conception rigoureux et analyser la dynamique des réseaux neuronaux résiduels, qui utilisent des connexions raccourcies afin d’améliorer la stabilité et l’efficacité de l’apprentissage. CoDeFeL vise quatre objectifs principaux: la prévisibilité grâce à l’analyse de la convergence, l’efficacité sous contrainte de calcul et d’énergie, la fiabilité grâce à des mécanismes de stabilisation et de contrôle, et la protection de la vie privée dans des environnements distribués et sensibles aux données. Ces fondements permettent des développements avancés, notamment la robustesse, l’interprétabilité et des applications dans la médecine numérique et les systèmes de recommandation.

Objectif

Machine Learning (ML) is forging a new era in Applied Mathematics (AM), leading to innovative and powerful methods. But the need for theoretical guarantees generates challenging, fundamental, deep mathematical questions.
This great challenge can be addressed from the perspective of other, more mature areas of AM. CoDeFeL seeks to do so from the rich interface between Control Theory (CT) and ML, contributing to the analytical foundations of ML methods, significantly enlarging, and updating the range of applications of CT.
As our recent results show, classification, regression, and prediction problems in Supervised Learning (SL) and the Universal Approximation Theorem can be successfully recast as the simultaneous or ensemble controllability property of Residual Neural Networks (ResNets). Following this path, we will develop ResNets of minimal complexity and cost, addressing the deep, intricate issue of linking the structure of the data set to be classified with the dynamics of the networks trained.
Taking the turnpike principle as our inspiration, we will build new simplified ResNet architectures. This, however, raises major challenges for the genuinely nonlinear dynamics that ResNets represent.Adjoint methods will also be developed and applied, to understand the sensitivity of ResNets, and proposing techniques for Adversarial Training and computing Saliency Maps, applicable in Unsupervised Learning.
The project is strongly inspired on the challenges arising in relevant applications in digital medicine and internet recommendation systems, among other areas. Accordingly, we will also develop a body of rich, hybrid, cutting-edge methods for data-aware modelling, combining ResNet surrogate models and those inspired on Mechanics, with the aid of Model Predictive Control strategies. New Federated Learning methodologies with privacy preservation guarantees will also be developed.
The computational counterparts will be brought together in a new CoDeFeL GitHub repository.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC - HORIZON ERC Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2022-ADG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

FRIEDRICH-ALEXANDER-UNIVERSITAET ERLANGEN-NUERNBERG
Contribution nette de l'UE
€ 1 185 565,70
Adresse
FREYESLEBENSTRAßE 1
91058 Erlangen
Allemagne
Région
Bayern Mittelfranken Erlangen, Kreisfreie Stadt
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
€ 1 185 565,70

Bénéficiaires (2)