Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime

Description du projet

Comprendre les réseaux résiduels dans la théorie de l’apprentissage profond

Les réseaux neuronaux résiduels ont excellé dans le domaine de l’IA au cours de la dernière décennie. Cependant, nous ne comprenons pas suffisamment les mécanismes qui sous-tendent l’apprentissage des caractéristiques dans ces réseaux. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet SM-DeepResNet s’intéressera à l’apprentissage résiduel en appliquant la mécanique statistique à des architectures profondes et entièrement connectées. Il permettra de créer un cadre pour l’étude des réseaux résiduels profonds lors de l’apprentissage des caractéristiques, en fournissant des modèles prédictifs pour expliquer leur comportement. Le projet s’attaquera également aux principaux défis de la théorie de l’apprentissage profond, notamment le calcul des exposants de la loi d’échelle neuronale et la mise en œuvre de la transférabilité des hyperparamètres. À terme, il aidera à clarifier comment les données structurées, la largeur et la profondeur du réseau influencent les réseaux neuronaux, contribuant ainsi au développement des architectures d’IA de nouvelle génération.

Objectif

"Since their introduction a decade ago, neural networks with residual connections have come to dominate the field of artificial neural architectures thanks to their outstanding performance, and are nowadays the building blocks of most state-of-the-art, scalable AI systems. Nevertheless, despite their widespread use, relatively little is known about the quantitative mechanisms underlying feature learning in these architectures and how to improve their inference capabilities.
To this aim, ""Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime"" (SM-DeepResNet) lays the groundwork to close this gap and achieve a broad theoretical understanding of residual learning. Leveraging recent successful applications of statistical mechanics to the study of deep fully connected architectures, SM-DeepResNet will contributes to: (i) building a novel statistical-mechanics-inspired framework to study deep residual nets in the feature learning regime, providing low-dimensional predictive models that theoretically describe their behavior through scaling limits; (ii) addressing two major open problems in deep learning theory: the computation of the Neural Scaling Law exponents and the implementation of hyperparameter transferability, by analytically exploiting the predictive capabilities of the aforementioned foundational theories.
SM-DeepResNet synergizes the applicant’s core competency in computational physics with the supervisors' expertise in statistical mechanics (host institution) and in deep learning mathematics (associated partner).
The main purpose of this broad program is to unveil the entangled roles of structured data, width and depth in overparameterized deep residual neural networks, ultimately contributing to the development of effective strategies for the next generation of AI architectures."

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2025-PF

Voir tous les projets financés au titre de cet appel

Coordinateur

UNIVERSITA' DEGLI STUDI DI PARMA
Contribution nette de l'UE
€ 396 991,08
Coût total
Aucune donnée

Partenaires (1)