Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime

Descrizione del progetto

Comprendere le reti residue nella teoria dell’apprendimento profondo

Negli ultimi dieci anni, le reti neurali residue hanno ottenuto risultati eccellenti nel campo dell’intelligenza artificiale. Tuttavia, sappiamo ancora ben poco dei meccanismi alla base dell’apprendimento delle caratteristiche in queste reti. Con il sostegno del programma di azioni Marie Skłodowska-Curie, il progetto SM-DeepResNet analizzerà l’apprendimento residuale applicando la meccanica statistica ad architetture profonde e completamente connesse. Ciò consentirà di creare un quadro di riferimento per lo studio delle reti residue profonde durante l’apprendimento delle caratteristiche, fornendo modelli predittivi per spiegarne il comportamento. Il progetto affronterà inoltre alcune sfide fondamentali nella teoria dell’apprendimento profondo, tra cui il calcolo degli esponenti della legge di scala neurale e l’implementazione della trasferibilità degli iperparametri. In ultima analisi, ciò consentirà di chiarire in che modo i dati strutturati, l’ampiezza e la profondità della rete influenzano le reti neurali, favorendo lo sviluppo di architetture di intelligenza artificiale di nuova generazione.

Obiettivo

"Since their introduction a decade ago, neural networks with residual connections have come to dominate the field of artificial neural architectures thanks to their outstanding performance, and are nowadays the building blocks of most state-of-the-art, scalable AI systems. Nevertheless, despite their widespread use, relatively little is known about the quantitative mechanisms underlying feature learning in these architectures and how to improve their inference capabilities.
To this aim, ""Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime"" (SM-DeepResNet) lays the groundwork to close this gap and achieve a broad theoretical understanding of residual learning. Leveraging recent successful applications of statistical mechanics to the study of deep fully connected architectures, SM-DeepResNet will contributes to: (i) building a novel statistical-mechanics-inspired framework to study deep residual nets in the feature learning regime, providing low-dimensional predictive models that theoretically describe their behavior through scaling limits; (ii) addressing two major open problems in deep learning theory: the computation of the Neural Scaling Law exponents and the implementation of hyperparameter transferability, by analytically exploiting the predictive capabilities of the aforementioned foundational theories.
SM-DeepResNet synergizes the applicant’s core competency in computational physics with the supervisors' expertise in statistical mechanics (host institution) and in deep learning mathematics (associated partner).
The main purpose of this broad program is to unveil the entangled roles of structured data, width and depth in overparameterized deep residual neural networks, ultimately contributing to the development of effective strategies for the next generation of AI architectures."

Campo scientifico (EuroSciVoc)

Parole chiave

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) HORIZON-MSCA-2025-PF

Vedi tutti i progetti finanziati nell’ambito del bando

Coordinatore

UNIVERSITA' DEGLI STUDI DI PARMA
Contributo netto dell'UE
€ 396 991,08
Indirizzo
VIA UNIVERSITA' 12
43121 PARMA
Italia
Regione
Nord-Est Emilia-Romagna Parma
Tipo di attività
Higher or Secondary Education Establishments
Collegamenti
Costo totale
Nessun dato

Partner (1)