Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime

Descripción del proyecto

Comprender las redes residuales en la teoría del aprendizaje profundo

Las redes neuronales residuales han adquirido gran relevancia en el campo de la inteligencia artificial durante los últimos diez años. Sin embargo, se sabe muy poco sobre los mecanismos que subyacen al aprendizaje de características en estas redes. En el proyecto SM-DeepResNet, financiado por las acciones Marie Skłodowska-Curie, se investigará el aprendizaje residual mediante la aplicación de la mecánica estadística a arquitecturas profundas y totalmente conectadas. Se creará un marco para estudiar las redes residuales profundas durante el aprendizaje de características y formular modelos predictivos que expliquen su comportamiento. También se abordarán cuestiones fundamentales de la teoría del aprendizaje profundo, como el cálculo de exponentes de la ley de escalamiento neuronal y la transferencia de hiperparámetros. Los resultados ayudarán a comprender cómo influyen los datos estructurados, la anchura y la profundidad de las redes en su funcionamiento y contribuirán al desarrollo de nuevas arquitecturas de inteligencia artificial.

Objetivo

"Since their introduction a decade ago, neural networks with residual connections have come to dominate the field of artificial neural architectures thanks to their outstanding performance, and are nowadays the building blocks of most state-of-the-art, scalable AI systems. Nevertheless, despite their widespread use, relatively little is known about the quantitative mechanisms underlying feature learning in these architectures and how to improve their inference capabilities.
To this aim, ""Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime"" (SM-DeepResNet) lays the groundwork to close this gap and achieve a broad theoretical understanding of residual learning. Leveraging recent successful applications of statistical mechanics to the study of deep fully connected architectures, SM-DeepResNet will contributes to: (i) building a novel statistical-mechanics-inspired framework to study deep residual nets in the feature learning regime, providing low-dimensional predictive models that theoretically describe their behavior through scaling limits; (ii) addressing two major open problems in deep learning theory: the computation of the Neural Scaling Law exponents and the implementation of hyperparameter transferability, by analytically exploiting the predictive capabilities of the aforementioned foundational theories.
SM-DeepResNet synergizes the applicant’s core competency in computational physics with the supervisors' expertise in statistical mechanics (host institution) and in deep learning mathematics (associated partner).
The main purpose of this broad program is to unveil the entangled roles of structured data, width and depth in overparameterized deep residual neural networks, ultimately contributing to the development of effective strategies for the next generation of AI architectures."

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-MSCA-2025-PF

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

UNIVERSITA' DEGLI STUDI DI PARMA
Aportación neta de la UEn
€ 396 991,08
Dirección
VIA UNIVERSITA' 12
43121 PARMA
Italia
Región
Nord-Est Emilia-Romagna Parma
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
Sin datos

Socios (1)