Projektbeschreibung
Residuale Netzwerke in der Theorie des tiefen Lernens verstehen
Residuale neuronale Netzwerke haben im Bereich der KI über die vergangenen zehn Jahre einen immensen Aufschwung erlebt. Allerdings sind die Mechanismen, die dem Erlernen von Merkmalen in diesen Netzwerken zugrunde liegen, weitgehend unbekannt. Mit Unterstützung durch das Marie-Skłodowska-Curie-Maßnahmenprogramm erforscht Projekt SM-DeepResNet das residuale Lernen durch die Anwendung statistischer Mechanik auf tiefe, vollständig vernetzte Architekturen. Es wird ein Rahmen für die Untersuchung tiefer residualer Netzwerke während des Erlernens von Merkmalen geschaffen, der Vorhersagemodelle zur Erklärung ihres Verhaltens bereitstellt. Das Projekt wird sich zudem mit zentralen Herausforderungen der Theorie des tiefen Lernens befassen, darunter die Berechnung von Exponenten des neuronalen Skalierungsgesetzes und die Implementierung der Hyperparameterübertragbarkeit. Letztlich wird verdeutlicht, wie strukturierte Daten sowie die Netzwerkbreite und -tiefe neuronale Netzwerke beeinflussen, um die Entwicklung von KI-Architekturen der nächsten Generation zu unterstützen.
Ziel
"Since their introduction a decade ago, neural networks with residual connections have come to dominate the field of artificial neural architectures thanks to their outstanding performance, and are nowadays the building blocks of most state-of-the-art, scalable AI systems. Nevertheless, despite their widespread use, relatively little is known about the quantitative mechanisms underlying feature learning in these architectures and how to improve their inference capabilities.
To this aim, ""Statistical Mechanics of Deep Residual Networks in the Feature Learning Regime"" (SM-DeepResNet) lays the groundwork to close this gap and achieve a broad theoretical understanding of residual learning. Leveraging recent successful applications of statistical mechanics to the study of deep fully connected architectures, SM-DeepResNet will contributes to: (i) building a novel statistical-mechanics-inspired framework to study deep residual nets in the feature learning regime, providing low-dimensional predictive models that theoretically describe their behavior through scaling limits; (ii) addressing two major open problems in deep learning theory: the computation of the Neural Scaling Law exponents and the implementation of hyperparameter transferability, by analytically exploiting the predictive capabilities of the aforementioned foundational theories.
SM-DeepResNet synergizes the applicant’s core competency in computational physics with the supervisors' expertise in statistical mechanics (host institution) and in deep learning mathematics (associated partner).
The main purpose of this broad program is to unveil the entangled roles of structured data, width and depth in overparameterized deep residual neural networks, ultimately contributing to the development of effective strategies for the next generation of AI architectures."
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-TMA-MSCA-PF-GF - HORIZON TMA MSCA Postdoctoral Fellowships - Global Fellowships
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenKoordinator
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
43121 PARMA
Italien
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.